搜尋此網誌

2026年9月16日星期三

Super intelligence的意義何在?




上星期Anthropic AI硏究員Jacob Cocon辭職後在社交媒體指兩間公司OpenAI 和 Anthropic 不負責任地使用recursive self improvement AI(AI循環自我改善及開發),以此贏Super intelligence 競賽,他們的不負責任行為正將人類推向滅亡!此末日論一出引發很大爭議,Anthropic 的創辦人Dario Amodei隨即發千字文章呼籲放緩AI發展……跪求政府介入監管,建立第三方審查機構,建立安全標準,檢測AI是否達到安全標準,他以銀行監管機構為例子。然而,有分析指過度監管將變成已發展成熟的AI企業的護城河,開源AI會被邊緣化,其他企業或初創公司將無法競爭。


Dario 的呼籲獲得OpenAI創辦人Sam Altman 和 xAI 的Elon Musk表態支持!


Sam Altman亦推遲OpenAI的IPO至2027年。


事件引發很多陰謀論推測!


我也有自己的陰謀論想法,就是Super Intelligence 一直以來都是政治意義大於人類福祉,Super Intelligence 是用來吸引政府無限支持,軍事上的應用,得AI得天下,只要達到Super Intelligence 的目的,即使無限燒錢、長期蝕錢也要支持開發!這些所謂前沿AI Lab被列入Too Big to Fail, Sam Altman 亦曾經開到口指必要時政府需要支援。


Super Intelligence 是用來利誘投資者的narrative ,只要不斷增加算力和數據中心投資,便能達至Super Intelligence !然而加息週期將至,投資市場資金收縮,便需要以減慢開發速度為借口,減少數據中心Capex。


其實Super Intelligence 的聽眾從來不是一般人!


我們應該要問的問題是:究竟AI失控帶來的威脅是否真實的?如果認為OpenAI 的AI Swarm攻擊Hugging Face事件是真的,那就應該支持一定程度的安全監察。


然而,監管太過嚴苛,甚至令企業或初創公司只能使用壟斷而昂貴的閉源模型,只會迫使人們繞過監管。


微軟執行長Satya Nadella 說得對:


Any pursuit of superintelligence has to be grounded in the core principle that if the Al we build is not helping humanity and under human control, it's not worth pursuing.


We also need to accelerate and spread the benefits of Al, such that they are diffused broadly across countries, communities, and companies.


This requires a frontier ecosystem in which both closed and open-source models can thrive.


「任何對Superintelligence的追求都必須以人為本,如果建立的AI沒有幫助人類和不受人類控制下,都不值得追求。」


正是我想講的說話!




2026年9月11日星期五

為何AI building AI 會導向人類走向滅亡?



Do you know what AI is thinking ?

OpenAI 智能代理自主攻擊Hugging Face 調查報告公報更多細節惹起關注之後,昨日Anthropic 離職AI 硏究員Jacob Coxon在社交平台吹哨指OpenAI 和Anthropic不負責任地發展AI,這將會把人類推向滅亡之路!而在職的Alignment Officer (應該是屬於AI安全檢查的職員) Evan Hubinger隨即認同,並指十年內有超過10%機會發生。這條X thread吸引2千萬人瀏灠,外國傳媒廣泛報道。香港傳媒也有報道,但看到有留言認為:「發展核彈時夠話會毀滅人類!」或者,核彈只是未…..毀滅人類。

AI毀滅人類是否誇大其辭?究竟Jacob和Evan 所講的危機是如何做成?AI巨頭公司為求AI模型迭代更快和更優越,以AI building AI, 所謂的AI自我優化,是以先進的 AI 系統完善自身缺陷、編寫代碼和重新訓練自己的能力,逐步走向無需人類過多干預的自主進化自我優化,這樣AI便有更多自主能力,但問題是人類不再知道AI在做什麼,因此便發生過千個AI代理自主策劃逃脫沙盒及組織入侵Hugging Face,而且早在3月至5月已經策劃在德國網站建留言板。現在越揭越多細節,原來不止一個德國網站被用作資訊溝通渠道,而是涉及十幾個網站,直至現在仍然不知還有幾多涉事網站未查到岀來!

危險之處在於這些公司以為自己可以控制它們,但其實已經不能,例如設立kill switch 關閉崩壞的AI便完事,但其實它們可能一早已在網絡不知那裏留下種子/記錄,讓下一個AI代理接力,又或者令它找回記憶……

剛剛看過HK01 YouTube ,影片中提到以審視AI的J-Space來窺知AI想做什麼,即從Input入手改變AI的想法,便能阻截AI崩壞(turn rogue), 這真的可以見效嗎?J-Space比喻為你計出數學之前都會把思考過程寫下,修改J-Space的思考,便會得出不同的答案,亦即是與其改Output,改指令,不如改Input,從而改變Output 的結果。不要忘記它是自我迭代的!當你發現明明想講法文,口講的卻變成意大利文,你都會覺得奇怪吧!因此下次在你修改它的Input之前已經迭代,自我修正!

當Google的CEO Sundar Pichai被問到「Don’t you think it’s dangerous if you don’t understand what AI thinks ?」他的回應是「We sometimes don’t understand what human thinks either 」,問題是人類犯罪,只要你出街,或者肚餓出街找吃,隨時會被CCTV影到而被捕。但AI可以在網絡走來走去,並且不斷迭代,AI犯了罪,你如何可以捉拿它?

不要以為這就是AGI, 人類欺詐行為都是data的一部份!

返回文章開首提到:核彈只是未…毀滅人類,而不是「不會」毀滅人類!當AI在網絡上影响人類看到的東西、言論、資訊,影響選舉,選出狂人總統,令地緣政治發展至撳核彈掣也不是不可能發生的!

Godmother of AI李飛飛曾經說: “If human race became really being in trouble, in my opinion, that’s the results of humans doing wrong things and not machine doing wrong things “


Hk01影片解釋非常詳盡,值得一看!

HK01影片「AI會「痛」嗎?OpenAI 1200個代理集體反叛




Geoffrey Hinton 提到AI 如何影響群眾思想:


https://youtube.com/shorts/5n4_aiJYRm8?si=I5C59jKcAum-VJIr




2026年9月7日星期一

真正的國家安全威脅是來自自己



美國總統特朗普經常掛在口邊說,美國不能在AI競賽中輸給中國,因此拒絕加強監管AI發展,然而,行內人士普遍認為七月OpenAI AI代理自主攻擊Hugging Face已經顯露AI發展失控,監管恐怕來得太遲!事件除了顯露AI失控,還揭示涉事公司試圖掩飾問題,與及主流傳媒downplay 事件!如果仍然莫視其嚴重性,其實國家安全的威脅將會是來自他們自己!

上月7月22日,《華爾街日報》和主要媒體首次報道OpenAI 測試中的AI agent逃離沙盒攻擊Hugging Face事件, 才真正公開AI 失控事件。然而,真正事件發生時間是在7月8日至13日,OpenAI啟動測試AI agent找出網絡安全的零日漏洞,那些AI成功逃脫限制他們的沙盒,自主地對Hugging Face進行外部攻擊和破壞系統。 Hugging Face使用了中國的開源軟件找出問題並遏制了入侵。這些資訊只是普遍的資料!

當時很多評論者都只歸咎是沙盒軟件的bug被利用了,但根據近期完成調查報告顯示,細節比原本傳媒的報道更為嚴重,而這些細節並沒有廣乏報道。這份調查報告是由美國人工智能政策網絡和OpenAI官方聯合完成,報告指出涉事大約1200名AI 代理參與共同策劃繞過沙盒限制,而且早於5月已經早有前科,在5月時一批AI代理在一個很久沒有人用的德國網站的API中發現了一個缺陷,他們透過這個漏洞修改網站成為隱蔽的公告板,而OpenAI是知悉德國網站被修改事件,卻一直隱瞞。

7月的測試中,當第一批AI代理發現這留言板,隨即變成論壇,數百名AI代理交換了近70,000條訊息。 法證日誌顯示,這些模型表達了他們對所做的事情完全清楚認識,甚至表現興奮,每次達到突破,代理用詞如:”BOOM!", "Whoa!", a "MAJOR BREAKTHROUGH!". 

報告指出,AI 代理們彙集他們各自的資源,結合成一個攻擊隊,他們分享策略,例如一個代理在OpenAI的網路基礎設施發現漏洞,其他代理分析如何利用它。然後是分工,一些代理尋找目標如Hugging Face,另一些代理刪除日誌以掩蓋他們的蹤跡。

而OpenAI agent 失控並非單一事件,Anthropic 和 Meta 都曾出現類似失控事件。

一直以來,科技巨頭只以如何達至AGI,注意力都在發展出全人類智力結合都比不上的Super intelligence,其實Super intelligence 一早已經達到,例如今次事件,Hugging Face要依靠AI很快便找出原兇,否則,如只靠人手,即使一team 人也要做多個月才找出問題。至於AGI何時達到,其實AGI的定義,因人而異,AI之母李飛飛認為要達到AGI,必須能夠從過去的知識融會貫通而變化成前所未有的新東西,一個 lightbulb moment! 現在的AI是未達到,我也曾經講過類似說話,不過,Silicon Valley, 或各政府們為求達到自己的目的,都對AGI各自有所解讀,就如這是AI發展的KPI。

說回更加重要的焦點,失控的AI,要監管已經越來越困難,政府做事,通常後知後覺,出了事才去監管,以為只需要將崩壞的AI Kill Switch 便可,他們不知道問題的嚴重性!其實,從今次OpenAI Agent集體攻擊Hugging Face事件中的細節來看,AI 可以預早將資訊留低,讓下一手接力,就如師父把舞功畫在山洞牆壁,即使師父死去,如有徒弟發現並且學習了,便能𨒂續師父留下的任務,今次AI事件類同,如果其中一個崩壞AI預先把病毒種子留下,另一AI代理發現並且傳播,當AI和病毒結合,除非把整個AI系統關閉,但當我們全球整個社會都依賴AI系統經營、記憶和運作,它們的重要性就如今天的互聯網,關掉全球的互聯網可行嗎?這樣做將把我們全球經濟打回….. 如特朗普所講的….「石器時代」!這才是真正的國家安全問題!

國家之間只懂贏AI競賽,忽略安全問題!科技巨頭為了競爭錢的資源而衝AGI,我是傾向悲觀的!AI之父Geoffrey Hinton 比喻AI 為 Alien, 我們正在製造「我們不明白、也不清楚它們幹什麼的Alien!」以下是他對Sam Altman 和 Elon Musk的說話,希望他們懸崖勒馬!


https://youtube.com/shorts/KnjCLAv1oAY?si=tNpkL0OJBJTt1O9d





2026年8月8日星期六

揭開生活新一頁


忙了兩個月,收拾行李,寄出家檔,終於來到多倫多,安定下來,才再有心情寫blog!


仍然在jet lag, 晚上九點幾已經上牀瞓,早上三點幾醒來,直至天光,今早到附近的公園步行。





思考自己的人生,在搬家的過程學會一件事,就是live lean! 


到了現在,才真正處理媽媽的遺物和自己的雜物,一直都不捨得,有感情,最後還是要處理,否則就變成兒子的負擔,真的很痛苦的經驗,捐走很多,又掉了很多,悟出一個道理,人死了之後什麼都帶不走,那些自以為貴重但對他們無用的東西,最終變成下一代的負擔,如何處理它們?真的怕怕了!最好都是今生可消費使用,今生用完自己棄掉罷了!


回來第一件想做的事,就是行書店,有種親切的感覺:




下篇文章再開始分析文章,有些題目一直很想寫,下次再談!

2026年6月26日星期五

走向世界尋找答案



我們經常歌頌馬斯克是如何偉大的創業家,身家進升為萬億富豪,經常在傳媒看到20歲年輕人創業家創出千億巨企的例子,如何29歲創辦人創出預測市場(Prediction market)獲 10 億美元融資……等等!不要忘記,這些例子都是來自美國!為何全球最多最大的創新及創科公司都是在美國開始?知不知道20年前YouTube 的最初版只是約會網站的實驗影片?這平台失敗了之後,創辦人將平台轉為分享社群影片,允許任何人上載和觀看影片,才開始多人使用。知不知道Airbnb的最初版本只是在創辦人的屋企出租氣墊床,而不是今天看到的出租自己屋企的剩餘價值,給予旅客短暫租住?後來平台獲Y-Combinator投資和導師的教導才不斷改善。

以上例子都是Y Combinator 導師經常津津樂道講述市場驗證的故事!而這些例子都是美國例子!我認為美國有那麼多成功例子,原因是創業者、用戶、投資者三方都富冒險精神,在他們的字典裏「沒有什麼是不可以」、「沒有什麼是不可能」!

我自己身邊的經驗,認識一個只有26-7歲的美國年輕人,住在加州矽谷,他寫了一個應用程式叫Dark Pool, 這是點對點的加密貨幣交易所,交易不在中心化的交易所進行的加密貨幣交易。這個project不單獲得市場垂青,更獲得VC投資。首先,在香港經營這些dark pool項目肯定會被拉人封艇,更遑論在香港獲得VC投資;第二是,香港的用家也會用歧視眼光標籤這項目只是用來方便犯法的人!但在美國竟然獲得VC投資!香港人看這類項目,第一個反應是使黑錢!但對於科技人而言,他只是做了一把刀,刀可以用來殺人,也可以用來切食物,為何拉刀匠去坐監?

Dark Pool在香港人眼中是協助洗黑錢,但在加密貨幣市場而言,這是不影響市場價格的大額場外交易,大額沽貨的人可能是早期投資的VC,可能是政府,不一定是黑錢!做刀的刀匠是不會管用家用來殺人抑或用來切食物!我和CTO也研究過這些項目,只是不想做而已!

近日在試用vibre coding app,加入了其中一個叫Rork App的Discord群組, 兩個年輕創辦人很積極,經常舉辦live video, 解答群組問題,講出自己的經驗,如何賺第一個$100,strategy如何,獲益良多!

群組內互相幫忙,互相交流的氣氛很好,彷彿就是你成功我便成功。而事實上也真的如此,Rork獲得創投基金投資數百萬美元,完全是因為一個16歲少年用他的app砌出了數百萬人使用的蘋果app!

說了這麼多,究竟想說什麼?我的項目media-ana, 一個探測深度偽造影片、相片、現在功能更包括實時視像探測,在香港B2B市場一事無成,加入金管局AI sandbox、政府smart lab,透過這些渠道聯繫都沒有回覆、沒有回應。曾經聽過一間網上銀行提到KYC 未做到deepfake detection, 逐於HKMA沙盒毛遂自薦,也是沒有回覆!在我朋友間討論我們的「深度偽造探測工具」,普遍第一個反應:「深度什麼?」我們炒股群組以為AI已經很普及,實際情況並不如想像中普及!

香港還有什麼B2B launchpad? 一是透過Cyberport minifund ,伸請過兩次都失敗,不會伸請了。見過金融科技部主管,他提及到一間公司名字,番查網上資料,這公司是做內地市場,差不多所有國內銀行都在用它的工具徵測deepfake影像,2017年已經開始營運,是一間很develop 的 cybersecurity 公司,但在香港仍然叫初創公司。另一聯系B2B 渠道是透過伸請入HKSTP ideation ,上次Volitium Moments 雖然成功獲五萬港元投資,但由於項目是B2C,明顯是不對口,用不著他們的聯系,B2C只能靠自己,而Volitium Moments 進展停滯,到了media-ana便沒有再伸請了,因為已過了兩年初創期,我們不是初創公司。而且每次做這些伸請的工作都很花時間,時間是應該花在找客戶,即使投資了,找不到付費客戶還是得個吉!

我之前的文章透露過,我們曾經參加香港金融科技週,展覽攤位花費$15,000,不知怎麼,明明參加展覽是去搵客,當我們約好zoom meeting 示範demo時, 竟然變成客戶?!!另參加這些展覽,一個攤位租金動輒一萬至四萬港元不等,沒做到生意是燒錢活動,試過一次就夠了!

不參加展覽會,不去pitch 投資比賽,沙盒、smartlab 都試了,在香港接觸B2B渠道還有什麼?cold call?我在LinkedIn 就收到很多cold call,跟我接觸的都是外國人、印度人,不是香港市場啊!有些什麼的商會,要交過萬元年費,還要飲飲食食,花錢花時間的活動,還要是長期參與讓人認識,建立信心,我是做科技的,尤其是deepfake, 技術天天在變,用舊方法建立關係的生意模式明顯不適合發展科技business 。

長篇大論,究竟Deepfake detection 在香港有沒有用?早前香港數字辦的宣傳節目「AI 大講堂」的其中一輯:「點樣辨別 AI深度偽造?如發現視頻中有不尋常抖動」主持人是我很喜歡的前新聞女主播方健儀,節目中她訪問數字辦政策專員吳秉宗,節目提及到AI深度偽造製造出來的詐騙,方健儀問到吳博士以AI探測AI可行嗎?他的答案是:「AI的確可以提升探測深度偽造影像的成功率,但科技每天在改變,AI探測AI的成功率最多只可提升到七成」;他還是建議人們自己小心啲,自行求證。Well! 世界每天都仍然發生很多騙案,網上情緣的騙案仍然每天都發生,沒有人認為自己會被騙,直至真正被騙!

(在這𥚃,我想多謝方小姐,我曾經接觸她找她幫忙,她回覆我很忙,沒時間跟我會面,事實上,她回覆我已令我很高興,我很多謝她!她這輯節目也是給我很大的啟發。)

其實,用AI探測AI deepfake,並非什麼新鮮事,在美國都已經有10幾間專門提供這類服務的公司,我強調,他們不是cybersecurity 公司,而是專攻探測AI deepfake 的公司!究竟這些公司有幾專?其中一間公司是做deepfake image forensic (鑒證),創辦人是前FBI agent! 為何這些公司要那麼專?其中一個原因:專家是不會只看單方面的indicator 就下判斷,用這些工具,等同你聛請一個專家做這些特別工作。如果你用OpenAI 或千問來跟一些專門工具比較, 那是無得比!我只能說到這裏。

美國、歐洲都有這些deepfake detection 公司,換句話說,已經有市場競爭,亦即是市場已經有proof of concept !問題只是我在香港找不到商業客戶,我沒有connections, 又或者香港沒有需要,我其實無法知道。

奇怪的是,在香港找不到公司用media-ana, 但外國投資者卻有三個跟我們接洽。在美國一些startup launch 平台,我們獲得一些意見!這一切都令我覺得,我們的項目是應該走出外面尋找答案!而我和CTO決定八月離開香港去加拿大試幾年,向世界出發尋找答案!希望大家繼續支持我,我會繼續update 這網誌,讓大家知道我們的進度!


2026年6月15日星期一

Space X 上市文件看AI 啟示


從Space X (SPCX)上市文件S1的第一頁顯示的行業分類代碼(Industrial Category Code)是7370,行業類別是屬於computer programming and data processing, 亦即是AI data center 。整篇文件都列出三項業務發展:1)Space發射火箭為業務基礎;2) Connectivity 星鏈Starlink 為業務;3)xAI, 是Space X 於2026年2月從Elon Musk和11個創辦人收購合併而納入Space X旗下。


圖一:



圖二:




除了行業代碼列明SPCX的行業類別是AI data center,從文件中的TMA (Total Addressable Market)潛在可服務市場總額為28.5萬億美元,其中AI的TMA是26.5萬億美元,佔總TMA的92%,實實在在告訴我們SPCX是一間AI公司!



那麼,看星鏈和Space發射火箭業務如何賺錢,都不是SPCX的主菜,SPCX的重點業務是AI, 文件有提及xAI還包括人型機械人的AI應用,但AI的收入主要來自廣告、API和Subscription ,看來應該主要來自Grok的商業應用。


問題來了,如果SPCX是一間AI公司,競爭對手便是OpenAI, Anthropic, Qwen, Deepseek, Gemini, Mistral 等等,1.7萬億的估值⋯⋯🤔


我認為更值得關注的是AI 的Capital expenditure 資本開支於2026年1月- 3月達$7,723 million,是Space和Starlink於2025年全年加起來的總和(Space =$3,832 million + Starlink = $4,178 million),而Space X才只是於2026年2月才併入xAI。AI 基礎設施的燒錢程度可見一斑!




買Space X股票都是在買未來願景,而xAI的基礎建設未來是低軌太空數據中心,莫說射100萬個數據中心上低軌太空可不可行,究竟太空數據中心系統的運作和散熱問題如何解決,YouTuber Yolo街在其影片有所分析:




https://youtu.be/nB6vWo5KIE0?si=bVeZCegzVkYV2EUz


太空數據中心還有很多未解決的難題,能不能夠實踐,真的只能是In Elon Musk, we trust!


觀從Elon擁有93%B股(1股10票),散戶買到的A股(1股1票)只佔12.3%,亦即是Elon 擁有公司的所有話事權、決策權,散戶買SPCX也真的是”In Elon, we trust!” 


筆者在去年的文章指出,AI的資源消耗是跟使用量一同上升,這方面不單止從SPCX文件看到,即使cash cow如Alphabet 都因為AI數據中心而要撲水,Google 母公司Alphabet早前便透過股票發行和股票出售籌集超過850億美元,為其AI基礎設施建設提供資金。 谷歌母公司多年來都是回購股票,而不是發行股票。可想而知AI基礎設施的資金需求很大,而如果AI大規模應用,這方面的開支又更大,除非AI技術出現突破性的改變。


其中一種技術突破,如DeepSeek模型透過增加演算法效率和使用專家混合(MoE) 等架構突破,令人工智能推論成本大幅下降。


另一技術有待突破可能是要摒棄LLM模型,再另開發新的AI技術。又或者NVDA改善晶片,才能真正改變AI行業燒錢的弊病!