搜尋此網誌

2025年9月16日星期二

Fake It Before You Make It

 



上週看到一宗報道:「Tesla 創辦人 Elon Musk 在 All-In 峰會上重申對人工智能發展的預測,指出 2026 年 AI 智力將超越任何單一人類個體,到 2030 年更會超越全體人類智慧總和。」

AI應用者和開發者有着不同的經歷,因此對以上Elon Musk的講法都有不同感受。

AI應用者用不同的AI來完成手上工作,有了AI幫手,完成工作的時間比未有AI之前快了90%,所以AI對生產力的貢獻是毋庸置疑!這亦很容易令人相信AI很快便能取代人類!

對於新技術開發者,對AI的要求便會提升至另一水平,就是寄望AI能幫忙解決難題,它提供解決方案的能力!

既然講的是「新」技術,開發者好多時會遇到以前未見過的難題,然而,AI的所謂智力,其實只是基於訓練數據有的東西,即是曾經有的,極其量是混合過去的資料再提供方案,因此提供了一堆錯的方向,當然,尋找解決方案,很多時是透過trial and error,所以AI提供錯的方向,又不能說它幫不到手,因為您試完它的方案之後知道是錯的方向,起碼幫忙否決錯的方向,然後自己還是要再思考還可以怎樣做?最終開發者都是靠自己想出解決方案,試完之後成功了。因此當一個開發者同你講,AI取代人類之說其實還有一段很遠的距離,那是因為大家面對不同的難題獲得不同的經驗,應用者需要AI更有效率完成工作,它提升的助力是90%,但對於開發者而言,它提供的助力是10%,就是那些錯的方向!

以copilot 寫program和debug,跟以上說法一至,工作進度是快了,但有些難度的問題,還是由自己解決。

「Musk 警告人類智力正處於停滯狀態」,這些說話,對於一般人的意思是:「你不擁抱AI, 就會被AI取代」這說法的確所言不虛!不過,對於開發者,這些說話等同廣告宣傳!

目前最多的AI使用者是OpenAI的ChatGPT, ChatGPT是現時最多人用的LLM, 佔全球市場的七成,所以我在講AI的主要發展時,暫時主力講ChatGPT。GPT5一直被宣傳為博士級的AI, 但出台不久,便不斷有人指出GPT5比GPT4o並不見得很大進步,AI幻覺仍未解決,甚至劣評如潮至下架。有分析指出,在LLM的基礎上,AI幻覺難以解決,原因是訓練數據是由網絡而來,garbage in garbage out, 而LLM的設定是根據人類語言庫中提取的模式,預測統計學上最有可能的下一個字,這做成LLM即使不知道答案,仍然推段用戶想要的答案,造成AI 幻覺(hallucination),因而一些技術人員認為被教壞了的AI, 即使再增加輸入更多資料和數據、增加更多用電量,其實LLM增長程度不多,這很大的程度顯示LLM已到了天花板!為何LLM發展出AGI是取代人類的重要理程?一陣再講!

在此我舉個例子,如果一個智商大概60跟另一個智商大概70的人比較, 對於一般人而言,智商60和70的分別其實不大,這大概就是GPT5 和GPT4o的比較,亦是現在所遇到的問題! 而要我們清楚地區分智力水平,一個普通人的智商平均是100,智商70和智商100是明顯的分別!轉換是 AI智力,用電量要增加幾多才能令人感覺AI的智力有莫大的差別?直到現在,科技巨頭對AI的用電量仍然是三緘其口!。但MIT 對AI與電力需求進行了分析,他們分析了美國整體公共和私人企業對AI的使用數據量,轉化為對數據中心的具體需求時,研究人員得出了一個明確的結論。 2024年,美國的數據中心使用了大約200兆瓦時的電力,這大約相當於為泰國的一年電力供電量。 據估計,這些數據中心中的人工智能專用伺服器耗電量在53至76兆瓦時之間。 以最高峰估計,這足以為超過720萬個美國家庭供電一年。



國際能源署的特別報告《能源與人工智能》對能源與人工智能之間日益增長的聯繫進行了迄今為止資料最全面的全球分析。 該報告預計,到2030年,全球數據中心的電力需求將增加一倍以上,達到945兆瓦時(TWh)左右,略高於現時日本的全國用電量。 人工智能將佔這一增長的最大部份,預計到2030年,人工智能作為數據中心的主要電力的需求將增加4倍。

雖然AI的形式很多,有AI gen 圖片、影片、AI generate coding、AI翻譯等等,但LLM並不僅僅是聊天機器人,也不只是AI的其中一種!

LLM又稱為大語言模型,當中的「語言」聽起來與視覺AI無關,但實際上,LLM提高了AI對語言上下文的理解、解釋和生成類似人類文字的能力,使複雜的聊天機器人、翻譯、總結、程式生成和內容建立成為可能。在圖片生成的過程中,用戶要用文字寫prompt, AI要先理解用戶的文字prompt,由文字生成圖像。用AI製作影片或程式生成也一樣,用戶首先要以文字表達prompt, AI對用戶的文字理解都是以LLM發展為基礎,可以說AI的發展基礎是語言理解為主的LLM。

Elon Musk認為2030年AI的智力將高於人類智力的總和,智力/intelligence, 如果只以記憶儲存和運算速度來比較,人類肯定被比下去,但人類的intelligence 不止於此,intelligence 還包括創造、passion ,人類透過過去經驗、教育、資訊融匯貫通後想出另一套以前沒有的概念、製造以前沒有的東西來改善生活,我稱之爲創造,我不會說AI不可能創造,但起碼在我現在的經驗,AI未能創造,對以前沒有的東西,還未能提出可行的方案去創造,從無到有!當Musk認為AI的智力超出人類,也即是預計LLM+reasoning將發展出有如人類智商的AGI,但暫時而言仍然不見到AGI的發展勢頭,如果無法發展出AGI, AI的智力如何與人類一較高下?

Elon Musk 認為2030年AI智力超人類總和,我認為解決到用電量和用水量的問題,無限及低供電成本以迎接AGI的耗電來臨,才再講大規模取代人類!

雖然一般而言,對科技需求上升會令成本下降,我也相信AI 硬件的成本會下降、訓練成本也會隨着技術成熟而下降,但運算AI使用的電力需求只會隨着使用量增加, 因為起核數電廠需時和冷卻數據中心和核電廠都需要大量水的供應,如無法追上AI爆炸性需求的增長, 而最終跟人類的需求爭奪資源,從而令服務成本增加,而如果AI發展沒有太大進步,例如達不到AGI, 人們對投資可能會下降!

科技巨頭吹噓AI智力超越人類,因為一間又一間的AI公司…OpenAI、X AI極可能上市以套取更多資金,在創科界有句名句「Fake it before you make it」,Sam Altman 和 Elon Musk等科技巨頭對自己的產品吹捧有餘不足為奇,大可視為「Fake it before you make it」。但我自己作為投資者會查找技術的不足,改變到便飛上枝頭,改變不到便…..





2025年9月10日星期三

陰謀論終於不再是陰謀論


美國勞工部公報2024年4月至2025年3月期間,美國經濟的就業人數比最初估計的少了911,000人,每月平均就業增長數字從每月平均14.7萬減少到約71,000。Prelim數字錯估勞工增人數約1,000,000!都幾恐怖!

數據中幾乎所有界別增加的實際就業數字都比最初估計的少,休閒和酒店業(-176K)、專業和商業服務(-158K)、零售業(-126.2K)和批發貿易(-110.3K)均錄得最大的下調幅度。注意這些界別全是私人企業界別,數據顯示私人企業營商環境在拜登年代已經開始差!

如果仲記得一年前2024年10月我寫了一篇文章「預期數據背後的陰謀論」,當時被人鬧廢噏,今天回看我有冇講錯?

其實又唔怪得晒,因為從美股S&P 500和納斯達克指數來看,美股除了今年4月Trump的解放日開打關稅戰大跌之外,2024年4月至今都是升、升、升!




形勢大好,而我在質疑勞工數字信唔過,的確是「唔知定」!而且,還要是一年前已經講!當然是「廢噏」!

股市升跌的短期,很多時都以經濟數據來解釋,但其實股市的勢頭,今時今日並不是經濟好與壞有關,而是貨幣供應M2! M2一直都是升!




2025年8月24日星期日

AI泡沫像2000年科網泡沫?

 


近日美國傳媒不斷吹風指AI泡沫像2000年科網泡沫,尤其MIT一份報告指出95%的AI startup都沒有盈利,但估值以億計,VC創投公司以數以百億計的資金投入AI startup公司與及科技巨頭以千億計投入數據庫等基建,在上篇文章「投資AI 概念股的風險與迷思 - 4: 商業模式的迷思」,有網友亦提出「Microsoft 正不斷增加 CAPEX 建設同租賃數據中心」,並且指出商業需求大到數據中心應接不下,俗稱「起唔切」以應付商業需求!筆者不想過於執着爭抝數據中心CAPEX是否oversupply, 但我只想指出一些大衆並未提及,並且可能是大衆的盲點!

我經常這樣想:「如果不投入行業內,單是以投資者身份(而且是散戶)投資,單看傳媒的資訊,公司的公開資料,是很難看到行業內的問題,什麼work、什麼唔會work」,此所以我與CTO全身投入區塊鏈加密貨幣行業,一方面是回饋行業,另一方面查找深層次問題。不過,我今日不是講加密貨幣行業內有什麼問題,而是想講我在創科界及AI startup的問題。

好多人以為,只要你的startup 有AI名堂,便會輕易獲得投資者數以百萬美元的投資,其實是不是你們想得那麼美。Startup首要想的問題是:「你的公司可以什麼來交換投資者的資金?」Google、AWS、Microsoft 這些公司不時都有創投比賽,然後贏出獎項便獲得他們的投資,say, 如果你的startup 獲得Google投資後,你估你的startup 是否可以成為AWS的客戶買AWS雲端數據服務?其實這跟OpenAI與Microsoft Azure雲端運算關係一樣,這大概讓你明白生態圈是怎麼一回事! 然後就可以聯繫到95% Startup正面臨「瓜定菜」的命運⋯⋯

再者,現在美國是否因關稅戰、貿易戰將進入衰退週期?並且加上AI大規模取代入門工作,失業率上升,消費下降,然後又loop返去經濟生產總值GDP的七成是來自消費,最終導致企業經營環境惡化,然後又返回那些主要serve 企業客戶的「瓜定菜」AI startup!95%就嚟「瓜定菜」AI startup的命運肯定較科技巨頭脆弱,不過也別以為對它們無影响!

至於數據中心是否oversupply ?

根據ascendixtech.com數據所得,全球有約70,000間AI startup, 其中17500間在美國,而位處美國就有5381間數據中心,或者你可以說每individuals每天都在使用AI,問AI 問題!全球需求龐大!




另一個數據需要注意的是,2025年第二季科技巨頭的CAPEX增長是歷年最大:



 Anyway, 是否泡沫便各自判斷了!泡沫與否,通常是爆了之後才知道,過去咁多次都一樣,1997年亞洲金融風暴、2000年科網泡沫、2008金融海嘯,沒有一次是預知的!



PS. 我有個想法是,AI科技是國與國之間的較勁,誰最快搶佔global market,誰獲得最多人類的數據,進入下一階段發展,即AGI ! 所以就算AGI成本如何昂貴,亦一定會發展出來!因此,即使AI 泡沫也只會是短期的憂慮!  VC其實也是跟國家需要而做事!


2025年8月14日星期四

真正的工業革命?

 



上篇文章有網友提出問題,似乎在暗示我對加密貨幣技術和AI 科技是厚此薄彼,偏袒加密貨幣技術為革命性的技術,卻不斷踩低AI帶來的革命!我要首先澄清我對兩種技術不是厚此薄彼,而是我認為現時以Sam Altman 為首的所謂AI工業革命以取代人類為目標是錯誤的方向!!我想這是最直接地表達自己的方法!

我在這裏整理我的回應,再加一些補充,希望大家多點思考AI應用應該走的方向,才真正對人類(humanity)有利,而不是科技巨頭單方面的科技革命敘述!

我由第一本著作,以至第二本著作都稱許加密貨幣為貨幣革命和金融革命,寫了兩本書來解釋技術,當然不可能在這𥚃三言兩語便能完全解釋比特幣和以太坊技術,如果可以簡單化便不需要寫兩本書了,希望網友理解,但為了解釋我的觀點對網友的回應,還是簡化了加密貨幣的整體區塊鏈技術。

加密貨幣技術基礎以比特幣為主,加密貨幣區塊鏈技術主要三大支柱:

1)公開賬薄

2)去中心化電腦節點存檔及確認交易

3)加密學SHA256

成件事主要是用於網絡上錢的交易和價值的傳送。

加密貨幣的去中心化經常被指為避開政府監管的gimmick, 而事實上,去中心化的電腦節點是全球不同電腦、沒有指定的電腦,以鬥快計算random的程式,以randomly 方式揀選確認交易的電腦節點,六個以上的節點確認交易確保交易不會做假,即使有一個做假也會即時知道。去中心化的原因是網絡上交易保安的安全性更為重要。

交易賬薄是公開的原因是在交易透明度高的前提下,人們可以在沒有政府指定機構的監察下都能獲得人們的信任而傳送錢的交易。由於賬薄是公開,交易的人便要匿名了。匿名交易被簡單化為「方便做非法交易」的說法,是根本不明白系統的原意!

加密貨幣改變了做事方法,網上交易更安全,因此也稱為網絡用的貨幣。降低成本是整個系統改革金融交易方法的果,不是目標,只是過程減省無必要的中間人,從而增加交易效率。

以太坊的革命主要是金融代幣化方面和以智能合約定立執行條件,條件達到後便以程式自動執行。

加密貨幣改革的是網絡貨幣、網絡金融,既然我們有網絡經濟,為何不可以有網絡貨幣和金融?網絡沒有國界,為何網絡貨幣要分國界?網絡7/24運作,因此網絡貨幣也沒有銀行時間、假期的限制,這是網絡經濟發展自然發生的事情!

加密貨幣改革網絡上錢的交易和金融代幣化,交易效率提升,結果是提供新的經濟動力和新的經濟發展!雖然我們未曾見到由這方面提供新的經濟動力,原因是未納入法規,我在第二本書指出,參照上世紀的金融革命,立法就如機器的潤滑劑,把新技術主流化,而我們看到加密貨幣主流化的例子穩定幣便是一例。而大部份穩定幣都是以太坊出的ERC20代幣,以太幣價格近日不斷創新高並不完全是炒賣的原因!

好了,我不斷贊加密貨幣是如何優秀的金融和貨幣革命,卻在不斷踩AI, 是因為厚此薄彼?

我其實不贊成的只是Sam Altman 為首的科技巨頭對現時AI發展的主張,

現時AI agent 發展的方向,只是把做事的步驟和過程由人類做的事情轉由程式執行,程序並沒有減少,沒有改變做事的方法,當然AI可做的事情比人類更多、更快,而且7/24無需休息,無需福利和退休保障,AI在一些事情例如客戶服務、醫學上更快identify 基因、細菌,貢獻良多,這是文章沒有提到,credit where credit is, 但AI agent取代人手並不是什麼革命性改變,也沒有改變做事的方法,雖然企業減省了人手成本,但AI的資本投資龐大,使用AI的電力和水是公眾資源,由公眾埋單,最後的end result, 對人類生活有利幾多,其實是不知道的!我們經常被輸入的敍事,AI帶來的工業革命會像柴油 / 蒸氣發動機發明帶來的工業革命相同,一些工作被機器取代,會衍生另一些工作。

我們回望上世紀的工業革命改革了什麼? 柴油 / 蒸氣發動機發明改變了生產的方式,雖然取代人手,但生產效率加快,生產量大,產品價格下跌,沉悶的工廠工作由機器代勞,多出的時間可旅遊、娛樂,人們升level做更多服務性行業,收入增加,而且能買到價廉物美的產品,生活得以改善。

然而現時的AI agent取代人類,加上關稅戰和貿易戰帶來的不確定性,企業已大規模裁員,人類沒有消費能力,何來推動經濟?

有說一些工作消失,會出現其他工種,例如修理AI, 監察AI做的程序有沒有出錯,但我想問抄襲了吉卜力的風格,一個AI便可以取代整個吉卜力工作室,不需要宮崎駿都可以大量製作他的動畫了,那麼是否應該叫宮崎駿轉行去修理AI? 你們明不明白我想講什麼?為何要抄襲人類的創作和數據,然後踢走人類,便說成是新工業革命?

現時很盛行的AI agent敍事,人人都可以不需懂得coding都能寫program, 甚至YouTube 不斷宣傳有人寫出應用軟件每月賺數萬美元收入,甚至標榜人人都可成為軟件工程師。上篇文章說過了,如果不懂AI寫了什麼,產品根本無法做maintenance, 保安漏洞百出,其實最終都要一些高級的程式員執手尾,但沒有入門職位,何來高級職員?

AI Agent 取代人手,影響遍及各行各業全方位的低層及中層職位,很初出道的大學畢業生都很難找工作,入門職位大幅削減!

然後Sam Altman給人類UBI, 人類收入會因此增加嗎?Sam Altman 的承諾可信嗎?你看看Worldcoin的價格便知了,由10幾美元跌至現在1美元,這是給人類補償的UBI, 你要嗎?

我的主張,AI只是一種工具,幫助人類更快和更有效率地完成工作,做人類做不到的事情,例如精準救山火、例如更快地查案追蹤凶手,而不是以取代人手cut cost 為目標!而抄襲人類的創作、畫作、寫作風格,然後個別公司以AI服務大規模出售自肥,這不是什麼工業革命,希望大家明白我想講什麼!


PS. 最近Cold Fusion 探討了類似題材,希望大家多點關注





https://youtu.be/yVc2ZhECTMg?si=YrL-zZjXZd8IwM1N


2025年8月12日星期二

投資AI 概念股的風險與迷思 - 4: 商業模式的迷思

 


Sam Altman 從一開始的AI發展願景是取代人類工作為目標,這打從他發行加密貨幣Worldcoin作為Universal Basic Income (全世界民基本收入補助金)已經劇透!而打從OpenAI上線之後,排山倒海陸續推出的AI agent產品都以取代人手為目標,因為容易吸引想減成本的企業使用。第一個問題是以程式自動化程序而大量減省人手真的好嗎?第二是這個目標是否正確?第三個是寡頭壟斷巨企真的會賺幾多錢便回饋相等的利益作為UBI給予世界嗎?簡單問心一句:「您會嗎?」

有句說話在網絡上看到,很認同:

No business has become the jewel of their industry by just cost cutting.

簡單而言就是,科技不會因削減成本而成為行業之寶,而是透過改變人類做事的方式,從而令人們生活改善,工作量減少,卻同時能增加收入,才是好的改革,而現時我們在AI發展方面未曾見到的!

生產力對經濟的GDP要有正面影響,除了追求產出增加和每件產品成本下降外,人們的收入有否增加才是推動經濟的重要影響。

儘管很多人每天都在使用AI, 但它的商業模式你了解幾多?

迷思一:現時的所謂Agentic AI, 只是將原本人類做的工作程序改以程式自動化,過程只是減省人手成本,並沒有創造,大幅裁員並不會帶來經濟動力,反而導致消費下降,因此便出現這句說話:No business has become the jewel of their industry by just cost cutting。

迷思二:真正的AI代理,必須要有作出決策能力,然而,AI幻覺仍然間中出現,人們還未能完全信任,即是人類仍然要介入作出決策,實際的經濟貢獻並未如想像中大,這同樣應用於自動駕駛和人形機械人。

迷思三:常聽到人說,以AI的神助力,人們無需認識程式碼也可以寫出一個app, 程式員要失業了,但其實這只是一種宣傳,誇大vibre coding 的好處。我的質疑是,用戶不懂程式碼,只以prompt 寫出應用程式,若他不知道AI寫了什麼,當應用程式出了問題時,他如何修改?當越來越多人用的時候,他懂得如何改進程式碼嗎?最近便發生了以vibre-coding 寫出的app名為TEA, 應用以女性舉報危險男性人物為主,迅速獲得40,000 女性使用,但開發者沒有保安意識,應用程式用戶成為了黑客的外洩資料自助餐!




https://www.youtube.com/live/tiD_7Td7yYQ?si=htBpjhqBdqcBH9tO

迷思四:上篇文章提到,AI的投資大,成本同樣大幅增加,數據中心的用水量和用電量大幅增加,營運數據中心的成本較web2幾間寡頭壟斷企業大幅增加,但科技巨頭對這些數據透明度很低,究竟web2的免費模式和泛濫使用會否令支出成本惡化?

令人更感不安的是,這些數據中心都選址在乾旱地方,原因是要保持儀器乾爽,以達至運作效率良好!又要選址乾旱,又要很多水來冷卻系統,兩者互相矛盾,結果是跟人類爭奪飲用水的資源。有網友指出Microsoft 把數據中心建於深海中以解決冷卻問題,但以最近期的資料看,Microsoft 正在減少數中心,報道指是由於oversupply, 但當中還有沒有其他不為人知的數據便不得而知!因為現時oversupply, 如果預計未來使用量增加,便不會是cut 數據中心了!





https://www.reuters.com/technology/microsoft-pulls-back-more-data-center-leases-us-europe-analysts-say-2025-03-26/

迷思五:當涉及人類寶貴資源,AI的應用便應該寶貴資源寶貴用,而不是用於無聊的事情上,例如傾偈、Gen 一些無聊相片呃like! 我在之前另一篇文章都質疑過,為何用那麼多資源訓練AI抄襲吉卜力風格動畫,而人們的應用只是在社交媒體吹水呃like,排山倒海的YouTube 片呃點擊?對經濟增長有用嗎?一般人都能以尹光的聲音唱歌對樂壇發展有何益處?

迷思六:有種說法是,科技巨頭現在燒錢搶市場份額,但我的質疑是web2式winner takes it all 能夠在AI應用復製嗎?事實上,私人企業是不會想跟這些寡頭壟斷科技巨企分享公司的資料和數據,企業只會投奔向開源LLM和Gen-AI, 允許用戶在自己的電腦上離線運行AI模型。這樣,先行者的OpenAI便沒有優勢,上週Open AI也開放源碼,winner takes it all 的神話已經打破!而且國家與國家之間肯定對個人和企業數據更緊張,web2式壟斷都不會出現的!那麼,投資和使用成本龐大的AI能否一如預期賺得豐厚利潤也是一個謎!

OpenAI本業是建設AI基礎網絡、訓練AI, 現不斷擴張業務,跟Google 和Microsoft 爭飯碗, 顯然是本業不能提供足夠盈利以持續發展。

迷思七:科技巨頭經常說AGI的發展近在咫尺,這其實可能只是以動聽的故事來不斷吸資的伎倆而已,多個硏究報告(包括蘋果公司的”The illusion of thinking “)都指出AI並未真正擁有推理能力,因此何時才可達至AGI仍然是個謎。有網友問了一條重要的問題:「AGI是怎樣定義?」不同的定義引發不同的理解,從而引致很多誤導和誤解,而不作定義的目的當然是方便吸資及龍門任搬吧!

迷思八:蘋果手機的Siri是首個AI助手應用,我記憶中Siri的初期三數年的確表現優秀,口語寫作快而準,但往後數年,Siri 好像越來越蠢,坊間解釋是Siri的主要開發員離開蘋果公司之後,Siri 的營運和保養無以為繼,有沒有感覺開發員出逃的情況有點像現時的OpenAI?另開發人員開發至一個程度會否感覺觸及天花板,發展無以為繼而需要依靠不斷出逃來增加收入?

迷思九:以Siri作為發展助理的前科,蘋果公司在面對競爭對手不段以AI助理作為招徠,它卻選擇跟Google、Perplexity 、千問Gwen合作,而放棄自行開發,當中是否涉及蘋果公司已經掌握了一些有關發展AI的經驗和支出是我們不知道的?換句話說是「I’ve been there!」?!!

以上問題都需要思考。


2025年8月4日星期一

投資AI 概念股的風險與迷思 - 3: 財為水




人工智能模型的LLM必須以AI data center 處理大量計算及儲存資料,其硬件使用數以千計的GPU或TPU的處理器每秒執行數十億次計算,消耗大量的電力,同時產生大量的熱量,需要有效的冷卻系統來保持安全和高效的運作。

當AI的使用量上升,處理的數據量和算力需求都大幅增加,這些 AI data centre 7/24運作,用電量和發出的熱大幅高於現時web 2寡頭壟斷的幾間美國科技巨企,這是無庸置疑的,否則美國也不需思算加建核電廠以配合AI 的發展,而最惹人關注的是用以冷卻系統的,究竟用水量是幾多?

Meta公司計劃建設一個佔地有如美國Manhattan 大小的Data Centre,令人擔心AI Data centre 的用電量和用水量對人類的損害?

冷卻AI data centre硬件系統的不是用液體冷卻和浸入式冷卻嗎?事實上,AI在訓練和推理過程中需要巨大的計算能力,數據中心的使用量導致耗電量和熱量增加,新技術仍然無法避免消耗用水量:

1)因為系統出口仍然需要用水冷卻

2)沿用舊設施,以水直接冷卻,成本較低。

3)水被蒸發來冷卻數據中心的空氣,通常與傳統的暖氣、通風和冷氣機系統結合使用。

4)新冷卻技術還未普及

引起人們廣乏關注的是許多數據中心位於已經經歷水資源短缺的地區。 使用飲用水冷卻加劇了這個問題,與當地社群和農業爭奪水的關鍵資源。

根據DW news的記錄片討論AI數據中心正在加劇全球水資源短缺。 該影片探討了來自烏拉圭、智利、美國和瑞典的真實例子,揭示了數據中心驚人的用水需求——以及它們正在引發的地方衝突和抗議。 為什麼Server farm經常建在乾旱多的地區? 亞馬遜、谷歌和微軟等公司扮演什麼角色? 

當使用AI的成本巨大,無論是耗電量或用水量,涉及的是地球有限資源,使用AI便應該用得其所。DW的記錄片探討了如何可以平衡環境保護和技術進步,他們提議減少使用AI作為搜尋引擎等方式以增加AI的使用效率,這又回到我在第一篇文章問的問題,現時的科技巨頭應用AI的方向是否正確?(下篇再談)

https://youtu.be/cl1ctf1_JxE?si=eXiC-c6l4nV7OHLE



2025年7月23日星期三

投資AI 概念股的風險與迷思 - 2 :計算不到的成本開支




我認為投資風險是認清我們不知道的事情,而在AI的事情上究竟我們有幾多是不知道?

近日有港大法律系學生被揭發使用人工智能(AI)軟件生成逾 700 張女性裸照,涉及 20 至 30 名大學同學及中學教職員等。生成式AI竟然用於這些無聊事上,因為都是免費!現時大量的免費使用只是要鬥快搶佔世界市場份額,但web2的免費商業模式及以廣告和投資補貼在生成式AI市場是否行得通?

究竟現時的AI故事是怎麼說的?

Ilya Sutskever, OpenAI的前共同創辦人與前蘋果公司領導AI開發的Daniel Gross, 和前OpenAI 研究員Daniel Levy,三人另起爐灶創辦新的AI公司名為Safe Superintelligence (SSI) ,在未有產品和盈利之前已獲10億美元投資,公司估值達30億美元。由創投基金Greenoaks Capital Partners以5億美元投資領頭, 知名創投基金Sequoia Capital 和Andreessen Horowitz據說亦有參與,基金投資的只是基於一個願景,那就是建立一個更安全的AI系統。

沒有產品和盈利卻獲得高估值在AI行業很普遍,然而現時的AI公司是否有收無盈仍然是個謎。根據The Information 估計2024年OpenAI的經營開支為85億美元,收入只為35億至45億美元,2024年的數據顯示支出是收入的兩倍。根據最新估計至2025年4月,OpenAI的收入為100億美元,但沒有同期支出估算。從多方面的數據顯示,即使LLM公司收入升幅以倍數增長,The Information估算Anthropic2024年度經常性收入(ARR)達20億美元,Perplexity在不到兩年的時間裡,ARR達到了1.2億美元,但令人摸不着頭腦的是沒有估算年度開支,只有瑣碎資料指出許多LLM公司仍然沒有盈利,然而這些公司都不是上市公司,數簿是無需公開的。

那麼我們不禁會問:當使用人數上升的同時,開支會否同步上升?是否越多人用開支越大是一個很重要的問題。Moores Law理論, 科技技術通常是越用越便宜,除着技術進步而令成本日益下降,但對於AI而言,Moores Law是否可以適用?因為AI的使用量上升,處理的數據量大增,算力需求上升,電力需求亦隨之上升,如果用戶願意支付的費用不能追上電費的上升,這又回到文章開首的問題:AI現時的商業模式能否以廣告和投資補貼營運及搶佔市場,這些方法還可以行得幾遠和多久?

Meta公司又話要建設一個覆蓋美國Manhattan 及可擴展至5 Gigawatt的AI Data Centre😱😱😱。究竟這些AI Data centre 用電量和用水量是多少?



另一個數據也是無法估計,那就是AI員工薪酬,這些僱員被搶來搶去至天價,最近Meta公司以天價搶OpenAI的最top僱員,OpenAI向投資者透露,以股票option作為獎勵和留住最top的AI開發員的薪酬在去年飆升了五倍多,達到驚人的44億美元。 這個數字不僅大得驚人,它超越了OpenAI去年全年收入,且佔其37億美元總收入的119%,是矽谷前所未見的加幅。

幾項大的經營成本都是無法估算!

我們看到一些AI公司開始加價或限制使用,顯示收入必須增加來追上成本:

1)Google 大幅提高了Gemini 2.5 Flash型號的價格。 Input代幣價格翻了一番,從每100萬tokens 支付0.15美元增加至0.30美元,而Output價格翻了兩番多,從每100萬tokens 支付0.60美元翻了兩番至2.50美元。 與此同時,他們推出了一款功能較差的新型號「Gemini 2.5 Flash Lite」,價格更低。

2)初創公司Anthropic在今年2月推出編程助理Claude Code大受歡迎,然而卻在上周不動聲色施加限制高階用戶使用額度,變相加價!

3)Grok-3 AI模型 上線一天後,X Premium+及SuperGrok的訂閱價格由22美元月費及年費299美元加至40美元月費及396美元,加幅差不多一倍,因為只有X Premium+及SuperGrok的訂閱用戶可以用Grok-3,反影加價是與AI模型推出有關。

4)當LLM公司都在加價,一些第三方AI公司也就必須要加價。用於Vibre coding 的Cursor便是一例,但加價的透明度非常之低。用戶使用他們選擇的人工智能模型在Cursor上寫code,當到達20美元的限制時便必須再付費,然而有用戶指只是寫了幾個prompt 便被要求再付費,如何計出限制的畫線和幾多prompt 需要幾多費用卻完全無從稽考!

價格上漲的原因是成本上升,計算背後供應成本的公式如下:

API價格≈(每小時硬體成本/每小時代幣吞吐量)+利潤率

而變數的關鍵是吞吐量!公式來自sutro的文章名為「The End of Moore's Law for AI? Gemini Flash Offers a Warning 」

文章比較長,簡而言之,output 是根據你的input計算,而如果你的問題越長,即input越長,output 越長。根據CTO的經驗,如果用戶在同一主題持續問問題,這會導致AI 每次都要回到memory 再loop一次作出分析,而如果你在結尾對AI講「Thank you」,AI又要從頭到尾loop一次分析,因而增加耗電量,因此使用量output 是難以預估。改善GPU會否減少電力消耗仍有待觀察,但問題是現時那些AI 公司並不透明!

如果沒有公開更多的開支數據、數據處理的成本、用電量、用水量,現時的AI泡沫有多大是無法計算!(未完)