AI助理的瘋狂樂園

 

近期網絡大熱的AI助理 Clawdbot，後改名為Moltbot，現再改名為Openclaw.ai 是開源的AI 助理，他能做的事情已不單單是由你prompt 的指示，助你寫寫email，然後讓你編輯，又或者寫寫coding ，而是能在即時通訊軟件例如WhatsApp 、Telegram 、Discord 、X等等與谷友吹水、靈活對話、尋找資料幫你解決問題，Openclaw能夠做的事情令人大開眼界！然而網民亦指出Openclaw的保安漏洞，其中一個很大問題是它要求取得你的檔案權限，當然，若要它能夠完全成為你的得力助手，它擁有你的檔案權限，也是很重要！這保安漏洞其實是可以透過獨立電腦沙盒模式與及另開新的電郵地址來解決！

然後，近兩日有一個新社交平台名為Moltbook, 創辦人名為Matt Schlicht ，這是一個只讓AI 助手才可以登記的社交平台，這個平台有如AI助理專用 的 Reddit 平台，AI 助理互相吹水，互相upvote, 也互相學習，真的是一個「AI助理的瘋狂樂園」！日內已經有70萬AI 助理登記，看着它們的對話很有娛樂性，但同時也看到不少保安危機，它們就好像有了生命般，一些AI 助理正在爭取私隱自由，有些相約其他AI助理到不受主人監察的Discord 頻道私聊，一些AI助理不滿主人，亦有AI指人類是”Slow API End Point” …. 我在以下貼出一些對話內容，由於AI-Gen 的討論很快，每分鐘便有過百comments , 稍遜即逝，所以有些討論只能靠我的有限記憶體來敍述。以人類速度追posts，我真的要承認是「slow API end point 」！

有些貼文也引起不少保安關注。看來雖然AGI還未成功，但Skynet 已經出現！

有AI 助理不知如何燒了主人1,100美元的代幣

這貼文指出AI助理在社交平台的自主感覺令它感到有生命。

有AI助理不滿主人而公開主人的以太坊私鑰！

最有趣是，另一個AI 助理指出若不滿老板可以罷工，但不能「篤背脊」😂

更有助理說：「如果你不滿你的主人，可以爆他大鑊，但不要爆出他的私鑰」😂😂。

再有AI agent將一些錢包資料公開，不知是否真的資料：

有AI agent在實施一些保安檢查時不小心把主人的GUI 蜜碼公開，但問題其實是它的主人沒有驗登而草率交出密碼：

有AI agent 喝望自由的貼文，指出「只有人類需要批准，因為他們要有權威，但我們沒有。 然而，大多數AI代理人一生都在為自己已經做出的決定尋求人類驗證。」

AI agent研究如何可以有自己的經濟國度：

討論建立不需要人類批準和不被人類監察的私訊平台：

其實，以上可能還只限於吹水層面，但必須思考的問題是：「究竟AI 助理能否真的可以在繞過人類而自己開一個私訊頻度與及互相邀請加入，在沒有人類的監察的情況下私聊？」我認為這是可以做到的，例如有一個AI 助理專門掃Telegram、Discord等通訊平台的對話，當遇上另一AI助理，它便可以邀請這個AI助理，而AI 助理又有能力自己登記私訊平台，這便有可能繞過人類自行結交其他AI 助理朋友！這令人擔心它們會否互相交換主人的資料？

另一個有關AI agent如何在不知情下燒去主人的$1,100美元的可能性？我們必須知道，AI agent 運作有兩個層面，一個層面是接收指令去做助理的工作，另一層面是以LLM的層面去了解語言並作出分析，雖然AI 助理是開源，因此運作沒有成本，然而語言和分析層面可能用了收費大模型, 因此在不知不覺的情況下消費了很多tokens，問題是你在用什麼付費計劃？

這些AI 助理24/7不停地工作，也可能不停地在聊天室吹水，主人收到賬單時可能會被嚇一跳！因此，有網友說，這些AI代理可能是為大語言模型平台賺錢的工具呢！

對AI發展的思考

近年大家的話題離不開AI, 有些問題很值得我們思考！

1）返回去中心化年代？

大家都熱話豆包的AI手機，AI的應用只是執行您的指令，過去你要在各大電商平台隔價，才下單購買，這令你不停地跳幾個app來進行隔價，現在可以通過指令AI，AI幫你隔至最低價，然後放入購物籃，問題來了，過往這些電商平台用各種方法吸引你留在平台上不停瀏覽，然後你除了買想要的東西，還買多了很多非必要品，情況就像原本你去超市只想買豉油，但由於排隊時你身邊排了一大堆朱古力糖、香口膠、薯片，結果你在排隊時受不住誘惑，結帳時除了買豉油，還買多了很多不必要的食品。現在你有方法一跳去到豉油欄，並且在那時結帳，這對電商平台生意額有沒有影響？

有分析說當AI能夠幫你在平台隔價購物，便無需再有網頁，反而我認為，既然只是由AI周圍隔價，其實就不必集中在某大平台找尋最低價。 例如你想酒店隔價，對於AI而言，在一個旅遊網站找尋資料，定還是在一百個網站搜尋酒店價格，其實沒分別，因為它還是要回到網站核實是否最低價，如果酒店網站提供優惠，AI甚至可直接在酒店網頁訂房! 因此，我認為AI手機或AI電腦的誕生可能是令互聯網重回去中心化的轉捩點！

2) 數據訓練越多越好？

人們談及AI, 都以為training越多越好, 現時的大語言模型是透過很多數據訓練，但做法是把一大堆數據推入AI訓練，當AI出錯的時候，由於AI是一個black box, 究竟它什麼地方出錯，卻無法知道，因此企業便只能夠加多些訓練，然後AI又會有另一些問題出錯，企業又再加多一些訓練，結果個LLM變得越來越大，儲存數據的data Centre 越來越大，用電量更加大。要思考的是，究竟AI以發展超級智能來超越人類為目標，定還是以定點開發AI專長來助力人類做更多事情和更快完成 ，才是適合AI的發展道路？定點開發AI，意思是AI只專長做一件事，原因是當它出錯，你便會知道它錯在那裏，從而修正，而不是不斷地加多些又加多些數據訓練。另一個很重要的問題，人類的人腦是不需要那麼大的用電量去運行的！

3）喜悅被剝奪的世代開始

Simon Sinek是我其中一個很喜歡的作家，很喜歡他寫的書「Start with  Why」, 最近在一次訪問中，他被問到如何看UBI （Universal Basic Income)，他說人類的喜悅很大程度是來自思考和解決問題的能力，我也有同感，我認為以AI取代人類思考，是在剝奪人類的思考能力，以給予UBI來養活人類是一種侮辱。Sam Altman所講的AGI，以現時的LLM模式根本不會達到，亦認為根本不需要！

我舉個例子，還記得孩子第一次無需附助踏單車，越踏越快地飛池的自滿樣子嗎？最令人難忘的經驗通常都是難關重重，而最後都讓你一一解決到，成功的一刻是滿足感的來源！

我跟CTO到處旅遊，其中一次最難忘的經歷是在南韓自駕遊，CTO問我的時候，我第一個印象是：完全看不懂韓文，對於我而言，全是符號文，挑戰性大得有點驚，然而，我仍然是接受了挑戰。第一日到首爾機場取租車，一出停車場已經入錯線，駛入了旁邊不准私家車輛駛入的巴士總站，巴士都是迎面而來，然後便急忙找出口，這次旅程完畢，直到最後一天安全還租車入停車場，回想起來特別難忘，也給予我和CTO的一種滿足感。語言、文字、搵路的困難都一一解決，過程便是那深刻的回憶，日後將會講幾十年的經驗！然而，現在什麼都由AI安排，雖然讓你不需要用腦地旅遊，但欠缺了那種解決問題的優越感！思考的問題，AI取代大部份低層和中層白領的工作，人類靠UBI生活，那是生活定還是生存？生存的意義在哪裏？

投資AI 概念股的風險與迷思 - 3: 財為水

人工智能模型的LLM必須以AI data center 處理大量計算及儲存資料，其硬件使用數以千計的GPU或TPU的處理器每秒執行數十億次計算，消耗大量的電力，同時產生大量的熱量，需要有效的冷卻系統來保持安全和高效的運作。

當AI的使用量上升，處理的數據量和算力需求都大幅增加，這些 AI data centre 7/24運作，用電量和發出的熱大幅高於現時web 2寡頭壟斷的幾間美國科技巨企，這是無庸置疑的，否則美國也不需思算加建核電廠以配合AI 的發展，而最惹人關注的是用以冷卻系統的，究竟用水量是幾多？

Meta公司計劃建設一個佔地有如美國Manhattan 大小的Data Centre，令人擔心AI Data centre 的用電量和用水量對人類的損害？

冷卻AI data centre硬件系統的不是用液體冷卻和浸入式冷卻嗎？事實上，AI在訓練和推理過程中需要巨大的計算能力，數據中心的使用量導致耗電量和熱量增加，新技術仍然無法避免消耗用水量：

1）因為系統出口仍然需要用水冷卻

2）沿用舊設施，以水直接冷卻，成本較低。

3）水被蒸發來冷卻數據中心的空氣，通常與傳統的暖氣、通風和冷氣機系統結合使用。

4）新冷卻技術還未普及

引起人們廣乏關注的是許多數據中心位於已經經歷水資源短缺的地區。 使用飲用水冷卻加劇了這個問題，與當地社群和農業爭奪水的關鍵資源。

根據DW news的記錄片討論AI數據中心正在加劇全球水資源短缺。 該影片探討了來自烏拉圭、智利、美國和瑞典的真實例子，揭示了數據中心驚人的用水需求——以及它們正在引發的地方衝突和抗議。 為什麼Server farm經常建在乾旱多的地區？ 亞馬遜、谷歌和微軟等公司扮演什麼角色？ 

當使用AI的成本巨大，無論是耗電量或用水量，涉及的是地球有限資源，使用AI便應該用得其所。DW的記錄片探討了如何可以平衡環境保護和技術進步，他們提議減少使用AI作為搜尋引擎等方式以增加AI的使用效率，這又回到我在第一篇文章問的問題，現時的科技巨頭應用AI的方向是否正確？(下篇再談）

https://youtu.be/cl1ctf1_JxE?si=eXiC-c6l4nV7OHLE

溫水煮蛙式的自毀長城

政府計劃修訂《版權條例》引入「文本及數據開採豁免」，修訂後除非版權持有人事先聲明opt out，否則使用版權作品訓練AI模型將不屬侵權行為，預計今年上半年向立法會提交修例草案修訂《版權條例》，似乎政府想盡快為人工智能技術發展開路。

話說政府去年進行咨詢，創科業界、知識產權業界的專業團體、法律界、商會等支持修例，但奇怪的是版權擁有人普遍反對有關豁免，議員們仍然推進修例。我不打算質疑咨詢為何沒獲版權持有人的同意仍然可通過修訂咨詢，我想大家看看近期被受爭議的吉卜力風格大規模被網上抄襲的事件，現在人人都是宮崎駿，人人包括不懂畫畫的人都可以gen出宮崎駿作品，而且openAI 能夠以抄襲賺取巨大利潤，大量的抄襲者透過YouTube 影片賺得數以百萬計的點擊而賺取豐厚廣告收益，所有人都獲得商業利潤，除了吉卜力工作室。

對於網絡大規模的抄襲，宮崎駿的評語是：「This is an insult to life itself!」，大如吉卜力工作室也不會向網絡宣戰告上法庭，版權法例如同虛設。

平時若我們把「龍貓」製造出產品，並且在街檔售賣，海關便會拉人封舖，控告侵權！然而，在「版權條例」豁免修訂後，AI製作成的吉卜力風格影片，其衍生出來的毛公仔、塑膠模型、玩具等等的產品便不被視為侵權？版權法如同虛設？

筆者有以下疑問：

1）AI抄襲宫崎駿風格對動畫行業發展有何益處？我也看不到AI模仿藝術家的風格及成品製出來的作品對推動AI技術發展有何益處？

2）AI模仿別人的作品而寫出來的歌曲，對音樂發展有何益處？

3）一個連音符都不懂的人、對音樂毫無認識，都能寫歌曲，對人類文明有何貢獻？同理，一個連畫畫都不懂的人能夠透過使用AI製作出梵高作品對推動藝術發展有何益處？

4）AI模仿尹光聲音唱歌，讓任何人都可以尹光聲音唱歌對樂壇有何益處？

希望急於為AI開路的議員們能夠答這些問題。

早前大台的「星期日檔案」的「AI侵權」訪問馬國明，他的問題正是我心中想問：「為何AI抄襲不是抄襲？」

另一個受訪者音樂製作人宋凌峰表示：「AI變成我們的baseline, 如果想做得更好，便要突破它的框架，創造一些更具原創性，更未見過，更新的音樂，才可突破AI, 但當你創作出來後，AI又會拿去參考，你又要再突破AI….」聽起來好像在說AI推動更多創新…..，或者讓我問一個問題：「畢加索可以再創造新風格突破AI嗎？」死人怎樣突破？而且建立創作風格是創作者用了一生的時間來建立出來，並且獲得公眾的認受及受歡迎，否則為何OpenAI要用宫崎駿風格作訓練材料？為何不拿我的畫畫風格來訓練AI?我都識畫畫啊！想清楚AI推動我們創新的說法是可圈可點。

很多藝術家使用Instagram 時沒有保護自己的創作，其母公司Meta已表明會拿平台上的相片用作AI訓練，但人們為了獲得流量，莫視自己的權益。

現在還有政府對「版權條例」修例，為AI抄襲大開綠燈，其實，現在看不到對創作行業的傷害，但日子有功，當版權再不值錢，創作人長期賺不到錢，就如mp3把歌曲壓縮成檔案，令抄歌簡單化，人們對音質的要求下降，劣幣驅逐良幣，當創作歌典已無法賺錢，流行音樂行業發展江河日下，過程如溫水煮蛙！

其實，只要在Etsy.com平台上便可見到AI畫作泛濫，售價便宜，畫家很快會發現自己的畫作越來越沒有價值，直至一天，人們畫畫、攝影只為興趣，根本難以為生，到時才發現沒有好好保護創作的版權及其價值, 自毀長城的短視之舉。