上星期Anthropic AI硏究員Jacob Cocon辭職後在社交媒體指兩間公司OpenAI 和 Anthropic 不負責任地使用recursive self improvement AI（AI循環自我改善及開發），以此贏Super intelligence 競賽，他們的不負責任行為正將人類推向滅亡！此末日論一出引發很大爭議，Anthropic 的創辦人Dario Amodei隨即發千字文章呼籲放緩AI發展……跪求政府介入監管，建立第三方審查機構，建立安全標準，檢測AI是否達到安全標準，他以銀行監管機構為例子。然而，有分析指過度監管將變成已發展成熟的AI企業的護城河，開源AI會被邊緣化，其他企業或初創公司將無法競爭。
Dario 的呼籲獲得OpenAI創辦人Sam Altman 和 xAI 的Elon Musk表態支持！
Sam Altman亦推遲OpenAI的IPO至2027年。
事件引發很多陰謀論推測！
我也有自己的陰謀論想法，就是Super Intelligence 一直以來都是政治意義大於人類福祉，Super Intelligence 是用來吸引政府無限支持，軍事上的應用，得AI得天下，只要達到Super Intelligence 的目的，即使無限燒錢、長期蝕錢也要支持開發！這些所謂前沿AI Lab被列入Too Big to Fail, Sam Altman 亦曾經開到口指必要時政府需要支援。
Super Intelligence 是用來利誘投資者的narrative ，只要不斷增加算力和數據中心投資，便能達至Super Intelligence ！然而加息週期將至，投資市場資金收縮，便需要以減慢開發速度為借口，減少數據中心Capex。
其實Super Intelligence 的聽眾從來不是一般人！
我們應該要問的問題是：究竟AI失控帶來的威脅是否真實的？如果認為OpenAI 的AI Swarm攻擊Hugging Face事件是真的，那就應該支持一定程度的安全監察。
然而，監管太過嚴苛，甚至令企業或初創公司只能使用壟斷而昂貴的閉源模型，只會迫使人們繞過監管。
微軟執行長Satya Nadella 說得對：
Any pursuit of superintelligence has to be grounded in the core principle that if the Al we build is not helping humanity and under human control, it's not worth pursuing.
We also need to accelerate and spread the benefits of Al, such that they are diffused broadly across countries, communities, and companies.
This requires a frontier ecosystem in which both closed and open-source models can thrive.
「任何對Superintelligence的追求都必須以人為本，如果建立的AI沒有幫助人類和不受人類控制下，都不值得追求。」
正是我想講的說話！
沒有留言:
發佈留言
請留回應！