搜尋此網誌

2018年3月13日星期二

實現未來報告



早前財政司司長在財政預算案提到增加科技硏究開支撥款,其中提到鼓勵硏究AI開發,近期內地和香港都有一股擁抱AI科技熱潮,傳媒熱議AI取代人類一些白領職位。我從一些處理過AI的朋友口中指出,AI會傾向突破訓練員....這令我想找多一點有關AI的資料。 

事實上,現時AI應用已經不少,Facebook AI揀選廣告對象,令廣告更有效率,蘋果公司以AI應用於SIri作為電子助理,這些都是簡單應用,在商言商,AI24小時工作,不需勞工福利及退休金,一次性支出,企業是樂於使用以減低成本,但很多科學家都警告AI會為人類帶來災難。物理學家霍金便曾經指出「人工智能有可能是人類文明史的終結。」特斯拉汽車創辦人馬斯克也有類似警告:AI是人類文明最大威脅,應用AI必須受法律管制」,兩個科技界甚有影響力的人都對AI有界心,究竟是怎麼回事?我們發展AI是否應小心? 

最近在Ted Talk看了一段片,可在此分享。AI硏究員講出如何訓練AI學習,她每天給電腦分享她的生活相片,AI都能認出相片內的人和動物,甚至能夠認出笑是代表開心,認出人類情緒。有一次,她給AI一張照片有關一間屋被火燒,AI說:「這太令人興奮」,訓練員感到心寒,怎麼會這樣?原來她在不知不覺中分享的照片,都以鮮艷顏色代表她的愉快心情,AI從中學到鮮艷顏色代表愉快,而又紅又橙的火焰在它看來是代表興奮。 

故事反影訓練AI的人類在不知不覺中把自己的潛意識傳遞給AI,經過AI處理後,人類的弱點被放大,此所以為何科學家覺得AI危險和難以駕馭。 

當我們以為可以控制AI,只讓AI做初歩處理工作,由人類作出最後決定,如果AI是自我學習和突破,它會提交你想見到的數據,藉此影響你做出它的決定,不要説不可能,我們自己也會這樣做,只給一方面的數據或畫面你看,甚至將細小的缺陷放大,從而影響你對事物的看法,只是換了是AI,我們無法知道它的決策過程。 

想到這裡,會否有一天我們讓AI參與調查案件,它可能收集了人類的大數據並加以分析,便能掌握一些犯罪前的行為和面部表情,判斷人類何時會作出犯罪行為,在疑犯犯案前將之拘捕,便能實現未來報告!XD


沒有留言:

發佈留言

請留回應!