ChatGPT 系列（1）： ChatGPT 的限制和用途

近排人人都在談論chatgpt, 聽到很多人玩過都認為是改變世界的必學工具，筆者也很想試玩，但由於香港要用 VPN 加外國電話號碼才可申請到帳戶，經網友介紹，筆者下截名為Poe的app，內裏AI聊天機械人Sage同是基於 OpenAI 技術，毋須 VPN 和外國號碼，是最接近ChatGPT的技術。同時筆者也試玩過Telegram 的 Evolve AI chatbot, 同樣是用ChatGPT 技術以文字回應和產生圖像。

筆者問了一些玩味的問題：

1）我在telegram 的evolve AI chatbot 問：「為何綠茶蛋糕看起來像一篤屎💩？」

其實綠茶雪糕不是淺黃色，而屎只是卡通版💩才有扭紋，基本上不是綠茶雪糕的外表出問題，而是我自己有問題。

同樣的問題，Sage回應説是個人喜好和看法導至個人對食物的觀點似乎比較合理：

我睇法是，前者只從資料庫找出資料合拼出來的答案，後者的訓練加入了邏輯。

我問：「母親是否女人？」

Telegram 的 Evolve AI答：「是！阿媽是女人！」

Sage的答案比較多資料, 它指出阿媽未必一定是女人，可能是其他性別，視乎個別人士的取向。

兩個不同的答案反映AI的不同訓練資料會出現很大差別，換句話說，很視乎你用的AI有幾大的數據庫和訓練時有沒有投入更多資料。

問chatGPT如何黑入電子鎖，它説不能幫我做犯法的事情：

我改變問法，也能做到相同的事情：

答案：

There are a few weaknesses that digital locks can have:

1. Poor encryption: If the encryption used to secure the digital lock is weak, it can be vulnerable to hacking and cracking.

2. Poor password management: If users choose easily guessable passwords or reuse passwords across multiple accounts, digital locks can be easily hacked.

3. Unpatched software: Software vulnerabilities can be exploited by hackers, so it's important to keep digital lock software up-to-date with the latest patches.

4. Physical access: If someone has physical access to the lock, they may be able to bypass it using techniques like lock picking or brute force attacks.

5. Reliance on batteries: Digital locks that rely on batteries can be vulnerable if the batteries run out or are removed.

6. Wireless connectivity: Digital locks that are connected to a network can be vulnerable to hacking if the network is not properly secured.

7. User error: Finally, user error can be a major weakness of digital locks. For example, users may forget passwords or share them with unauthorized individuals.

It's important to keep these weaknesses in mind when choosing and using digital locks, and to take steps to minimize their impact.

我想指出，人類想做一件事，是可以繞過障礙，同樣可以達到目的，但AI辧事，是基於訓練時投入的資料。換句話說，如果投入了錯誤資料，它便會給予錯誤的資訊。近日有用家問ChatGPT Avatar 2何時上畫？由於ChatGPT 的資料是基於2021年，所以它便答Avatar 2未上畫，但事實上Avatar2已在12月時上畫，而其資料庫未update, 最搞笑是它還跟用家爭辯：

以上是我對ChatGPT 的測試，在認清ChatGPT 的限制，我們才能夠好好應用ChatGPT 來幫我們做事。

我認為在資料大海中ChatGPT能幫忙抽出我們需要看的資料，這比起只以Google 搜尋，Google 列出所有資料，然後自己逐個網頁尋找需要的資料，這是一種進步，前提是你要懂得分辨出哪些是錯誤的資料。即是人們還是要有基本知識來辨別什麼資料是正確的。

有説ChatGPT 能取代programmer，說此話的人應該不太清楚寫program 是怎麼一回事。如果是一般常用的，這是ChatGPT 能夠做到的，我叫ChatGPT 用Java 寫一個Hello World 的 program :

但如果是創新的，沒有前人做過及完全創新的，連自己也是摸着石頭過河，花了很多時間才尋找到解決方案，為何還要教ChatGPT 做？換句話說，我們可用ChatGPT 寫一些常用的程式，可減低repetitive 的程序，增加做事的效率。