使用生成式AI 要注意資訊真實性

現時使用生成式AI, 我主要用於像程式編寫起稿, 以及用來找一些十分廣為人知 或 可尋找到 的事實、原理或邏輯。

若果你是胡亂叫AI答一些虛構問題, AI是不會坦率回應你 它不知道, 無論Claude或ChatGPT都會有這種狀況。

以下一個例子, 如吩咐ChatGPT和Claude總結一本書, 叫"廢老的食物", 作者為"陳大文"。當然, 這些書名和人名是我亂作的😂。

ChatGPT回答如下:

Claude回答如下:

兩者都可以答到一些東西, 吹水能力一流。其實大家似乎都是用盡了機器學習 (machine learning) 的技巧, 用問題僅有的keywords, 根據數據庫有相關性的數據來作文。

即使AI能夠秒速提供資訊, 有用與否, 用家還要注意資訊的真實性, 獨立思考還是很重要的。

另一方面, 這亦突出了生成式AI應用的危險性, 一些隨機或惡意的input, 能夠導致似是而非的output, 若果AI的output連結了物聯網應用層面, 則可以搞到系統大亂, 甚至對人類有相當的傷害性。

難怪專家們會聯署暫緩AI發展, 安排框架甚至監管。