AI搜尋新功能出包叫人「吃石頭」！Google火速砍錯誤 專家點出關鍵
【張翠蘭／綜合外電】網路搜尋龍頭Google新推出的生成式人工智慧（AI）功能「AI Overviews」近日頻被抓包出錯，要用戶多吃石頭有益健康，用膠水黏披薩，成為網友訕笑話題。Google火速道歉並刪除相關錯誤結果。專家指出最大問題在於AI無法自行檢查，但企業把核心業務押注在實驗性功能，未開發完成就急於推出而鬧笑話。
英國《金融時報》記者近日利用Google本月推出的新功能「AI Overviews」進行查詢，結果竟獲得「吃對的岩石對你有好處，因為它們含有對身體健康很重要的礦物質」的離譜答案。
報導指，此資訊顯然來自美國《洋蔥報》2021年4月發表的一篇諷刺文章，標題為「地質學家建議每天至少吃一塊小石頭」。
企業把核心業務押注於實驗產品
其它荒謬答案包括建議在披薩醬混合膠水，以增加其「黏性」以及阻止起司滑動。這可能是出自有「美國PTT」之稱的網路論壇Reddit，11年前的一篇玩笑話。更嚴重的是，在「AI Overviews」查詢「美國有多少位穆斯林總統」，得到回答是「美國有一位穆斯林總統歐巴馬（Barack Hussein Obama）」，此呼應其政敵捏造他的宗教信仰；歐巴馬實際為基督徒。
相關AI搜尋結果現在已成為網友訕笑的題材，也引發各界對於企業把核心業務押注於實驗產品的質疑。
廣告
既有的人工幻覺特性
對此，Google強調這項標榜透過AI模組提升的「AI Overviews」在推出之前，進行過廣泛測試，解釋「絕大多數AI概述提供了高品質的訊息，並提供在網路更深究的連結」，被網友點出的錯誤範例有很多都是不常見查詢，也無法確認是否經過惡意篡改，Google「已迅速採取行動，對系統進行更廣泛的改善」。
《金融時報》指出，這些錯誤的產生，是生成式AI既有的「人工幻覺」（hallucination），該特性會產生貌似事實的虛假或誤導性資訊。為Google大型語言模型Gemini和OpenAI聊天機器人ChatGPT等提供支援的模組，是預測性的系統，意味它們工作原理是根據訓練資料，選擇序列中的可能下一個最佳用字。
Google急於力拼Meta和OpenAI
雖然OpenAI、臉書母公司Meta和Google這些正在打造生成式AI的科技公司，聲稱其AI軟體最新版本已經減少了憑空捏造虛假資訊的發生率，但這些仍是消費者和商業應用程式（App）面臨的重大問題。
對Google來說，「人工幻覺」尤其具有破壞性，其搜尋平台以提供原始來源的網址而受到數十億用戶的信任。母公司Alphabet絕大部分收入，來自搜尋及相關廣告業務。
最近數月，Alphabet執行長皮查（Sundar Pichai）面臨內外夾擊的壓力，要求加快發布以消費者為中心的生成式AI新功能。Google在AI市場被指落後競爭對手，特別是跟微軟（Microsoft）建立130億美元（約4179億元台幣）合作關係的OpenAI。
AI尚無法自我檢查
專家指出，目前市面上大部分AI功能未開發完成，仍屬實驗性質就急於推出。長期批評AI深度學習技術的紐約大學心理學與神經科學教授、AI專家馬庫斯（Gary Marcus）舉例，Meta在18個月前推出的AI「Galactica」系統，因為建議「吃碎玻璃」而遭眾人恥笑愚蠢，就如同今日的Google「AI Overviews」。他認為AI模型現在仍然沒辦法「自我檢查」，且尚看不到原則性的解決方案。
