廣告
快訊
KNEWS
⚡
人們高度信任ChatGPT連阿特曼也吃驚 坦言「它應該是你不太信任的技術」
【編譯于倩若／綜合外電】OpenAI執行長阿特曼（Sam Altman）對人們高度相信ChatGPT感到吃驚，因為「它應該是你不太信任的技術」。
據《Barchart》報導，OpenAI執行長阿特曼Sam Altman在OpenAI新的podcast第1集節目中，就人們對ChatGPT的信任程度發表了評論。他觀察到：「人們對ChatGPT的信任度非常高，這很有意思，因為AI（人工智慧）會產生幻覺，它應該是你不太信任的技術。」
AI的能力仍處於起步階段，目前全球有數十億人使用AI，但正如阿特曼所說，它並非超級可靠。
AI幻覺是什麼？
眾所周知，ChatGPT和類似的大語言模型（LLM）會「產生幻覺」，亦即產生看似合理但實際上不正確或虛假的訊息。
儘管如此，數百萬用戶仍然依賴這些工具進行各種工作，從研究、工作到個人建議和育兒指導。阿特曼本人也曾描述過，在他兒子出生後的幾個月裡，他曾廣泛使用ChatGPT來解答育兒問題，他承認ChatGPT的實用性，也承認信任一個可能出錯的AI所固有的風險。
阿特曼的觀察指出了AI革命核心中的一個悖論：雖然使用者越來越意識到AI會犯錯，但ChatGPT等工具的便利性、速度和流暢的對話，卻培養了人們的信任，這種信任通常與人類專家或親密朋友聯繫在一起。
AI能夠記住上下文、提供個人化回應，並在廣泛領域提供幫助，這進一步增強了這種信任。阿特曼和OpenAI的其他成員認為，隨著技術的進步，這些功能只會不斷加深信任。
然而，正如阿特曼所警告的那樣，這種信任並不總是正確的，過度依賴AI生成內容的風險，在醫療保健、法律諮詢和教育等高風險領域尤為嚴重。阿特曼在讚揚ChatGPT實用性的同時，也強調了使用者意識和批判性思維的重要性，並敦促社會認識到「AI會產生幻覺」，不應盲目信任。
