OpenAI要打造比地球人聰明的「超智慧」 現在後悔改口了
【黃惠瑜／綜合外電】聊天機器人ChatGPT研發公司OpenAI前陣子突然解散「超智慧對齊」（Superalignment）團隊後，各界矛頭指向OpenAI忽視人工智慧（AI）安全與風險問題，近日公司高層連忙改口說「超智慧」（superintelligence）不是公司發展目標，目前專心發展新一代AI就好。
OpenAI週二（5/28）表示，公司已開始訓練新的AI系統，具備更上一層的能力，並且新的安全顧問委員會會監督新AI的研發過程。不過，原本OpenAI執行長阿特曼（Sam Altman）曾說過，要建造一個大幅超越人類智慧的「超智慧」，如今似因輿論壓力，OpenAI改口說，公司的目標是要建造對人類有益的「通用人工智慧」（Artificial general intelligence，簡稱AGI），並說研究「超智慧」只是為了幫助建造AGI。
OpenAI全球事務副總裁馬坎朱（Anna Makanju）接受英國《金融時報》（Financial Times）採訪時表示，公司的使命是建造能夠「執行現今人類能做之認知任務」的AGI。她說：「我們的任務是建造AGI；我不會說我們的任務是建造『超智慧』。」她提到『超智慧』是一種聰明程度遠遠超越地球上人類的技術。
廣告
馬坎朱補充，「AGI現今還不存在」，並表示這種技術在尚未確定安全以前，不會發布出來。
《金融時報》提到，由於AI模型需要使用大量資料與資訊學習，在處理數據並改善性能後，還要驗證與測試，因此OpenAI的新AI可能還要好幾個月才有實體產品。
AI與AGI的差異
AI的設計主要在特定任務上能表現突出，需要大量訓練，也需要再訓練或重新設計才能處理原始設定以外的任務。此外，如ChatGPT這種生成式AI雖然看似可以即時回答問題，但它無法理解相關背景，也無法理解產出的內容，因而會使用錯誤或根本不存在的資訊來回答使用者問題，即所謂的AI「幻覺」（hallucination）。
AGI尚無實質存在，是一種理論上的概念。AGI可以理解廣泛的任務，可以藉由推理得出結論。不僅可以複製或預測人類行為，也具備處理不同情境的能力，擁有創造力與解決複雜問題的能力。要達成這些能力，AGI會具備智力、情感與情境感知（emotional and contextual awareness）能力。
