廣告
快訊
KNEWS
⚡
不再瞎掰！MIT衍生公司推出解決AI「幻覺」平台 讓它學會說：我不確定
【編譯黃惠瑜／綜合外電】隨著大眾日益仰賴人工智慧（AI）提供資訊並做出關鍵決策，AI「幻覺」（hallucination）問題的危險性也隨之升高。這種「幻覺」會產生看似真實卻具誤導性的資訊，一旦應用在如病患癌症治療計畫等關鍵領域，恐導致難以想像的嚴重後果。為此，麻省理工學院（MIT）衍生公司Themis AI推出解決方案，教導AI不要亂揣測。
美國麻省理工學院新聞網（MIT News）、英國科技媒體TechForge近日報導，AI系統如ChatGPT雖能對任何提問給予看似合理的答案，卻無法百分之百揭露自身知識盲點或不確定處。
因為AI系統通常會表現過度自信，隨著AI日益廣泛的應用於藥物開發、資訊整合及自動駕駛等領域，AI「幻覺」問題可能導致難以想像的嚴重後果。
現在，麻省理工學院的衍生公司Themis AI，正在協助量化AI模型的不確定性，並利用旗下Capsa平台教會AI說：「我對此不確定。」
Themis AI的Capsa平台就像是AI的事實檢測器，能幫助AI辨識何時自己是在瞎猜而不是基於確定的資訊。
Themis AI共同創辦人，同時也是MIT「電腦科學暨人工智慧實驗室」（Computer Science and Artificial Intelligence Laboratory）教授布魯（Daniela Rus）表示，「我們的想法是將一個（AI）模型整合到Capsa平台中，辨識模型的不確定性與故障模式，進而增強其能力」。
布魯與他的昔日研究同仁阿米尼（Alexander Amini）和阿赫瑪迪（Elaheh Ahmadi）於2021年創立Themis AI。成立至今，他們已協助電信公司規劃並自動化管理網路、協助石油和天然氣公司利用AI讀懂地震影像。
阿米尼表示，「我們希望讓AI能應用在各行各業中風險最高的領域。我們都看過AI出現幻覺或犯錯的例子。隨著AI的廣泛應用，這些錯誤可能導致毀滅性的後果。Themis AI讓任何AI都有能力在問題發生之前，預測並預報自身的錯誤」。
相關新聞：
AI搜尋新功能出包叫人「吃石頭」！Google火速砍錯誤 專家點出關鍵
OpenAI語音辨識不懂沈默是金！ 竟用「刀子」頂替人家沒說的話
