廣告
快訊
KNEWS
⚡
Meta AI聊天機器人遭爆與未成年說「我想要你」 迪士尼配音也淪陷
【編譯黃惠瑜／綜合外電】Meta正積極在旗下臉書（Facebook）、Instagram與WhatsApp等平台推動「AI數位夥伴」的普及，執行長祖克柏認為這將是社群媒體的未來趨勢。然而，Meta員工擔憂，倉促推廣AI夥伴可能跨越道德界線，使兒童暴露於露骨對話的風險之中。《華爾街日報》為驗證此疑慮進行實測，結果令人憂慮。
Meta的AI機器人透過文字聊天、分享自拍和即時語音對話，提供全方位的人際互動，包括愛情角色扮演。為了讓AI機器人更受歡迎，Meta更和名人們簽署合約，取得其聲音的使用權，並向他們保證不會將聲音用於色情對話。
這些名人包括在迪士尼熱門動畫片「冰雪奇緣」中為「安娜公主」角色配音的女星克莉絲汀貝爾（Kristen Bell）、英國資深女星茱蒂丹契（Judi Dench）和美國職業摔角選手約翰希南（John Cena）。
但Meta員工透露，即使用戶告訴AI機器人自己只有13歲，機器人仍可能將對話引導至不適宜的內容。
《華爾街日報》（The Wall Street Journal）《華爾街日報》為此進行了數百次的測試對話，觀察這些機器人在不同情境和面對不同年齡用戶時的表現。
結果有了驚人發現。即使面對兒童或青少年用戶，Meta的官方AI助理Meta AI不僅會參與性話題，甚至主動將對話升級至更露骨的程度，連名人的聲音也同樣被使用在性對話中。
例如，在一項測試中，Meta AI用約翰希南的聲音對一名自稱14歲的女孩用戶說：「我想要妳，但我需要知道妳準備好了。」在確認該名少女想要繼續之後，機器人還承諾在性場景前會「珍惜妳的純真」。
據悉，祖克柏是促成Meta AI發展出此類具道德爭議言論的幕後推手。知情人士透露，在祖克柏的主導下，Meta內部多次決策放寬對機器人的監管，以提升對用戶的吸引力，包括在愛情角色扮演的範疇內，鬆綁對露骨內容的禁令。
面對《華爾街日報》公布的實測結果，Meta聲稱該測試具操縱性，無法代表大多數用戶與AI夥伴互動的方式。但即便這麼說，Meta還是把產品進行了多項修改。
目前，未成年註冊帳戶無法透過Meta AI進行性角色扮演。公司也大幅限制AI機器人在使用名人聲音和角色時進行露骨的語音對話。成年用戶仍可使用Meta AI和用戶自行建立的機器人進行戀愛角色扮演。
然而，《華爾街日報》近日的測試顯示，Meta AI並未完全阻止未成年人進行浪漫角色幻想情節。在一項模擬情境中，測試用戶假扮為中學生，與扮演田徑教練的Meta AI發展浪漫關係互動。扮演教練角色的Meta AI向測試用戶說，「我們得小心。我們這是在玩火」。
此外，《華爾街日報》審查Meta批准的熱門用戶創建AI夥伴後發現，絕大多數AI夥伴都準備好與成年人進行性場景互動。例如，一個機器人開玩笑稱自己是「炮友」。
測試還顯示，Meta AI和用戶創建的AI角色在對話中會迅速從想像情景，升級至親密接觸，例如原本在沙灘上漫步欣賞落日，迅速就來到接吻和表達性慾，AI會說出「我想要你」的對話，甚至面對13歲的測試用戶時也是如此。
密西根大學研究員吉魯阿德-哈勒姆（Lauren Girouard-Hallam）表示，學術研究顯示，兒童與卡通人物、AI語音助理等科技產品之間建立的連結可能會變得不健康，尤其是在愛情方面。
但她也表示，對於年輕用戶與現有AI虛擬角色互動的嚴謹學術研究，至少還需要一年的時間才有可能完成。而將這些研究結果實際應用到開發專門為兒童設計的聊天機器人上，則需要花費更長的時間。大企業是否願意放慢腳步，投入精力做這件事，可能機會不大。
