澳洲50名女學生遭AI深偽不雅照 警逮1人！政府擬立法關7年
【張翠蘭／綜合外電】生成式人工智慧（AI）為現代人帶來許多便利，但也衍生「深偽」（deepfake）的AI換臉等重大問題。近日有又有AI深偽的裸照在網路瘋傳，這次受害的是澳洲50名未成年女學生，當局拘捕一名涉嫌散播的青少年。澳洲本月已擬法防堵惡行，相關犯罪者可能被判7年。
根據美國有線電視新聞網（CNN）6月13日報導，此次受害者是澳洲私立巴克斯馬許文法學校（Bacchus Marsh Grammar）50名女學生，據悉她們發布在社群網站上的照片遭人不當使用，以深偽AI技術換臉，置換成裸體和露骨的圖像，本月7日被放上Instagram和Snapchat分享。
這所位於維多利亞省墨爾本郊區的男女合校，招收小學至中學學齡的學生。
維多利亞警方證實，已逮捕一名「與網路傳播露骨圖片有關」的青少年，之後釋放，等待進一步調查。
受害者最小14歲
該校校長尼爾（Andrew Neal）向澳洲廣播公司 (ABC）證實，受害者是9至 12年級的女孩，這意味受害者年齡範圍可能在14至18歲之間。被捕青少年的年齡和身分尚不清楚，但尼爾說：「依邏輯上來看，嫌犯是學校裡的人。」不過警方和學校不排除任何其他可能。
有就讀該校的女學生家長愛蜜莉（Emily）透露，女兒看過這些深偽圖像，並稱它們「難以置信的露骨」。她女兒不是這些深偽圖像的受害者，但仍感到非常不安，甚至因為看到這些圖像而忍不住嘔吐。
此事發生之際正值澳洲聯邦政府推動制定新法律，針對創建和分享AI工具製作的圖像來羞辱和誹謗受害者的罪犯，處以監禁。
維多利亞省是澳洲唯一將分享深度偽造色情內容定為刑事犯罪的省。2022 年，省政府對未經同意使用技術生成或分享虐待兒童材料或露骨色情材料的行為判處3年監禁。本月，澳洲政府再立法，把全國傳播深度偽造色情內容定為刑事犯罪。根據擬議的法律，分享未經同意的露骨色情內容者可能面臨最高6年的監禁；如果該犯罪者也創建未經許可共享的深度偽造內容，刑期可能增至7年。
台灣網紅「小玉」被判關5年
包括美國的其他國家，也正在試圖解決AI深偽色情內容數量驚人增長的問題。臉書（facebook）和X平台在內的社群媒體表示，所有未經同意的色情內容都在其平台上被禁止，然而AI生成的露骨圖像仍繼續在網路快速傳播。
知名受害者包括美國樂壇天后泰勒絲（Taylor Swift）和紐約州眾議員歐加修-寇蒂茲（Alexandria Ocasio-Cortez）；事件驚動白宮，要求社群平台嚴格把關。
台灣也曾有網紅「小玉」朱玉宸利用深偽的AI換臉技術，把國內知名政治人物、網紅與直播主的臉部影像置換成色情影片，並上網販售獲利逾1300萬元，2023年12月二審判5年徒刑。
