AI熱潮夯！免費AI工具可下載？　普丁、金正恩也成受害者

社會

2024/07/10 21:44

【記者陳力維／綜合報導】AI熱潮席捲全球，如果有免費的AI影片生成工具可用，對想初窺AI奧妙者豈不是非常吸引人？近日有網友發現，最近臉書出現「Luma Dream Machine」免費AI影片生成工具廣告影片投放，結果實際上是詐騙誘導使用者下載不明壓縮檔案，若真的下載並安裝很可能會遭到惡意軟體攻擊。另外，網路上流傳一系列日前俄羅斯總統普丁訪問北韓時，北韓領導人金正恩帶他去聲色場所摟妹、花天酒地的照片，也被戳破是惟妙惟肖的AI生成圖片。顯然詐騙集團也狂蹭AI話題增加詐騙成功率，民眾不可不慎。

近日網路瘋傳一系列俄羅斯總統普丁造訪北韓，結果北韓領導人金正恩打赤膊與他尬舞，喝花酒摟妹照片，結果是惟妙惟肖的AI偽造假照片。翻攝自「ＭyGoPen」官網

事實查核機構「ＭyGoPen」指出，最近臉書出現AI工具的詐騙廣告影片投放，偽裝成「Luma Dream Machine」並說可以讓你用文字或圖片轉換成逼真的影片，誘導你下載 Windows 版本的不明壓縮檔案。事實上若下載安裝很可能會遭到惡意軟體攻擊，建議大家務必要到Luma AI的官方網站，看到這樣的不明社群廣告貼文千萬要小心，更不要貿然下載安裝。

「ＭyGoPen」解釋，事實上這樣的詐騙廣告貼文會讓使用者連結到假冒的官方頁面，釣魚網站頁面盜用了原始官網的各種形象設計，誘導造訪者下載不明的壓縮檔案，目的就是勾起造訪者好奇心，誘騙下載安裝不明軟體，可能會有木馬、資料竊取方面的資安危機，可能導致使用者遭受惡意軟體攻擊。

網路流傳的AI免費工具，實際上是誘騙人下載惡意軟體來安裝的詐騙廣告。翻攝自「ＭyGoPen」官網

另外，「ＭyGoPen」也點出近期另一樁濫用AI來詐騙的狀況。俄羅斯總統普丁於2024年6月19日飛抵北韓平壤展開訪問，結果近期網路上流出一系列共10張北韓領導人金正恩招待普丁喝花酒的畫面，照片極為真實，內容包含多張普丁與金正恩的合照，大多是兩個人的自拍，還有一起跳舞、摟妹、打赤膊對尬舞技，甚至還一起搭雲霄飛車。

不過，首先是光肉眼仔細檢視網傳圖片，就可以看到許多不合理之處，例如背景人物手臂扭曲、手指扭曲或是缺指等情況，AI生成的圖片在手指的呈現上仍有瑕疵；其餘像是領帶不完整、背景人物頭部與頸部分離等，都是 AI 生成圖片不夠精細所致。

以AI圖片偵測工具「HIVE Moderation」可發現這是用AI製圖工具「Midjourney」所生成的假圖片。翻攝自「ＭyGoPen」官網

接著以AI圖片偵測工具「HIVE Moderation」檢測其中3張圖片，可發現AI生成圖片的比率分別為 70.3%、99.7%和99.9%。檢測其餘7張流傳的圖片，判定包含AI生成或深偽（deepfake）內容的比率也都在90%以上，而且皆顯示應是由AI製圖工具「Midjourney」所生成。總結來說，網傳一系列普丁與金正恩的合照，實際上都是 AI 生成圖片，並非真實畫面。