AI熱潮夯!免費AI工具可下載? 普丁、金正恩也成受害者
【記者陳力維/綜合報導】AI熱潮席捲全球,如果有免費的AI影片生成工具可用,對想初窺AI奧妙者豈不是非常吸引人?近日有網友發現,最近臉書出現「Luma Dream Machine」免費AI影片生成工具廣告影片投放,結果實際上是詐騙誘導使用者下載不明壓縮檔案,若真的下載並安裝很可能會遭到惡意軟體攻擊。另外,網路上流傳一系列日前俄羅斯總統普丁訪問北韓時,北韓領導人金正恩帶他去聲色場所摟妹、花天酒地的照片,也被戳破是惟妙惟肖的AI生成圖片。顯然詐騙集團也狂蹭AI話題增加詐騙成功率,民眾不可不慎。
事實查核機構「MyGoPen」指出,最近臉書出現AI工具的詐騙廣告影片投放,偽裝成「Luma Dream Machine」並說可以讓你用文字或圖片轉換成逼真的影片,誘導你下載 Windows 版本的不明壓縮檔案。事實上若下載安裝很可能會遭到惡意軟體攻擊,建議大家務必要到Luma AI的官方網站,看到這樣的不明社群廣告貼文千萬要小心,更不要貿然下載安裝。
「MyGoPen」解釋,事實上這樣的詐騙廣告貼文會讓使用者連結到假冒的官方頁面,釣魚網站頁面盜用了原始官網的各種形象設計,誘導造訪者下載不明的壓縮檔案,目的就是勾起造訪者好奇心,誘騙下載安裝不明軟體,可能會有木馬、資料竊取方面的資安危機,可能導致使用者遭受惡意軟體攻擊。
另外,「MyGoPen」也點出近期另一樁濫用AI來詐騙的狀況。俄羅斯總統普丁於2024年6月19日飛抵北韓平壤展開訪問,結果近期網路上流出一系列共10張北韓領導人金正恩招待普丁喝花酒的畫面,照片極為真實,內容包含多張普丁與金正恩的合照,大多是兩個人的自拍,還有一起跳舞、摟妹、打赤膊對尬舞技,甚至還一起搭雲霄飛車。
不過,首先是光肉眼仔細檢視網傳圖片,就可以看到許多不合理之處,例如背景人物手臂扭曲、手指扭曲或是缺指等情況,AI生成的圖片在手指的呈現上仍有瑕疵;其餘像是領帶不完整、背景人物頭部與頸部分離等,都是 AI 生成圖片不夠精細所致。
接著以AI圖片偵測工具「HIVE Moderation」檢測其中3張圖片,可發現AI生成圖片的比率分別為 70.3%、99.7%和99.9%。檢測其餘7張流傳的圖片,判定包含AI生成或深偽(deepfake)內容的比率也都在90%以上,而且皆顯示應是由AI製圖工具「Midjourney」所生成。總結來說,網傳一系列普丁與金正恩的合照,實際上都是 AI 生成圖片,並非真實畫面。