AI熱潮夯!免費AI工具可下載? 普丁、金正恩也成受害者

社會
2024/07/10 21:44
陳力維 文章

【記者陳力維/綜合報導】AI熱潮席捲全球,如果有免費的AI影片生成工具可用,對想初窺AI奧妙者豈不是非常吸引人?近日有網友發現,最近臉書出現「Luma Dream Machine」免費AI影片生成工具廣告影片投放,結果實際上是詐騙誘導使用者下載不明壓縮檔案,若真的下載並安裝很可能會遭到惡意軟體攻擊。另外,網路上流傳一系列日前俄羅斯總統普丁訪問北韓時,北韓領導人金正恩帶他去聲色場所摟妹、花天酒地的照片,也被戳破是惟妙惟肖的AI生成圖片。顯然詐騙集團也狂蹭AI話題增加詐騙成功率,民眾不可不慎。

近日網路瘋傳一系列俄羅斯總統普丁造訪北韓,結果北韓領導人金正恩打赤膊與他尬舞,喝花酒摟妹照片,結果是惟妙惟肖的AI偽造假照片。翻攝自「MyGoPen」官網 zoomin
近日網路瘋傳一系列俄羅斯總統普丁造訪北韓,結果北韓領導人金正恩打赤膊與他尬舞,喝花酒摟妹照片,結果是惟妙惟肖的AI偽造假照片。翻攝自「MyGoPen」官網
分享 連結 下載App

事實查核機構「MyGoPen」指出,最近臉書出現AI工具的詐騙廣告影片投放,偽裝成「Luma Dream Machine」並說可以讓你用文字或圖片轉換成逼真的影片,誘導你下載 Windows 版本的不明壓縮檔案。事實上若下載安裝很可能會遭到惡意軟體攻擊,建議大家務必要到Luma AI的官方網站,看到這樣的不明社群廣告貼文千萬要小心,更不要貿然下載安裝。

「MyGoPen」解釋,事實上這樣的詐騙廣告貼文會讓使用者連結到假冒的官方頁面,釣魚網站頁面盜用了原始官網的各種形象設計,誘導造訪者下載不明的壓縮檔案,目的就是勾起造訪者好奇心,誘騙下載安裝不明軟體,可能會有木馬、資料竊取方面的資安危機,可能導致使用者遭受惡意軟體攻擊。

網路流傳的AI免費工具,實際上是誘騙人下載惡意軟體來安裝的詐騙廣告。翻攝自「MyGoPen」官網 zoomin
網路流傳的AI免費工具,實際上是誘騙人下載惡意軟體來安裝的詐騙廣告。翻攝自「MyGoPen」官網
廣告

另外,「MyGoPen」也點出近期另一樁濫用AI來詐騙的狀況。俄羅斯總統普丁於2024年6月19日飛抵北韓平壤展開訪問,結果近期網路上流出一系列共10張北韓領導人金正恩招待普丁喝花酒的畫面,照片極為真實,內容包含多張普丁與金正恩的合照,大多是兩個人的自拍,還有一起跳舞、摟妹、打赤膊對尬舞技,甚至還一起搭雲霄飛車。

網路瘋傳普丁造訪北韓狂歡照。翻攝自「MyGoPen」官網 zoomin
網路瘋傳普丁造訪北韓狂歡照。翻攝自「MyGoPen」官網

不過,首先是光肉眼仔細檢視網傳圖片,就可以看到許多不合理之處,例如背景人物手臂扭曲、手指扭曲或是缺指等情況,AI生成的圖片在手指的呈現上仍有瑕疵;其餘像是領帶不完整、背景人物頭部與頸部分離等,都是 AI 生成圖片不夠精細所致。

以AI圖片偵測工具「HIVE Moderation」可發現這是用AI製圖工具「Midjourney」所生成的假圖片。翻攝自「MyGoPen」官網 zoomin
以AI圖片偵測工具「HIVE Moderation」可發現這是用AI製圖工具「Midjourney」所生成的假圖片。翻攝自「MyGoPen」官網

接著以AI圖片偵測工具「HIVE Moderation」檢測其中3張圖片,可發現AI生成圖片的比率分別為 70.3%、99.7%和99.9%。檢測其餘7張流傳的圖片,判定包含AI生成或深偽(deepfake)內容的比率也都在90%以上,而且皆顯示應是由AI製圖工具「Midjourney」所生成。總結來說,網傳一系列普丁與金正恩的合照,實際上都是 AI 生成圖片,並非真實畫面。

事實上以肉眼細看,就能發現圖片中許多詭異不合理之處。翻攝自「MyGoPen」官網 zoomin
事實上以肉眼細看,就能發現圖片中許多詭異不合理之處。翻攝自「MyGoPen」官網

知新聞 Line 官方帳號

⭐️ 即刻下載《知新聞》App!免費!

餐酒館
台北市知名永康街蔥抓餅二店
# AI # Luma Dream Machine # Luma AI