號稱是全球首家視覺威脅情報的資安業者Sensity,在本周揭露了一個藏匿在Telegram傳訊平臺的新Deepfake造假組織,某非法組織打造了一款圖片造假AI機器人,會自動產生上傳照片的偽造不雅照。

Sensity統計每個月發布到Telegram頻道的照片數量,這個造假Telegram頻道的用戶數超過10萬名,也累計至少超過10萬人的照片遭鎖定被惡意修圖成不雅照。

根據Sensity的調查,此一AI機器人現身於2019年中,利用開源的深度學習Deepfake技術,來將穿衣照片變造修改為裸體照片。始作俑者還透過Telegram平臺上開設了7個頻道,來散播這個Bot工具。Sensity追蹤這個bot的使用情況,有7成的使用者來自俄羅斯與前蘇聯國家,其次是西班牙和拉丁美洲地區(6%)。另外, 7成的使用者聲稱他們是從社交網站或它私密資料取得原始照片。

值得注意的是,該AI機器人還在俄羅斯社交網站VK大打廣告,在察覺此一Deepfake生態體系之後,Sensity同時通知了Telegram、VK與執法機關,並在報告中提出警告,擔心這些偽造的不雅照除了會在私人頻道中流傳之外,也可能流落到公開平臺,變成羞辱或敲詐工具。


熱門新聞

Advertisement