臉書自去年開始著手規範及封鎖Deepfake內容,甚至2年前也開始嘗試結合AI技術,還舉辦挑戰賽,希望能改進這類AI假影片的辨識演算法,但臉書AI基礎架構研究負責人李憲信坦言,目前辨識成功率約在60%左右,距離真正可用還有段距離。

圖片來源: 

Arm DevSummit 2021高峰會

近日,臺灣一位知名網紅YouTuber,因用Deepfake變臉軟體製作名人不雅影片來販售牟利,遭到警方逮捕,而引發熱議,連總統蔡英文都高度關注,在臉書公開回應將研擬修法,來防止這類新型科技犯罪行為再發生。

Deepfake是一種AI影像合成技術,透過深度學習將影片、照片中人物進行換臉處理。過去幾年,在不少影劇、娛樂,甚至一些重要政治場合,都能看到使用Deepfake偽造名人或政治人物的跡象,因為換過的人臉幾可亂真,有時連民眾自己都難以分辨真假。

這兩年,科技圈針對這種AI造假影片的反制手法也展開研究,微軟和臉書還曾舉辦挑戰賽找解方。不過直到去年Deepfake影片辨識技術大賽,準確度最高只認得8成。另外有科學家想出辦法,以眼角膜上的光線反射圖像來提高AI變臉偵測的準確度,雖然辨識度有高達9成以上,但使用上仍受到不少限制。

在近日一場Arm DevSummit 2021高峰會上,臉書AI基礎架構研究負責人李憲信也透露,目前臉書在Deepfake造假影片辨識研究的進展。李憲信也是臉書AI研究院一員,帶領研究團隊專注AI與ML系統研究。

由於近幾年,在臉書上分享Deepfake造假內容,有逐漸增加的跡象,所以臉書自去年開始著手規範及封鎖Deepfake內容,甚至2年前也開始嘗試結合AI技術,還舉辦挑戰賽,希望能改進這類AI假影片的辨識演算法,但李憲信坦言,目前辨識成功率約在60%左右,距離真正可用還有段距離。

臉書上不只有AI造假影片,還有不少濫用AI技術的例子,李憲信也舉例,一些獨裁政府,會利用臉書平臺來打壓反對聲音,並會引入political bots政治機器人大軍,運用像自然語言處理這類AI技術,自動回應臉書上的相關文章,來攻擊反對者的批評聲音,他說,這樣的情況,也有出現在如臺灣等民主國家,甚至有些國家獨裁者更拿它來統制人民,或用來打擊反對黨,「這是我們在臉書上觀察到的現象。」

遇到這類有違AI道德倫理的事情,臉書也以AI做為反制手段,採用相應的AI技術移除這些機器人假帳號。不過,李憲信表示,臉書每天需要刪除這類的假帳號數量,超過數百萬戶,現階段純用AI來處理,還是有其限制,需要人工介入。他也坦言,這是非常難解的問題。

除了要用AI辨識影片真假,他也提到,臉書目前正在投入的AI研究項目,像是讓AI具備有內容理解能力,能夠根據文意脈絡判斷出,這是否屬於違反道德倫理的行為,例如圖文不符帶有攻擊他人的內容,進而將它移除。


熱門新聞

Advertisement