紐約州立大學水牛城分校的科學家發現,在一張照片或一段影片中,兩個眼睛內的圖案通常是相同的形狀或顏色,但在利用人工智慧創造的影像中,包括生成對抗網路(GAN)影像在內,都未能準確地執行此一操作,可能是因為它們多半是以許多照片合併成假照片所致。(圖片來源/Shu Hu, Yuezun Li, and Siwei Lyu, Computer Science and Engineering, University at Buffalo, USA)

紐約州立大學水牛城分校的科學家近日公布一項可用來辨識Deepfake的技術,他們利用眼角膜上的光線反射圖像來辨識影像的真實性,且辦識的有效率高達94%。

此一論文已被IEEE接受,論文的第一作者、亦為該校教授的Siwei Lyu解釋,角膜就像是一個會反射的球面,因此,任何藉由光源進入眼睛的事物都會在角膜上留下圖案,由於眼睛是看著同樣的事物,因此在兩眼上應該會留下非常類似的反射圖案。

於是,在一張照片或一段影片中,兩個眼睛內的圖案通常是相同的形狀或顏色,但在利用人工智慧創造的影像中,包括生成對抗網路(Generative Adversarial Networks,GAN)影像在內,都未能準確地執行此一操作,可能是因為它們多半是以許多照片合併成假照片所致。

這群科學家即打造了一個工具來檢查兩隻眼睛所呈現的圖案是否一致,比較了角膜上所呈現的圖案形狀,光的強度,以及反射光的其它特性,並展現出94%的有效率。

不過,這種方法其實仍有不少限制,例如需要有光的反射來源,或者是有心人士也能夠藉由後製來調整兩眼的反射圖案,而且它必須比對兩隻眼睛,若只能看到一隻眼睛,該技術就無用武之地了。

Lyu說,現在有大量的Deepfake是基於色情目的,對受害者帶來了很大的心理創傷,也有Deepfake含有惡意的政治目的,讓政治人物說出或做出根本不是他們說或做的事,而使得如何辨識Deepfake變得愈來愈重要。

臉書在去年舉辦的Deepfake影片辨識技術創新大賽吸引了全球2,000名AI專家,這些參賽者上傳了逾3.5萬個模型來辨識20萬則的假影片,其中有10萬則是由臉書錄製且先行開放參賽者存取的公開資料集,另外10萬則是未曾曝光過的「黑盒子」資料集,結果公開資料集的Deepfake最高辨識率為82.56%,而「黑盒子」資料集的Deepfake最高辨識率則僅有65.18%。


熱門新聞

Advertisement