圖片來源: 

Image credit: Mike MacKenzie from Flickr (https://bit.ly/3rBSv4Y), (CC BY 2.0)

3名資安研究人員上周發表了一份名為EvilModel的研究報告,他們把惡意程式藏匿在神經網路的模型中,不僅可嵌入大型的惡意程式,還能躲避偵測,甚至不影響該AI模型的效能。

這3名資安研究人員為Zhi Wang、Chaoge Liu與Xiang Cui指出,駭客為了躲避偵測,經常將惡意程式的通訊藏匿在諸如Twitter、GitHub甚至是區塊鏈等合法服務中,這些方法完全不需要駭客自行部署伺服器,受害者也無法藉由摧毀合法服務來保護自己,只不過,這些管道通常只適用於少量的訊息,而無法用來遞送檔案較大的酬載或攻擊程式,而這也是他們選擇神經網路模型的原因。

由於神經網路模型多半具備不可解釋的特性,再加上良好的泛化能力,因此,若把惡意程式直接嵌入神經網路模型中,對於該模型的效能影響非常的輕微,此外,因神經網路模型的架構沒變,於是還能躲過防毒軟體的偵測。

因此,研究人員成功地把高達36.9MB的惡意程式放進178MB的AlexNet模型,不僅只損失不到1%的精確度,還未被任何的防毒引擎察覺。

根據該報告的解釋,由於藏匿在神經網路中的惡意程式是被拆解的,也缺乏特徵,因而得以躲避偵測;此外,神經網路的泛化能力讓它就算夾帶了惡意程式,也不會造成異常;且特定任務的神經網路模型的檔案都很大,也讓它能夠用來遞送惡意程式。

更重要的是,此一手法並不需要仰賴其它的系統漏洞,內含惡意程式的模型只要透過供應鏈的模型更新就能遞送,而不會引起注意,隨著神經網路愈來愈普及,研究人員相信此一方法未來將會日益普及。


熱門新聞

Advertisement