圖片來源: 

特斯拉

電動車大廠特斯拉(Tesla)在19日舉行的AI Day上,發表了用於特斯拉超級電腦Dojo的最新晶片D1、全自動駕駛(Full Self-Driving)系統,以及人形機器人Tesla Bot。不過,當會議上有人提出特斯拉汽車缺乏3D感應器是否會遭到對抗性攻擊(Adversarial Attacks)時,特斯拉創辦人暨執行長馬斯克(Elon Musk)坦承,他們還沒看到太多這樣的現象,不過他自己曾經利用一件印有停車標誌的T恤,來騙過特斯拉的自動駕駛輔助系統。

對抗性攻擊奠基於機器學習技術,是利用偽造的輸入來欺騙模型,如同讓機器學習模型產生幻覺,導致它出現故障或失效。

大約在一個月以前,有一名特斯拉車主Jordan Nelson在Twitter上張貼了一則影片,當時他的特斯拉正行駛在美國的高速公路上,啟用了自動駕駛輔助系統,他發現特斯拉的車速忽然變慢了,原因是該系統把天上的大滿月誤認為黃燈標誌了。

事實上,特斯拉的自動駕駛輔助系統傳出的誤認事件並不只這一樁,也有車主宣稱它把太陽誤認為紅燈,或者是把廣告牌上的停車標誌當作是真的停車標誌。

Nelson在貼文上標註了馬斯克,但馬斯克並未回覆。不過,馬斯克似乎已在AI Day上解答了Nelson的疑問。

馬斯克說,他真的有一件印著停車標誌的T恤,而且只要在特斯拉汽車前面揮舞,車子就會停下來,而且他曾經自己證明了這件事。

不過,馬斯克也解釋,只要他們看到這類的對抗性攻擊,就會重新訓練汽車,讓系統能夠知道這只是件T恤,而非真的停車標誌。

此外,美國國家公路交通安全管理局(NHTSA)在上周針對特斯拉展開的調查,也與其自動駕駛輔助系統的認知有關,在天黑的時候啟用自動駕駛輔助系統可能會撞上反光箭頭、路錐或救護交通燈等現場的控制號誌。且從2018年到2021年7月,在美國就已發生11起類似的事故。


熱門新聞

Advertisement