黑科技，前瞻技術(shù)，自動駕駛，英特爾,英特爾AI，英特爾自動駕駛

　　（圖片來源：英特爾）

 

　　該項目名為“確保人工智能足夠強大，以抵御欺騙”（Guaranteeing Artificial Intelligence Robustness against Deception，GARD），將持續(xù)4年，耗資數(shù)百萬美元，英特爾為主承包商，致力于改善網(wǎng)絡(luò)安全防御機制，防范會影響到機器學(xué)習(xí)模型的欺騙攻擊。

 

　　雖然針對機器學(xué)習(xí)（ML）系統(tǒng)的對抗性攻擊很少見，但是利用ML和AI進行操作的系統(tǒng)的數(shù)量在不斷增加。而此類技術(shù)是自動駕駛汽車等半自動和自動駕駛系統(tǒng)的重要部分，因此有必要繼續(xù)防止AI技術(shù)錯誤地對現(xiàn)實世界中的物體進行分類（例如，能夠區(qū)分停車標(biāo)志與人類），因為在學(xué)習(xí)模型中插入有害信息或微微修改物體本身都會誤導(dǎo)物體識別。

 

　　GARD團隊的目標(biāo)是為此類系統(tǒng)配備工具和增強性功能，更好地幫助其抵御此類攻擊。

 

　　其實，此類攻擊已經(jīng)出現(xiàn)多年。例如，2019年3月，騰訊科恩實驗室（Tencent’s Keen Security Lab）發(fā)布了一份報告，表示研究人員能夠利用貼在道路上的貼紙，誘使特斯拉Model S變道，并進入迎面而來的車流中。在2017年，研究人員3D打印了一種烏龜，而且配備了特別設(shè)計的外殼圖案，以欺騙谷歌的AI圖像識別算法，讓該算法誤認(rèn)為烏龜是來復(fù)槍。

 

　　自此之后，研究人員一直在研究利用修改過的路標(biāo)欺騙自動駕駛車輛的方法，例如，利用一塊黑色膠帶欺騙半自動駕駛汽車的攝像頭，讓其誤認(rèn)為速度限制范圍比實際要更大。

 

　　因此，GARD的愿景是利用以前以及現(xiàn)在對影響計算機AI和ML視覺系統(tǒng)的缺陷和漏洞的研究，打造一個理論基礎(chǔ)，幫助識別系統(tǒng)的漏洞，并確定極端情況的特征，以增強此類系統(tǒng)面對錯誤和攻擊的應(yīng)對能力。

 

　　在GARD項目的第一階段，英特爾和佐治亞理工學(xué)院將在靜態(tài)圖像和視頻中保持空間、時間和語義一致性，以提升物體識別能力，意味著AI和ML系統(tǒng)能夠在額外情境下得到訓(xùn)練，了解到在任何給定情況下會發(fā)生什么，并經(jīng)過設(shè)計，以標(biāo)記場景或駁回不太可能的圖像場景。該階段的理念是通過在環(huán)境中引入更多解釋圖像的因素，開發(fā)出具有更好“判斷力”的AI。

 

　　例如，一名攻擊者可以通過改變停車標(biāo)志，讓其外觀有點走樣，以欺騙AI，讓AI認(rèn)為該停車標(biāo)志不是一個停車標(biāo)志。對于人類而言，該停車標(biāo)志還是紅色、還是八角形的形狀，即使“停下”這個詞被改變了或者消失了，因而，大多數(shù)人類駕駛員還是會停車。不過，AI可能會誤解該標(biāo)志，并繼續(xù)行駛。不過，如果能夠額外感知情境，即讓AI在識別十字路口、標(biāo)志形狀、標(biāo)志顏色等方面接受訓(xùn)練，就可以像人類駕駛員一樣，駁回錯誤的分類信息。

 

　　總而言之，英特爾和佐治亞理工學(xué)院的研究是為了實現(xiàn)更好的圖像識別系統(tǒng)，以提高自動駕駛車輛的安全性，并讓各行業(yè)內(nèi)的ML系統(tǒng)能夠更好地分類物體。