美聯(lián)儲(chǔ)正在努力保護(hù)AI培訓(xùn)數(shù)據(jù)免受惡意篡改

情報(bào)界的高級(jí)研究機(jī)構(gòu)為兩個(gè)計(jì)劃奠定了基礎(chǔ)，這些計(jì)劃的重點(diǎn)是克服對(duì)抗性機(jī)器學(xué)習(xí)和防止對(duì)手對(duì)用戶使用人工智能工具的方式。

情報(bào)高級(jí)研究計(jì)劃活動(dòng)(IARPA)主任史黛西·迪克森(Stacey Dixon)表示，該機(jī)構(gòu)預(yù)計(jì)這兩個(gè)計(jì)劃都將運(yùn)行約兩年。

“我們欣賞到這樣一個(gè)事實(shí)，人工智能將在我們的生活中發(fā)揮更多作用，并且我們將越來(lái)越依賴它，因此我們希望能夠利用或至少減輕迪克斯在4月16日于弗吉尼亞州阿靈頓舉行的情報(bào)與安全聯(lián)盟(INSA)會(huì)議上說(shuō)。

第一個(gè)項(xiàng)目稱為人工智能特洛伊木馬(TrojAI)，每當(dāng)對(duì)手破壞了用于機(jī)器學(xué)習(xí)算法的訓(xùn)練數(shù)據(jù)時(shí)，它就會(huì)發(fā)出警報(bào)。

迪克森說(shuō)：“例如，他們插入了一些訓(xùn)練數(shù)據(jù)，說(shuō)停車(chē)標(biāo)志實(shí)際上是一個(gè)限速標(biāo)志。” “當(dāng)您采用訓(xùn)練中產(chǎn)生的算法并將其用于其他用途時(shí)，您如何知道訓(xùn)練數(shù)據(jù)中存在此類觸發(fā)器?”

IARPA于去年12月發(fā)布了一份廣泛的機(jī)構(gòu)公告草案，并在2月底之前收到了私營(yíng)部門(mén)的反饋，意見(jiàn)和建議。

迪克森(Dixon)表示，另一個(gè)計(jì)劃將在今年晚些時(shí)候發(fā)布公告草案，該計(jì)劃旨在保護(hù)其圖像已用作面部識(shí)別工具訓(xùn)練數(shù)據(jù)的人們的身份。

“如何確保沒(méi)有人能采用您創(chuàng)建的算法，然后返回并重新創(chuàng)建數(shù)據(jù)庫(kù)中的面孔?” 迪克森說(shuō)。“在某些領(lǐng)域，我們還沒(méi)有進(jìn)行過(guò)多的研究，因此我們將啟動(dòng)計(jì)劃。”

盡管少數(shù)機(jī)構(gòu)已經(jīng)嘗試了一些更簡(jiǎn)單的AI工具，例如機(jī)器人流程自動(dòng)化，但海關(guān)和邊境保護(hù)局自2016年6月以來(lái)一直在進(jìn)行生物特征面部識(shí)別試點(diǎn)計(jì)劃，該計(jì)劃將登機(jī)航班的圖像與護(hù)照，簽證和其他形式的照片進(jìn)行比較政府簽發(fā)的件。

此外，迪克森表示，IARPA已將網(wǎng)絡(luò)安全預(yù)測(cè)作為一項(xiàng)“理想”目標(biāo)，并將該項(xiàng)目描述為使機(jī)構(gòu)和公司對(duì)即將到來(lái)的網(wǎng)絡(luò)攻擊有所了解，并確定可能是誰(shuí)在背后。