Facebook訓(xùn)練了AI來(lái)欺騙人臉識(shí)別系統(tǒng) 并且可以在實(shí)時(shí)視頻上運(yùn)行

Facebook仍因其面部識(shí)別實(shí)踐卷入數(shù)十億美元的判決訴訟，但這并沒(méi)有阻止其人工智能研究部門(mén)開(kāi)發(fā)技術(shù)來(lái)對(duì)抗公司被指控的不實(shí)行為。據(jù)VentureBeat稱(chēng)，F(xiàn)acebook AI Research(FAIR)開(kāi)發(fā)了一種先進(jìn)的“去識(shí)別”系統(tǒng)，該系統(tǒng)可用于視頻，甚至包括實(shí)時(shí)視頻。它通過(guò)使用機(jī)器學(xué)習(xí)實(shí)時(shí)更改視頻主題的關(guān)鍵面部特征來(lái)工作，以欺騙面部識(shí)別系統(tǒng)以不正確地識(shí)別主題。

過(guò)去已經(jīng)存在這種去識(shí)別技術(shù)，并且像以色列AI和隱私公司D-ID這樣的整個(gè)公司都致力于為靜止圖像提供該技術(shù)。您還可以穿戴一整類(lèi)面部識(shí)別欺騙圖像，稱(chēng)為對(duì)抗示例，它們可以通過(guò)利用對(duì)計(jì)算機(jī)視覺(jué)軟件進(jìn)行訓(xùn)練以識(shí)別某些特征的弱點(diǎn)來(lái)工作。以這副印有對(duì)抗圖案的太陽(yáng)鏡為例，這可以使面部識(shí)別系統(tǒng)認(rèn)為您是女演員米拉·喬沃維奇(Milla Jovovich)。

AI軟件可以通過(guò)更改關(guān)鍵面部特征來(lái)欺騙面部識(shí)別系統(tǒng)

但是，這種類(lèi)型的面部識(shí)別障礙通常意味著事后要更改從安全攝像機(jī)或其他來(lái)源捕獲的照片或靜止圖像。或在對(duì)抗性示例的情況下，搶先出發(fā)以欺騙系統(tǒng)。據(jù)推測(cè)，F(xiàn)acebook的研究可以實(shí)時(shí)地，通過(guò)預(yù)先錄制的和實(shí)時(shí)的錄像進(jìn)行類(lèi)似的工作。FAIR聲稱(chēng)，這是該行業(yè)的首創(chuàng)，足以抵御復(fù)雜的面部識(shí)別系統(tǒng)。您可以在此YouTube視頻中看到一個(gè)實(shí)際的示例，由于該視頻已被除名，因此無(wú)法嵌入其他地方。

接受VentureBeat引用的論文解釋了該公司的做法，他說(shuō)：“面部識(shí)別可能會(huì)導(dǎo)致隱私喪失，面部替換技術(shù)可能會(huì)被誤用于制作誤導(dǎo)性視頻。”“有關(guān)人臉識(shí)別技術(shù)的進(jìn)步和濫用的最新世界事件引發(fā)了對(duì)理解成功處理去身份識(shí)別的方法的需求。我們的貢獻(xiàn)是唯一適用于視頻(包括現(xiàn)場(chǎng)視頻)的視頻，其呈現(xiàn)的質(zhì)量遠(yuǎn)遠(yuǎn)超過(guò)了文獻(xiàn)方法。”

據(jù)VentureBeat報(bào)道，F(xiàn)acebook顯然無(wú)意在其任何商業(yè)產(chǎn)品中使用該技術(shù)。但是，這項(xiàng)研究可能會(huì)影響為保護(hù)個(gè)人隱私而開(kāi)發(fā)的未來(lái)工具，并且正如該研究在“誤導(dǎo)性視頻”中所強(qiáng)調(diào)的那樣，它會(huì)阻止某人的肖像被用于視頻偽造品中。

人工智能行業(yè)目前正在研究各種方法來(lái)打擊深度欺詐和用于創(chuàng)建深度欺詐的日益復(fù)雜的工具。這是一種方法，立法者和科技公司都在嘗試提出其他工具，例如Deepfake檢測(cè)軟件以及用于控制假視頻，圖像和音頻的傳播的監(jiān)管框架。

FAIR研究的另一個(gè)關(guān)注點(diǎn)是面部識(shí)別，這也是不受管制的，并引起立法者，學(xué)者和活動(dòng)家的關(guān)注，他們擔(dān)心，如果繼續(xù)部署它而未受到執(zhí)法部門(mén)，政府和公司的監(jiān)督，可能會(huì)侵犯人權(quán)。