Facebook訓練了AI來欺騙人臉識別系統(tǒng) 并且可以在實時視頻上運行

Facebook仍因其面部識別實踐卷入數(shù)十億美元的判決訴訟，但這并沒有阻止其人工智能研究部門開發(fā)技術來對抗公司被指控的不實行為。據(jù)VentureBeat稱，F(xiàn)acebook AI Research(FAIR)開發(fā)了一種先進的“去識別”系統(tǒng)，該系統(tǒng)可用于視頻，甚至包括實時視頻。它通過使用機器學習實時更改視頻主題的關鍵面部特征來工作，以欺騙面部識別系統(tǒng)以不正確地識別主題。

過去已經(jīng)存在這種去識別技術，并且像以色列AI和隱私公司D-ID這樣的整個公司都致力于為靜止圖像提供該技術。您還可以穿戴一整類面部識別欺騙圖像，稱為對抗示例，它們可以通過利用對計算機視覺軟件進行訓練以識別某些特征的弱點來工作。以這副印有對抗圖案的太陽鏡為例，這可以使面部識別系統(tǒng)認為您是女演員米拉·喬沃維奇(Milla Jovovich)。

AI軟件可以通過更改關鍵面部特征來欺騙面部識別系統(tǒng)

但是，這種類型的面部識別障礙通常意味著事后要更改從安全攝像機或其他來源捕獲的照片或靜止圖像?；蛟趯剐允纠那闆r下，搶先出發(fā)以欺騙系統(tǒng)。據(jù)推測，F(xiàn)acebook的研究可以實時地，通過預先錄制的和實時的錄像進行類似的工作。FAIR聲稱，這是該行業(yè)的首創(chuàng)，足以抵御復雜的面部識別系統(tǒng)。您可以在此YouTube視頻中看到一個實際的示例，由于該視頻已被除名，因此無法嵌入其他地方。

接受VentureBeat引用的論文解釋了該公司的做法，他說：“面部識別可能會導致隱私喪失，面部替換技術可能會被誤用于制作誤導性視頻。”“有關人臉識別技術的進步和濫用的最新世界事件引發(fā)了對理解成功處理去身份識別的方法的需求。我們的貢獻是唯一適用于視頻(包括現(xiàn)場視頻)的視頻，其呈現(xiàn)的質(zhì)量遠遠超過了文獻方法。”

據(jù)VentureBeat報道，F(xiàn)acebook顯然無意在其任何商業(yè)產(chǎn)品中使用該技術。但是，這項研究可能會影響為保護個人隱私而開發(fā)的未來工具，并且正如該研究在“誤導性視頻”中所強調(diào)的那樣，它會阻止某人的肖像被用于視頻偽造品中。

人工智能行業(yè)目前正在研究各種方法來打擊深度欺詐和用于創(chuàng)建深度欺詐的日益復雜的工具。這是一種方法，立法者和科技公司都在嘗試提出其他工具，例如Deepfake檢測軟件以及用于控制假視頻，圖像和音頻的傳播的監(jiān)管框架。

FAIR研究的另一個關注點是面部識別，這也是不受管制的，并引起立法者，學者和活動家的關注，他們擔心，如果繼續(xù)部署它而未受到執(zhí)法部門，政府和公司的監(jiān)督，可能會侵犯人權(quán)。