臉書人工智能模型檢測深度假視頻準(zhǔn)確率達到65%

舊金山:由于對其平臺上日益增長的偽造或深度造假視頻感到震驚，該公司組織了一次深度造假檢測挑戰(zhàn)，結(jié)果不太令人鼓舞，表現(xiàn)最好的模型與現(xiàn)實世界的例子相比，平均準(zhǔn)確率達到65.18%。但Facebook表示，這為人工智能社區(qū)繼續(xù)致力于這項艱巨而重要的任務(wù)建立了一個新的共享基線。深度假檢測挑戰(zhàn)賽吸引了2000多名參與者，他們使用為挑戰(zhàn)賽創(chuàng)建的獨特的新數(shù)據(jù)集訓(xùn)練和測試了超過35,000個模型。

通過對黑匣子數(shù)據(jù)集的測試，頂級模型的平均準(zhǔn)確率達到了65.18%。去年，F(xiàn)acebook與其他行業(yè)領(lǐng)袖和學(xué)術(shù)專家合作，發(fā)起了深度造假檢測挑戰(zhàn)賽。該社交網(wǎng)站在一份聲明中表示:“通過創(chuàng)建和共享包含10萬多個視頻的獨特新數(shù)據(jù)集，DFDC讓來自世界各地的專家聚在一起，對他們的深度假檢測模型進行基準(zhǔn)測試，嘗試新的方法，并相互學(xué)習(xí)?！苯衲?月，F(xiàn)acebook宣布了嚴厲的政策，反對在其平臺上傳播被操縱的媒體。該公司表示，如果未經(jīng)清晰度或質(zhì)量調(diào)整而編輯或合成的誤導(dǎo)性被操縱的媒體，將予以刪除。深度贗品(Deepfakes)指的是偽造視頻，讓人們看起來在說他們從未做過的事情，比如去年走紅的偽造Facebook首席執(zhí)行官扎克伯格(Zuckerberg)和美國眾議院議長南希?佩洛西(Nancy Pelosi)的視頻。不符合刪除標(biāo)準(zhǔn)的視頻仍有資格接受Facebook獨立第三方事實核查人員的審查，該機構(gòu)包括全球50多個合作伙伴，用40多種語言進行事實核查。compaby表示，它還將分享其開放原始數(shù)據(jù)集計劃的細節(jié)，這些數(shù)據(jù)集用于構(gòu)建Deepfake檢測挑戰(zhàn)，其中包括超過3500名參與者和38.5天的數(shù)據(jù)。“這將幫助人工智能研究人員開發(fā)新一代和檢測方法，以提高該領(lǐng)域的技術(shù)水平?！贝送?，這個數(shù)據(jù)集將被開放用于人工智能領(lǐng)域的其他研究工作以及deepfakes的工作，”Facebook詳細闡述道。