人工智能更難以識(shí)別來自低收入的家庭用品

當(dāng)被要求識(shí)別來自低收入的物品時(shí)，科技公司(包括谷歌，微軟和亞馬遜)銷售的物體識(shí)別算法表現(xiàn)更差。這些是Facebook的人工智能實(shí)驗(yàn)室進(jìn)行的一項(xiàng)新研究的結(jié)果，該實(shí)驗(yàn)表明，人工智能偏見不僅可以在內(nèi)部，而且在它們之間重現(xiàn)不平等。

低收入家庭的算法精確度降低了20%在這項(xiàng)研究中(我們通過Jack Clark的Import AI時(shí)事通訊發(fā)現(xiàn))，研究人員測試了五種流行的現(xiàn)成物體識(shí)別算法 - Microsoft Azure，Clarifai，Google Cloud Vision，Amazon Rekognition和IBM Watson - 以了解每個(gè)程序的效果如何從全球數(shù)據(jù)集中收集的已識(shí)別家庭用品。

該數(shù)據(jù)集包括117個(gè)類別(從鞋子到肥皂到沙發(fā)的所有內(nèi)容)和各種各樣的家庭收入和地理位置(從布隆迪的一個(gè)家庭每月27美元到烏克蘭的一個(gè)家庭，每月收入10,090美元)。

研究人員發(fā)現(xiàn)，物體識(shí)別算法在被要求識(shí)別月收入50美元的家庭物品時(shí)的誤差大約增加10%，而家庭的物品價(jià)值超過3,500美元。準(zhǔn)確度的絕對差異甚至更大：與索馬里和布基納法索的物品相比，算法在識(shí)別物品方面的效果提高了15%至20%。

作者寫道，這些發(fā)現(xiàn)“在一系列用于圖像識(shí)別的商業(yè)云服務(wù)中是一致的”。

這種偏見是AI中眾所周知的問題，并且有許多根本原因。其中最常見的是用于創(chuàng)建算法的訓(xùn)練數(shù)據(jù)通常反映了負(fù)責(zé)工程師的生活和背景。由于這些人通常來自高收入的，他們教導(dǎo)他們的計(jì)劃識(shí)別的世界也是如此。

人工智能偏見的最著名的例子之一是面部識(shí)別算法，在識(shí)別女性面部特別是有色女性時(shí)，這些算法通常表現(xiàn)更差。這種偏見可以進(jìn)入各種系統(tǒng)，從用于計(jì)算假釋的算法到在即將到來的求職面試之前評估你的簡歷的算法。

在物體識(shí)別算法的情況下，本研究的作者說，有一些可能的原因?qū)е洛e(cuò)誤：首先，用于創(chuàng)建系統(tǒng)的訓(xùn)練數(shù)據(jù)在地理上受到限制，其次，他們無法識(shí)別文化差異。

撰寫作者的視覺算法培訓(xùn)數(shù)據(jù)主要來自歐洲和北美，并且“在人口眾多的地理區(qū)域中嚴(yán)重欠采樣[s]視覺場景，特別是在非洲，，和南方 - 東亞。”

偏差可能由多種因素引起，包括不完整的訓(xùn)練數(shù)據(jù)

同樣，大多數(shù)圖像數(shù)據(jù)集使用英語名詞作為起點(diǎn)并相應(yīng)地收集數(shù)據(jù)。這可能意味著缺少整個(gè)類別的項(xiàng)目，或者相同的項(xiàng)目在不同的/地區(qū)看起來不同。作者給出了洗碗皂的例子，這些香皂在一些是肥皂，在另一個(gè)是液體容器，婚禮在和看起來很不一樣。

為什么這很重要?嗯，首先，這意味著使用這些算法創(chuàng)建的任何系統(tǒng)對來自低收入和非西方的人來說都會(huì)表現(xiàn)更差。由于科技公司是人工智能的全球領(lǐng)導(dǎo)者，這可能會(huì)影響從照片存儲(chǔ)服務(wù)和圖像搜索功能到更重要的系統(tǒng)，如自動(dòng)安全攝像頭和自動(dòng)駕駛汽車。

但這可能只是冰山一角。視覺算法相對容易評估這些偏差，但是創(chuàng)建這些程序的管道也為整個(gè)行業(yè)提供了充分的算法，這些算法永遠(yuǎn)不會(huì)受到同樣的審查。

“審計(jì)AI系統(tǒng)并不一定容易，因?yàn)闆]有執(zhí)行此類審計(jì)的標(biāo)準(zhǔn)基準(zhǔn)，”幫助開展此項(xiàng)研究的Facebook AI的研究科學(xué)家Laurens van der Maaten告訴The Verge。“在打擊這種偏見方面，最重要的一步是在設(shè)置用于訓(xùn)練系統(tǒng)的訓(xùn)練數(shù)據(jù)的收集過程時(shí)更加謹(jǐn)慎。”

硅谷經(jīng)常推廣其產(chǎn)品 - 特別是近年來，它的人工智能產(chǎn)品 - 作為平等主義，所有人都可以使用。這樣的研究表明，科技公司繼續(xù)以自己的形象評估，定義和塑造世界。