生物識(shí)別鏡突出了人工智能的缺陷

墨爾本大學(xué)的研究人員以世界第一的方式設(shè)計(jì)了一種人工智能(AI)系統(tǒng)，可以根據(jù)他們的臉部照片來檢測(cè)和展示人們的個(gè)性特征和身體吸引力。

該系統(tǒng)稱為生物識(shí)別鏡，用于研究一個(gè)人對(duì)AI的理解以及他們對(duì)有關(guān)其獨(dú)特特征的信息的反應(yīng)。

當(dāng)有人站在生物識(shí)別鏡前時(shí)，系統(tǒng)會(huì)在幾秒鐘內(nèi)檢測(cè)到一系列面部特征。然后，它將用戶的數(shù)據(jù)與數(shù)千張面部照片的數(shù)據(jù)進(jìn)行比較，這些面部照片由一組眾包響應(yīng)者進(jìn)行心理測(cè)量評(píng)估。

生物識(shí)別鏡具有14種特征，從性別，年齡和種族到吸引力，古怪和情緒穩(wěn)定性。一個(gè)人站在那里的時(shí)間越長，性格就越個(gè)性化。

由社會(huì)自然用戶界面中心(SocialNUI)和墨爾本科學(xué)館的Niels Wouters博士領(lǐng)導(dǎo)的研究項(xiàng)目探討了該技術(shù)對(duì)同意，數(shù)據(jù)存儲(chǔ)和算法偏差的關(guān)注。

“隨著人工智能和大數(shù)據(jù)的興起，政府和企業(yè)將越來越多地使用閉路電視攝像機(jī)和互動(dòng)廣告來檢測(cè)路過的人的情緒，年齡，性別和人口統(tǒng)計(jì)特征，”沃特斯博士說。

“我們的研究旨在挑起關(guān)于人工智能界限的挑戰(zhàn)性問題。它向用戶展示了實(shí)施人工智能是多么容易，以不道德或有問題的方式區(qū)分可能產(chǎn)生社會(huì)后果的人。通過鼓勵(lì)關(guān)于隱私和大規(guī)模監(jiān)視的辯論，我們希望有助于更好地理解人工智能背后的道德規(guī)范。“

生物識(shí)別鏡強(qiáng)調(diào)了算法偏差和假設(shè)的潛在現(xiàn)實(shí)后果。

“雖然收集有關(guān)您的購物偏好的個(gè)人信息以定制個(gè)性化服務(wù)似乎無害，但未經(jīng)同意捕獲此信息使得無法知道預(yù)測(cè)是否基于正確的數(shù)據(jù)，”Wouters博士說。

“人工智能的使用是一個(gè)滑坡，超出了購物和廣告領(lǐng)域。想象一下，無法控制算法錯(cuò)誤地認(rèn)為你不適合管理職位，沒有資格獲得大學(xué)學(xué)位，或未經(jīng)你的同意公開分享你的照片。

“你的一個(gè)特點(diǎn)就是選擇 - 比如，你的責(zé)任水平 - 以及生物識(shí)別鏡子要求你想象這些信息現(xiàn)在正在與你的保險(xiǎn)公司或未來的雇主分享，”沃特斯博士說。“該項(xiàng)目透明地展示了對(duì)個(gè)人的潛在后果。”

Wouters博士說，重要的是要注意生物識(shí)別鏡不是心理分析的工具。

“生物識(shí)別鏡只計(jì)算公眾對(duì)面部外觀的估計(jì)感，”他說。

“它受到其不準(zhǔn)確性的限制，因?yàn)橹挥邢鄬?duì)較小且眾包的數(shù)據(jù)集才能通知其設(shè)計(jì)。從生物識(shí)別鏡中得出關(guān)于心理狀態(tài)的有意義的結(jié)論是不合適的。”