通過預(yù)處理或后處理數(shù)據(jù) 人類可以介入以糾正機(jī)器學(xué)習(xí)模型

人工智能(AI)的主要問題之一是“人工”部分。另一個(gè)是“智能”。雖然我們想假裝我們正在設(shè)置機(jī)器人智能，以擺脫人類的偏見和其他缺點(diǎn)，但實(shí)際上，我們經(jīng)常將故障一次轉(zhuǎn)移到AI中，一次一個(gè)數(shù)據(jù)集。

數(shù)據(jù)科學(xué)家漢娜·戴維斯(Hannah Davis)指出了這一點(diǎn)，認(rèn)為“數(shù)據(jù)集就是世界觀”，充滿了主觀含義。但是她并沒有留下AI希望垂死的希望，而是提供了一些方法來改善我們告知AI的數(shù)據(jù)。

人工智能一直都是關(guān)于人的

擺正我們有多“數(shù)據(jù)驅(qū)動(dòng)”的姿勢已變得十分必要，而AI完全依賴于要使用的數(shù)據(jù)，這已成定局。例如，機(jī)器學(xué)習(xí)算法的奇跡之一就是它們能夠以多快的速度篩選大量數(shù)據(jù)以發(fā)現(xiàn)模式并做出相應(yīng)的響應(yīng)。但是，必須對此類模型進(jìn)行培訓(xùn)，這就是為什么數(shù)據(jù)科學(xué)家傾向于將其聚集在已建立的高質(zhì)量數(shù)據(jù)集周圍。

不幸的是，正如戴維斯指出的那樣，這些數(shù)據(jù)集不是中立的：

[A]數(shù)據(jù)集是世界觀。它涵蓋了收集和收集數(shù)據(jù)人員的世界觀，無論他們是研究人員，藝術(shù)家還是公司。它涵蓋了標(biāo)簽商的世界觀，無論它們是手動(dòng)，不知不覺地還是通過諸如Mechanical Turk之類的第三方服務(wù)對數(shù)據(jù)進(jìn)行標(biāo)簽，該服務(wù)都有其自身的人口統(tǒng)計(jì)學(xué)偏差。它涵蓋了組織者創(chuàng)建的固有分類法的世界觀，這些組織在許多情況下是其動(dòng)機(jī)與高質(zhì)量生活直接不相容的公司。

看到問題了嗎?機(jī)器學(xué)習(xí)模型僅與提供它們的數(shù)據(jù)集一樣聰明，并且這些數(shù)據(jù)集受到塑造它們的人的限制。正如一位《衛(wèi)報(bào)》編輯感嘆的那樣，這可能會(huì)導(dǎo)致機(jī)器更快地犯下我們相同的錯(cuò)誤：“人工智能的承諾是，它將使機(jī)器具有從數(shù)據(jù)中發(fā)現(xiàn)模式的能力，并能比人類更快更好地做出決策。 。如果他們更快地做出更糟糕的決定會(huì)怎樣?”

進(jìn)一步使事情復(fù)雜化的是，我們自己的錯(cuò)誤和偏見又由機(jī)器學(xué)習(xí)模型決定。正如Manjunath Bhat所寫的那樣：“人們以數(shù)據(jù)的形式消費(fèi)事實(shí)。但是，可以對數(shù)據(jù)進(jìn)行突變，轉(zhuǎn)換和更改，而這一切都是為了使其易于使用。我們別無選擇，只能生活在高度情境化的世界觀的范圍內(nèi)。”換句話說，我們沒有清楚地看到數(shù)據(jù)。我們的偏見塑造了我們輸入到機(jī)器學(xué)習(xí)模型中的模型，這些模型又反過來塑造了可供我們使用和解釋的數(shù)據(jù)。