將文化嵌入AI時(shí)如何正確處理文化

如果像Rip Van Winkle一樣在過去的十年中已經(jīng)睡著了并且剛剛醒來，那翻蓋手機(jī)已經(jīng)成為復(fù)古技術(shù)人員和生存主義者中的熱門話題，那么，人工智能(AI)是要么殺死你，要么拯救你。

人工智能是困擾社會(huì)的一長(zhǎng)串技術(shù)流行語(yǔ)中的最新一種，如果我們要相信備受推崇的技術(shù)分析公司Gartner Inc.的員工，那么2018年將是AI真正融入我們?nèi)粘Ｉ畹囊荒?。在波士頓動(dòng)力學(xué)(Boston Dynamics)煮熟的超現(xiàn)實(shí)機(jī)器人或在公立學(xué)校中部署面部識(shí)別AI時(shí)，似乎令人不安，該技術(shù)是人類條件的產(chǎn)物，因此，我們將自己的文化嵌入其編碼的DNA中。

關(guān)于AI的爭(zhēng)論目前集中在道德概念上。在文化研究中，道德觀念被深深植根于價(jià)值觀之中，它們已經(jīng)成為有關(guān)人工智能如何融入我們生活的重要組成部分。尚未討論的是我們?cè)谡務(wù)撜l(shuí)的道德規(guī)范以及最終的價(jià)值觀。

是西方對(duì)東方，還是人對(duì)其他人?由于文化中的價(jià)值觀受到社區(qū)和更大社會(huì)的影響，因此倫理學(xué)取決于社區(qū)價(jià)值觀在其中發(fā)展的文化背景。

“培養(yǎng)”

因此，文化在經(jīng)過了所謂的形成AI的重要作用的教化該數(shù)據(jù)。

人類學(xué)家吉納維芙·貝爾(Genevieve Bell)是英特爾公司前副總裁兼文化遠(yuǎn)見卓識(shí)者，能夠引導(dǎo)這家科技巨頭更深入地了解文化與人工智能如何相互作用。

貝爾的研究表明，人類與技術(shù)的互動(dòng)在文化上并不普遍。它既不相同也不客觀，我們?cè)谟幸庾R(shí)和無(wú)意識(shí)的水平上對(duì)技術(shù)內(nèi)外的文化進(jìn)行編碼。

如果這是真的，那么人工智能文化的最終發(fā)展會(huì)發(fā)生什么?

人類學(xué)家，人類文化進(jìn)化有許多標(biāo)志：該工具的操作，抽象思維的發(fā)展，和更根本的，語(yǔ)言的創(chuàng)造中進(jìn)行通信。

當(dāng)兩個(gè)或兩個(gè)以上的生命實(shí)體開始交流和交換信息以及更為復(fù)雜的思想時(shí)，文化便開始了。非人類AI實(shí)體之間的文化發(fā)展尚未討論，更不用說人類文化與AI文化的融合了。

機(jī)器人發(fā)展了自己的語(yǔ)言

最近，F(xiàn)acebook的AI研究小組(FAIR)簡(jiǎn)短地提到了一個(gè)實(shí)驗(yàn)，其中兩個(gè)機(jī)器人的任務(wù)是彼此進(jìn)行談判。據(jù)當(dāng)時(shí)報(bào)道，這些機(jī)器人開始開發(fā)一種更有效的語(yǔ)言來相互交流。

Facebook的計(jì)算機(jī)科學(xué)研究人員迅速終止了這兩種機(jī)器人之間正在迅速發(fā)展的一種更高效的AI語(yǔ)言的開發(fā)工作，并不是因?yàn)樗麄儗?duì)AI自我創(chuàng)造的出現(xiàn)感到恐懼，而是因?yàn)檫@些機(jī)器人沒有返回預(yù)期的結(jié)果-英文談判。

在代碼本質(zhì)上由零和一(是或否)組成的世界中，意外的余地并不多。但是有時(shí)，我們應(yīng)該抓住機(jī)會(huì)并探索各種可能性，因?yàn)槲幕粫?huì)以一種獨(dú)特的方式表現(xiàn)出來。

文化是我們創(chuàng)造的。作為一個(gè)社會(huì)，我們有意識(shí)或無(wú)意識(shí)地同意這套準(zhǔn)則，它構(gòu)筑了我們?cè)谌粘Ｉ钪械倪\(yùn)作方式。

人工智能可以吸收文化

人工智能在未來具有吸收世界上所有文化規(guī)范和價(jià)值觀，發(fā)展?jié)撛诘恼嬲蛭幕莫?dú)特能力。但是首先，我們，人工智能的創(chuàng)造者，必須了解我們的角色以及我們?nèi)绾斡绊戇@種吸收能力。畢竟，AI代表了構(gòu)建它的人們以及向AI基礎(chǔ)數(shù)據(jù)框架提供輸入的人們的文化縮影。

科幻小說家阿拉斯泰爾·雷諾茲(Alastair Reynolds)在他的《絕對(duì)差距》一書中描述了一個(gè)行星，其中唯一的智能生物是茫茫的海洋，它吸收了生物和在其中游泳的生物的信息。海洋從這些信息中學(xué)習(xí)，并將該知識(shí)重新分配給其他生物。

在本書中被稱為“模式雜耍”，我們知道的AI的當(dāng)前表現(xiàn)非常像虛構(gòu)的海洋，它吸收知識(shí)并有選擇地將其與自己的培養(yǎng)數(shù)據(jù)一起分發(fā)。

以雷諾茲吸收知識(shí)的海洋為例，人工智能目前就像地球上分離的鹽和淡水體一樣，每個(gè)都有自己的生態(tài)系統(tǒng)，彼此獨(dú)立。

當(dāng)這些非常獨(dú)特的生態(tài)系統(tǒng)開始相互交流時(shí)，會(huì)發(fā)生什么?隨著各個(gè)AI實(shí)體開始在其新形成的文化中交流信息并談判現(xiàn)實(shí)，如何確定規(guī)范和價(jià)值觀?

諾曼是一個(gè)警告

麻省理工學(xué)院的諾曼(Norman)是一個(gè)基于虛構(gòu)的精神病患者的AI人物，這是我們?cè)谌祟愔虚L(zhǎng)期以來所知的一個(gè)獨(dú)特例子：隨著長(zhǎng)期暴露于暴力之中，人們對(duì)文化規(guī)范和價(jià)值觀的看法不一。這對(duì)將來暴露并傳播到其他AI構(gòu)成了真正的危險(xiǎn)。

為何如此?

Envision Norman和Alexa交往了。這兩個(gè)AI都代表了制造它們的人，他們所消耗的人類數(shù)據(jù)以及內(nèi)置的學(xué)習(xí)需求。那么誰(shuí)的文化價(jià)值觀和規(guī)范會(huì)更具說服力?

諾曼(Norman)的目的是從精神病患者的鏡頭中查看所有數(shù)據(jù)，而作為數(shù)字助理的Alexa只是希望取悅。匯集在一起??時(shí)，有無(wú)數(shù)類似的性格出現(xiàn)錯(cuò)誤的人類例子。

社會(huì)科學(xué)家認(rèn)為，有關(guān)AI的爭(zhēng)論將激增，結(jié)果，多種版本的AI必然會(huì)共存。

隨著哲學(xué)家，人類學(xué)家和其他社會(huì)科學(xué)家開始表達(dá)他們的關(guān)切，社會(huì)已經(jīng)成熟了時(shí)間來思考AI的期望用途，質(zhì)疑現(xiàn)實(shí)和我們的期望并影響其發(fā)展成真正的全球文化環(huán)境。