AI應(yīng)該為盡可能多的人提供共享的利益

共享效益原則：人工智能技術(shù)應(yīng)該使盡可能多的人受益并賦予權(quán)力。今天，世界上最富有的八個(gè)人的綜合財(cái)富大于全球最貧窮人口的一半。也就是說，8人擁有超過3,600,000,000人的總財(cái)富。

這已經(jīng)是收入不平等的一個(gè)極端例子，但如果我們沒有為人工智能做好準(zhǔn)備，情況可能會(huì)變得更糟。除了首先設(shè)計(jì)先進(jìn)人工智能的明顯經(jīng)濟(jì)效益之外，那些從人工智能中獲利的人也可能擁有：獲得更好的醫(yī)療保健，更快樂和更長(zhǎng)壽，為子女提供更多機(jī)會(huì)，提供各種形式的智力，以及等等。

文化轉(zhuǎn)型

到目前為止，我們的技術(shù)方法是，無(wú)論誰(shuí)先設(shè)計(jì)它，都會(huì)獲勝 - 而且它們會(huì)贏得大獎(jiǎng)。除了發(fā)明家可以積累的神話般的財(cái)富之外，新技術(shù)的創(chuàng)造者還可以完全控制產(chǎn)品及其分銷。這意味著發(fā)明或算法只會(huì)使創(chuàng)作者希望它受益的人受益。雖然這種方法可能與之前的發(fā)明一起使用，但許多人擔(dān)心高級(jí)AI會(huì)如此強(qiáng)大，以至于我們無(wú)法將其視為常規(guī)業(yè)務(wù)。

如果我們能夠確保隨著人工智能的發(fā)展我們都受益匪淺我們能否做出集體 - 并且先發(fā)制人 - 決定使用人工智能來(lái)幫助培養(yǎng)所有人，而不僅僅是少數(shù)人?

哈佛大學(xué)心理學(xué)教授約書亞·格林(Joshua Greene)解釋了他對(duì)這一原則的看法：“在我們知道誰(shuí)真正擁有它之前，我們事先說過，這不是私利。它將落在一些私人手中，它將落在一些私人公司手中，它將首先落入某個(gè)的手中。但這個(gè)原則說，“這不是你的。”這是一個(gè)重要的事情要說，因?yàn)榱硪环N說法是潛在的，人類發(fā)展的最大力量屬于誰(shuí)先得到它。“

AI研究員Susan Craw也同意該原則，并進(jìn)一步澄清了這一點(diǎn)。

“這絕對(duì)是肯定的，”Craw說，“但是當(dāng)它作為一個(gè)整體被用作AI技術(shù)的復(fù)數(shù)時(shí)。與其說某項(xiàng)技術(shù)應(yīng)該讓很多人受益，不如說不同的技術(shù)應(yīng)該使人們受益并賦予人們權(quán)力。“

實(shí)施的挑戰(zhàn)

但是，正如所有原則一樣，同意這些原則是一回事;實(shí)施它們是另一回事。IEEE人工智能和自治系統(tǒng)倫理考慮全球倡議執(zhí)行主任John Havens考慮了最終需要如何修改共享利益原則，以便新技術(shù)同樣有利于發(fā)達(dá)和發(fā)展中。

“是的，這太好了，”在添加之前，Havens談到了這個(gè)原則，“如果你能在它之后寫一個(gè)逗號(hào)，并且說......就像財(cái)富問題，GDP，盡管如此。”關(guān)鍵在于，無(wú)論人們能買得起什么，它都應(yīng)該讓他們受益。“

加州理工大學(xué)哲學(xué)教授帕特里克林，更關(guān)心的是如何實(shí)施該原則，并提到可能產(chǎn)生的意外后果。

林解釋說：“共享利益很有意思，因?yàn)檫@是一個(gè)暗示結(jié)果主義的原則，我們應(yīng)該將道德思想視為滿足偏好或使盡可能多的人受益。這種道德方法并不總是正確的。...結(jié)果主義通常是有意義的，因此權(quán)衡這些利弊是有道理的，但這不是思考道德的唯一方式。在許多情況下，結(jié)果主義可能會(huì)讓你失望。例如，結(jié)果主義可能是綠燈折磨或嚴(yán)重傷害一小群人，如果它會(huì)使整個(gè)社區(qū)的幸福感增加。“

“這就是為什么我擔(dān)心......共享利益原則，”林繼續(xù)道。“[它]是有道理的，但[它]隱含地采用了結(jié)果主義框架，順便說一下，工程師和技術(shù)人員使用它是非常自然的，因此它們非常注重?cái)?shù)字，并且傾向于考慮黑白相間的事物。利弊，但道德往往是軟弱的。你處理這些軟弱，抽象的概念，比如權(quán)利，義務(wù)和義務(wù)，而且很難將這些概念減少為可以權(quán)衡和交易的算法或數(shù)字。“

當(dāng)我們將這些原則作為理想進(jìn)行討論并將其作為政策來(lái)實(shí)施時(shí)，諸如林剛剛表達(dá)的那些問題必須得到解決，同時(shí)考慮到結(jié)果主義和功利主義的可能缺點(diǎn)。

大圖

魔鬼永遠(yuǎn)都在細(xì)節(jié)中。在我們考慮如何改變文化規(guī)范以防止所有利益只發(fā)生給新技術(shù)的創(chuàng)造者時(shí) - 以及考慮如果我們這樣做可能出現(xiàn)的問題 - 重要的是要記住為什么共享利益原則如此重要。路易斯維爾大學(xué)的人工智能研究員Roman Yampolskiy對(duì)此進(jìn)行了總結(jié)：

“早期獲得優(yōu)越的決策工具可能會(huì)放大現(xiàn)有的經(jīng)濟(jì)和權(quán)力不平等，使富人轉(zhuǎn)變?yōu)槌?jí)富豪，允許獨(dú)裁者堅(jiān)持權(quán)力并使反對(duì)派努力改變?cè)撝贫炔惶赡艹晒?。先進(jìn)的人工智能可能有助于醫(yī)學(xué)研究和基因工程，特別是使重要的生命延長(zhǎng)成為可能，這將消除一個(gè)最強(qiáng)大的變化驅(qū)動(dòng)力和權(quán)力的重新分配 - 死亡。出于這個(gè)原因和其他許多原因，重要的是人工智能技術(shù)應(yīng)該對(duì)全人類有益并賦予權(quán)力，使我們所有人都更富有，更健康。“

你怎么看?

共享福利原則對(duì)您有多重要?我們?nèi)绾未_保新的人工智能技術(shù)的好處能夠在全球范圍內(nèi)傳播，而不是僅僅依靠少數(shù)開發(fā)它們的人來(lái)實(shí)現(xiàn)?我們?cè)鯓硬拍艽_保我們不會(huì)無(wú)意中制造更多問題以分享AI的好處?

本文是關(guān)于23個(gè)Asilomar AI原則的系列文章的一部分。原則提供了一個(gè)框架，以幫助人工智能盡可能多的人受益。但是，正如AI專家Toby Walsh所說的那樣，“當(dāng)然，這只是一個(gè)開始。......正在進(jìn)行中的工作。“原則代表了對(duì)話的開始，現(xiàn)在我們需要跟進(jìn)對(duì)每個(gè)原則的廣泛討論。您可以在此處閱讀有關(guān)先前原則的討論。