治理人工智能：內(nèi)部審視以確保人工智能有益于人類

金融，教育，醫(yī)學，編程，藝術 - 人工智能將破壞我們社會的幾乎每個部門。各國政府和政策專家已經(jīng)開始意識到，為了為未來做好準備，為了最大限度地降低風險并確保人工智能有益于人類，我們需要開始規(guī)劃當今先進人工智能系統(tǒng)的到來。

雖然我們?nèi)蕴幱谶@一運動的早期階段，但景觀看起來很有希望。一些和獨立公司已經(jīng)開始制定戰(zhàn)略并制定人工智能治理政策。去年，阿聯(lián)酋任命了世界上第一個人工智能部長，德國在2017年采取了更小但相似的步驟，當時德國交通和數(shù)字基礎設施部的道德委員會制定了世界上第一套自動化和連接駕駛。

這項工作值得注意;然而，這些努力尚未融合成一個超越國界的更大的治理框架。尼克博斯特羅姆的戰(zhàn)略人工智能研究中心旨在通過了解并最終塑造全球范圍內(nèi)長期人工智能開發(fā)的戰(zhàn)略格局來幫助解決這一問題。

制定全球戰(zhàn)略：我們今天所處的位置

戰(zhàn)略人工智能研究中心成立于2015年，其知識是，為了真正規(guī)避人工智能所構成的威脅，世界需要共同努力，專注于解決與人工智能政策和發(fā)展相關的未解決問題。人工智能計劃的治理(GovAI)由Bostrom和Allan Dafoe共同執(zhí)導，是從該中心發(fā)展而來的主要研究計劃。正如導演所闡述的那樣，它的核心任務是“檢查政治，經(jīng)濟，，治理和道德方面的人性如何能夠最好地過渡到這種先進的人工智能系統(tǒng)。”在這方面，該計劃的重點是戰(zhàn)略 - 關于塑造影響人工智能研究和開發(fā)的社會，政治和政府系統(tǒng) - 而不是關注為創(chuàng)建和編制安全AI而必須克服的技術障礙。

為了制定合理的人工智能戰(zhàn)略，該計劃與社會科學家，政治家，企業(yè)領導者和人工智能/機器學習工程師合作，解決我們應如何應對人工智能治理挑戰(zhàn)的問題。在Rob Wiblin最近播出的80,000小時播客中，Dafoe概述了該團隊的研究如何從實際角度出發(fā)，聲稱該工作側(cè)重于回答三個主要類別的問題：

技術前景：該類別旨在回答與人工智能領域研究趨勢相關的所有問題，目的是了解未來的技術軌跡是合理的，以及這些軌跡如何影響管理先進人工智能系統(tǒng)的挑戰(zhàn)。

AI政治：此類別側(cè)重于與不同群體，公司和政府在人工智能方面追求自身利益的動態(tài)相關的問題，并試圖了解可能產(chǎn)生的風險以及我們?nèi)绾文軌驕p輕這些風險。

AI治理：此類別考察了未來的積極愿景，人類以安全和健全的方式協(xié)調(diào)管理高級AI。這提出了一些問題，例如這個框架應該如何運作以及我們希望在治理體制中編碼的價值。

上述類別提供了一種更清晰的方式來理解投資于研究人工智能治理和戰(zhàn)略的各種目標;但是，這些類別的范圍相當大。為了幫助闡明他們正在進行的工作，GovAI的研究員和牛津大學國際關系的DPhil候選人Jade Leung概述了該團隊目前正在追求的一些具體工作流程。

最具吸引力的研究領域之一是人工智能戰(zhàn)略工作流程。這一系列研究考察了對其他的人工智能能力，有關人工智能政策的官方文件，以及全國各地的各種權力動態(tài)，旨在理解，正如梁總結(jié)的那樣，“成為的雄心壯志AI超級大國和人對安全，合作和AGI的思考狀態(tài)。“最終，GovAI旨在概述AI戰(zhàn)略的主要特征，以便了解AI治理中最重要的參與者之一。該計劃于2018年3月發(fā)表了解讀的AI夢，這份報告分析了人工智能戰(zhàn)略的新特點，并計劃在不久的將來進行研究。

另一個工作流是企業(yè)與政府合作，它研究了私營企業(yè)在發(fā)展先進人工智能方面的作用以及這些企業(yè)如何與政府互動。在EA Global舊金山最近的一次演講中Leung專注于私營企業(yè)如何在人工智能開發(fā)中發(fā)揮重要作用，以及為什么在考慮如何管理人工智能時，私人企業(yè)必須被納入戰(zhàn)略考慮因素作為等式的重要組成部分。該演講的描述簡潔地總結(jié)了關鍵的重點領域，并指出“私營企業(yè)是唯一表現(xiàn)出發(fā)展AGI的雄心，并領先于先進人工智能研究的領先者。因此，考慮這些私營企業(yè)應如何參與人工智能治理的未來至關重要。“

Leung強調(diào)的其他工作包括建模技術競賽動態(tài)和分析全球AI人才和硬件的分布。

前方的路

當被問及她有多大的信心時，人工智能研究人員將最終合并并成功地塑造國際長期AI發(fā)展的景觀，Leung對她的反應持謹慎態(tài)度，并指出需要更多的手。“更多的研究人員肯定更需要解決這些問題。作為一個研究領域和政策行動領域，長期安全和強大的人工智能治理仍然是一個被忽視的任務，“她說。

此外，Leung指出，在這個時刻，盡管已經(jīng)開展了一些具體的研究，但很多工作都集中在構建與AI治理相關的問題上，并在此過程中揭示了需要研究的各種途徑。因此，該團隊尚未就管理機構應承諾的具體行動提出具體建議，因為需要進一步的基礎分析。她說：“考慮到這個問題的不確定程度，我們近期沒有足夠強大和具體的政策建議。”

然而，Leung和Defoe都樂觀并斷言這種信息差距可能會迅速改變?？鐚W科的研究人員越來越意識到這一主題的重要性，隨著越來越多的人開始研究和參與這個社區(qū)，各種研究途徑將變得更加集中。“在兩年內(nèi)，我們可能會擁有一個更加實質(zhì)性的研究社區(qū)。但今天，我們只是弄清楚什么是最重要和最易處理的問題，以及我們?nèi)绾巫詈玫卣心歼@些問題，“Dafoe告訴Wiblin。

保證可能很快形成一個更強大的社區(qū)是令人鼓舞的;但是，關于這個社區(qū)是否會有足夠的時間來建立一個可靠的治理框架，仍然存在問題。正如Dafoe指出的那樣，我們之前從未目睹過情報爆炸，因此在嘗試制定有關我們何時擁有先進AI系統(tǒng)的預測和時間表時，我們沒有任何例子可以尋求指導。

最終，缺乏預測正是我們必須在不久的將來對人工智能戰(zhàn)略研究進行大量投資的原因。正如博斯特羅姆在“超級智能：路徑，危險和戰(zhàn)略”中指出的那樣，人工智能不僅僅是一種顛覆性技術，它可能是人類將遇到的最具破壞性的技術：“[超級智能]很可能是人類有史以來最重要，最艱巨的挑戰(zhàn)面對。而且 - 無論我們成功還是失敗 - 這可能是我們將面臨的最后一個挑戰(zhàn)。“