在即時和長期人工智能安全工作之間是否存在權(quán)衡

我經(jīng)常在機(jī)器學(xué)習(xí)社區(qū)和媒體文章中聽到的一點是“對超級智能的擔(dān)憂會分散我們今天面對人工智能的真實問題X”(其中X =算法偏差，技術(shù)失業(yè)，可解釋性，數(shù)據(jù)隱私，等等)。這種競爭態(tài)度給人的印象是，直接和長期的安全問題都存在沖突。但他們之間真的存在權(quán)衡嗎?

我們可以更具體地提出這個問題：這兩種類型的努力可能會爭奪哪些資源?

媒體關(guān)注。鑒于媒體對人工智能的興趣濃厚，有很多關(guān)于所有這些問題的文章。關(guān)于高級人工智能安全的文章大多是危言聳聽的終結(jié)者，他們忽略了問題的復(fù)雜性?？梢岳斫獾氖牵@讓許多人工智能研究人員感到惱火，并且他們中的一些人基于媒體中提出的漫畫而不是真正的論點來解雇這些風(fēng)險。媒體關(guān)注對高級AI風(fēng)險的總體影響非常不利。如果媒體完全停止撰寫有關(guān)超級智能的文章并關(guān)注當(dāng)今人工智能系統(tǒng)的安全和道德問題，我將非常高興。

資金。高級人工智能安全工作的大部分資金目前來自對這些問題特別感興趣的捐助者和組織，如開放慈善項目和伊隆馬斯克。他們不太可能資助那些不能推廣到高級人工智能系統(tǒng)的安全工作，因此他們對高級人工智能安全研究的捐款并沒有從即時問題中獲取資金。相反，F(xiàn)LI的第一個撥款計劃為當(dāng)前的人工智能問題(如經(jīng)濟(jì)和法律影響)提供了一些資金。沒有一個固定的資金來源，即時和長期的安全性正在競爭 - 它更像是兩個不重疊的餡餅。進(jìn)入這兩個領(lǐng)域的資金越來越多，希望這種趨勢將繼續(xù)下去。

天賦。近年來，先進(jìn)的人工智能安全領(lǐng)域不斷發(fā)展，但仍然非常小，研究人員開展研究所產(chǎn)生的“人才流失”迄今為止微不足道。處理當(dāng)前和長期問題的動機(jī)也往往不同，這些問題往往會吸引不同類型的人。例如，主要關(guān)心社會正義的人更有可能研究算法偏差，而主要關(guān)心長期未來的人更有可能處理超級智能風(fēng)險。

總體而言，在資金或人才方面似乎沒有太大的權(quán)衡，媒體關(guān)注權(quán)衡可以(理論上)通過將基本上所有的廣播時間用于當(dāng)前的關(guān)注來解決。這些問題不僅沒有沖突 - 解決這些問題之間存在協(xié)同作用。兩者都受益于在人工智能研究社區(qū)培養(yǎng)關(guān)注社會影響和積極主動地應(yīng)對風(fēng)險的文化。一些安全問題在近期和長期都非常重要，例如可解釋性和對抗性的例子。我認(rèn)為我們需要更多人為當(dāng)前系統(tǒng)解決這些問題，同時考慮到更高級的未來系統(tǒng)的可擴(kuò)展性。

人工智能的安全問題對于討論會因“我的問題比你的問題更好”這樣的地位競賽而變得非常重要。這種錯誤的二分法本身就分散了人們的共同目標(biāo)，即確保人工智能對現(xiàn)在和將來的世界產(chǎn)生積極影響。關(guān)心當(dāng)前和未來人工智能系統(tǒng)安全的人是天生的盟友 - 讓我們在實現(xiàn)這一共同目標(biāo)的道路上相互支持。

文明的大部分好處都源于智力，那么我們?nèi)绾尾拍芡ㄟ^人工智能增強(qiáng)這些好處，而不是在就業(yè)市場上取而代之，而且可能完全取而代之?