"科技巨頭帶頭呼吁暫停AI開發(fā)？生命未來研究所發(fā)起公開信引發(fā)熱議"

未來生命研究所（Future of Life Institute）在3月29日公布一封公開信，呼吁所有AI實驗室立即暫停訓練比GPT-4更強大的AI系統(tǒng)至少6個月。這封信得到了超過1000人的簽署，其中包括馬斯克等知名科技圈人士以及圖靈獎得主約書亞·本吉奧、作家兼教授加里·馬庫斯、《人工智能：現(xiàn)代方法》作者斯圖爾特·羅素和蘋果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克等。

這封公開信的出發(fā)點是AI威脅論。公開信表示，大量研究表明，具有與人類競爭智能的AI系統(tǒng)可能對社會和人類構成深遠的風險，并得到了頂級AI實驗室的承認。最近幾個月，全球的AI實驗室已經(jīng)完全失控了，它們瘋狂地開展AI競賽，來開發(fā)和部署更強大的AI，而沒有任何人可以理解、預測、控制這些AI，甚至它們的創(chuàng)造者也不能做到這一點。

公開信呼吁暫停比GPT-4更強大的AI系統(tǒng)訓練至少6個月，并指出這種暫停應該是公開的和可驗證的，并且包括所有關鍵參與者。如果不能迅速實施這種暫停，政府應該介入并實行暫停。這并不意味著總體上暫停AI開發(fā)，只是緊急從奔向不可預測的大型黑盒模型的危險競賽中收回腳步。

這封信還提出了一些建議，開發(fā)者必須與政策制定者合作，大幅加快開發(fā)強大的AI管理系統(tǒng)，該系統(tǒng)至少應該包括專門負責監(jiān)管AI的機構、出處和水印系統(tǒng)、強大的審計和認證系統(tǒng)以及在AI造成傷害后，明確誰該承擔責任。

未來生命研究所是一個非營利組織，成立于2014年3月，其主旨在于引導變革性技術造福生命，遠離極端大規(guī)模風險，關注包括AI、生物技術、核武器、氣候變化在內的多個重大議題。其創(chuàng)始團隊主要是高校學者、學生，包括麻省理工學院宇宙學家馬克斯·泰格馬克和Skype聯(lián)合創(chuàng)始人讓·塔林等，他們的共同目標是探索未來技術的發(fā)展方向，并提供實用的解決方案來應對可能出現(xiàn)的挑戰(zhàn)。該組織還與其他非營利組織和政府機構合作，共同致力于促進可持續(xù)發(fā)展和社會公正。

在AI領域，生命未來研究所的目標是通過開展研究和倡議來推動AI的安全和道德發(fā)展。他們認為，人工智能的發(fā)展可能會對社會和人類產(chǎn)生深遠的影響，因此需要確保AI的發(fā)展是安全的、道德的和可持續(xù)的。

生命未來研究所的倡議書是為了呼吁AI領域的開發(fā)者和政策制定者共同努力，以確保AI的發(fā)展符合道德標準，能夠為人類帶來積極的影響。這封公開信的發(fā)布引起了廣泛關注，也引發(fā)了一些爭議和討論。無論如何，它都為人們提供了思考和討論AI發(fā)展的機會，以及如何確保AI的發(fā)展符合人類的利益。