OpenAI安全團隊升級授予其董事會否決危險AI的權力

2023-12-20 16:03:37 編輯：吳子承來源：

導讀當?shù)貢r間12月18日，OpenAI在官網(wǎng)表示，正在擴展內(nèi)部安全流程，以抵御有害人工智能的威脅。本次更新很大程度，是因為之前該公司首席執(zhí)行官山

當?shù)貢r間12月18日，OpenAI在官網(wǎng)表示，正在擴展內(nèi)部安全流程，以抵御有害人工智能的威脅。本次更新很大程度，是因為之前該公司首席執(zhí)行官山姆奧特曼被董事會霸著的一個緣由似乎與大模型安全問題有關。在發(fā)布的內(nèi)容當中，該公司對于最新的“準備框架”也做了相關的解釋。即OpenAI跟蹤、評估、預測和防范日益強大的模型帶來的災難性風險的流程。

本次公司革新之后，“新安全顧問小組”將會位于技術團隊之上，向領導層提出建議，并且董事會被授予否決權。在開發(fā)中的前沿模型有準備團隊，該團隊會在模型發(fā)布之前識別和量化風險，然后是超級對齊團隊，正在研究超級智能模型的理論指南。OpenAI根據(jù)4個風險類別對每個模型進行評級：網(wǎng)絡安全、說服、模型自主性以及CBRN。

標簽：

免責聲明：本文由用戶上傳，如有侵權請聯(lián)系刪除！