悉尼大學已與IAG和CSIRO的Data61合作 創(chuàng)建了具有道德意識的AI

悉尼大學已與IAG和CSIRO的Data61合作創(chuàng)建了Gradient Institute，這是一個非營利性組織，將促進在私營和公共部門中創(chuàng)建道德人工智能。

除了IAG和CSIRO的Data61外，悉尼大學今天還宣布創(chuàng)建Gradient Institute。該研究所將是一個獨立的非營利組織，旨在研究人工智能(AI)的倫理學并開發(fā)基于倫理學的基于AI的系統(tǒng)，從而為個人和整個社會提供更好的成果。

該研究所的重點將是創(chuàng)建一個“所有系統(tǒng)都遵守道德規(guī)范的世界”。這不僅可以通過研究來實現(xiàn)，還可以通過實踐，政策倡導，公眾意識以及對人們進行道德發(fā)展和使用AI的培訓來實現(xiàn)。

該研究所將利用研究結(jié)果來創(chuàng)建可以由商業(yè)和政府采用和改編的開源道德AI工具。

以解決方案為中心的道德人工智能方法

從CSIRO Data61的工程和設計總監(jiān)接任后，由比爾·辛普森-楊(Bill Simpson-Young)領導該研究所擔任首席執(zhí)行官。他將與IAG的全資子公司Ambiata的聯(lián)合創(chuàng)始人兼首席科學家Tiberio Caetano博士合作，他將以首席科學家的身份指導研究所對倫理AI的研究。

Simpson-Young先生表示，如今的人工智能既是挑戰(zhàn)，也是發(fā)現(xiàn)人工智能的哪些設計選擇將為人類和社會帶來積極成果的機遇。

“人工智能從數(shù)據(jù)中學習，數(shù)據(jù)反映了過去–在梯度研究所，我們希望未來比過去更好。通過將道德觀念嵌入AI中，我們相信我們將能夠通過通過具有道德意識的機器學習創(chuàng)造更好的結(jié)果來選擇避免過去的錯誤的方法。

“例如，在招聘中，當自動化系統(tǒng)使用歷史數(shù)據(jù)指導決策時，它們可能會偏向于某些職業(yè)中歷來代表性不足的子群體。

Simpson-Young先生說：“通過將道德規(guī)范嵌入到AI的創(chuàng)建中，我們可以減輕這些偏見，這些偏見在當今零售，電信和金融服務等行業(yè)中很明顯。”

政府，工業(yè)界和學術(shù)界作為創(chuàng)始伙伴合作

澳大利亞最大的通用保險公司IAG的首席客戶官Julie Batch說，作為Gradient Institute的主要合作伙伴，反映了IAG致力于創(chuàng)新以創(chuàng)造更好的客戶體驗的重點。

面對AI的挑戰(zhàn)和機遇，需要考慮公平和平等的思想。沒有政府或企業(yè)可以獨自做到這一點。我們需要跨部門合作，我們必須緊迫地做到這一點，這就是為什么我們?yōu)槟芘c澳大利亞兩個最強大的科學和學術(shù)領袖(Data61和悉尼大學)建立合作伙伴而感到自豪。

“道德的AI將提高人們對自動化機器決策方式的信任。IAG希望能早日采用該研究所開發(fā)的技術(shù)和工具，以便我們可以為客戶提供更好的體驗。” Batch女士說。

“將Gradient Institute建立為獨立的非營利組織對于實現(xiàn)其宗旨至關(guān)重要，我們希望其他組織也能加入我們，為這項研究做出貢獻。”

CSIRO Data61的首席執(zhí)行官Adrian Turner是澳大利亞科學機構(gòu)的數(shù)字創(chuàng)新部門，他說Gradient Institute是重要的一步，因為AI和機器學習將影響社會以及澳大利亞經(jīng)濟的各個領域。

“隨著AI越來越廣泛地被采用，確保在開發(fā)技術(shù)時要考慮到道德考量是至關(guān)重要的。作為一個，我們需要正確對待這一點，以便從生產(chǎn)率的提高中獲得AI的好處，從而獲得新的世界價值。

“我們很高興成為Gradient Institute的創(chuàng)始合伙人，該研究所結(jié)合了該國一些最偉大的AI人才。這是Data61網(wǎng)絡模型的一個很好的例子，它在組織邊界松散的情況下運作，有助于為與數(shù)據(jù)相關(guān)的研究挑戰(zhàn)帶來連貫一致的，加速的，全國范圍的成果，從而為澳大利亞造福。” Turner先生說。

悉尼大學副校長Duncan Ivison教授表示，有必要建立一種人工智能的道德框架，該框架應結(jié)合對技術(shù)的可能性和人工智能的局限性的深刻了解，同時還要確保它主要由人類的需求和利益所決定。

“像悉尼大學這樣的研究密集型大學能夠利用其在科學，工程，人文和社會科學領域的豐富知識資源，非常適合與政府，行業(yè)和社區(qū)團體合作以實現(xiàn)這種方法。

伊維森教授說：“我們需要合作，相互批評，并使社區(qū)參與以應對正在出現(xiàn)的新挑戰(zhàn)，這是我們時代面臨的重大道德挑戰(zhàn)之一。”