圖靈獎(jiǎng)得主姚期智對(duì)談Stuart Russell 人工智能應(yīng)成為一門學(xué)科研究

6月10日，2023年北京智源大會(huì)當(dāng)中，圖靈獎(jiǎng)獲得者姚期智與Stuart Russel教授針對(duì)AI安全問題展開了對(duì)談，他認(rèn)為，人類應(yīng)該更好的去理解自己，否則與AI人工智能系統(tǒng)相處的時(shí)候，將無法有效的管控機(jī)器與人之間的互動(dòng)，Stuart Russel認(rèn)為，人類應(yīng)該對(duì)未來有著各自的偏好，AI系統(tǒng)將會(huì)為人類提供服務(wù)，但是這套系統(tǒng)的行動(dòng)范圍必須要限定在每一個(gè)人關(guān)心的領(lǐng)域中，這樣才能避免損害他人的利益。

Stuart Russel是人工智能領(lǐng)域一個(gè)非常出名的學(xué)者，他就職于加州大學(xué)伯克利分校，在該領(lǐng)域是創(chuàng)造過很多的貢獻(xiàn)，同時(shí)是呼吁暫停開發(fā)人工智能的名人之一，針對(duì)當(dāng)前AI發(fā)展可能會(huì)對(duì)人類社會(huì)造成的深遠(yuǎn)影響，他認(rèn)為當(dāng)前的領(lǐng)域發(fā)展需做出適當(dāng)?shù)谋O(jiān)督和管理，必須要考慮AI可能會(huì)引發(fā)的嚴(yán)重社會(huì)問題，并且在設(shè)計(jì)方面，也要考慮到道德與倫理方面的元素。

當(dāng)一個(gè)或者是的多個(gè)機(jī)器人與類在一起的時(shí)候，或許會(huì)涉及到道德與哲學(xué)方面的的問題，那么在這種情況下，AI系統(tǒng)就應(yīng)該為人類提供服務(wù)，如果想要一個(gè)AI能夠響應(yīng)個(gè)人愿望的系統(tǒng)，就應(yīng)該明確表明這個(gè)系統(tǒng)的行為邏輯會(huì)被限制在個(gè)人關(guān)心的領(lǐng)域中，不能讓AI機(jī)器人在追求個(gè)人利益的時(shí)候去傷害其他的人。

然而在形式功利主義中，如今還有很多沒有能夠解決的問題，比如AI的決策可能影響的人數(shù)等等，是應(yīng)該去，愿望較多的國(guó)度愿望較少的國(guó)度，還是應(yīng)該去選擇人口較少愿望較多的國(guó)度，這些都是需要人們?nèi)タ紤]的問題，也必須要給出這些問題的答案，因?yàn)锳I系統(tǒng)有能力去確保這些答案的正確性。