大流行時(shí)期負(fù)責(zé)任的人工智能

最近幾天，我收到了幾個(gè)關(guān)于人工智能(AI)對(duì)當(dāng)前狀況的分析可能做出的貢獻(xiàn)以及幫助理解所實(shí)施的不同政策(例如本地或本地)可能產(chǎn)生的影響的問(wèn)題。停業(yè)，檢疫或社會(huì)隔離。最具體地說(shuō)，是如何負(fù)責(zé)任地進(jìn)行AI。

首先，我想強(qiáng)調(diào)一點(diǎn)，人工智能確實(shí)可以幫助理解當(dāng)前的狀況，因此，對(duì)于人工智能研究人員和專業(yè)人員而言，此時(shí)此刻要做的負(fù)責(zé)任的事情是利用我們的專業(yè)知識(shí)來(lái)分析和理解人工智能的傳播。，政策可能產(chǎn)生的影響，對(duì)社會(huì)和經(jīng)濟(jì)的長(zhǎng)期影響以及其他此類問(wèn)題。但是，為了負(fù)責(zé)任地做到這一點(diǎn)，重要的是要公開(kāi)并明確AI可以做什么和不能做什么。正如我經(jīng)常強(qiáng)調(diào)的那樣，人工智能不是魔術(shù)，也不是我們所有問(wèn)題的解決方案。負(fù)責(zé)任地開(kāi)發(fā)和使用AI的一些主要要求包括健壯性，透明性以及對(duì)人權(quán)和原則的尊重。

首先，系統(tǒng)必須堅(jiān)固。我們需要仔細(xì)研究所使用的技術(shù)和方法。特別地，使用數(shù)據(jù)驅(qū)動(dòng)的方法來(lái)預(yù)測(cè)的傳播可能存在問(wèn)題。這些方法通過(guò)關(guān)聯(lián)過(guò)去的數(shù)據(jù)來(lái)“學(xué)習(xí)”，目前我們還沒(méi)有足夠的關(guān)于類似情況的數(shù)據(jù)[1]。過(guò)去的結(jié)果并不能保證未來(lái)，尤其是當(dāng)未來(lái)看起來(lái)與我們從過(guò)去所知的一切截然不同的時(shí)候。而且，可用的少量數(shù)據(jù)是不完整且有偏差的。例如，可以肯定的是，已經(jīng)確認(rèn)的感染者多得多，并且還沒(méi)有對(duì)已恢復(fù)者的完整統(tǒng)計(jì)。將現(xiàn)有數(shù)據(jù)用于機(jī)器學(xué)習(xí)方法會(huì)導(dǎo)致許多假陰性和假陽(yáng)性。當(dāng)前的情況可能是模型驅(qū)動(dòng)的方法比數(shù)據(jù)驅(qū)動(dòng)的方法更適合的情況。實(shí)際上，目前有幾個(gè)小組致力于(基于代理的)模擬。但是，模型的選擇必須以流行病學(xué)，社會(huì)學(xué)和心理學(xué)方面的可靠研究為基礎(chǔ)，連同合適的計(jì)算表示。這種類型的模型傾向于對(duì)設(shè)計(jì)假設(shè)和初始參數(shù)敏感。在提出這些系統(tǒng)以支持決策者之前，需要進(jìn)行敏感性分析測(cè)試。從研究的角度來(lái)看，結(jié)合數(shù)據(jù)驅(qū)動(dòng)和模型驅(qū)動(dòng)的混合方法的工作尤其重要。

無(wú)論是數(shù)據(jù)驅(qū)動(dòng)還是模型驅(qū)動(dòng)，透明度都是至關(guān)重要的。使用了哪些模型和數(shù)據(jù)集，以及為什么使用了什么，為什么要咨詢了哪些專家，如何測(cè)試和評(píng)估了系統(tǒng)……如果沒(méi)有這些問(wèn)題的明確答案，結(jié)果將不可信賴。現(xiàn)在，世界比以往任何時(shí)候都負(fù)擔(dān)不起基于“黑匣子”做出決定的能力。如果您的系統(tǒng)無(wú)法提供其結(jié)果的解釋，請(qǐng)?jiān)诳紤]使用它對(duì)流行病進(jìn)行任何分析或預(yù)測(cè)之前三思。同時(shí)，強(qiáng)烈建議使用AI來(lái)支持識(shí)別虛假新聞并限制其傳播。