人工智能如何幫助我們減少法官的偏見(jiàn)

隨著人工智能進(jìn)入法庭，關(guān)于具有隱藏偏見(jiàn)的量刑算法已經(jīng)寫了很多。圖盧茲經(jīng)濟(jì)學(xué)院和圖盧茲大學(xué)法學(xué)院研究員Daniel L. Chen有一個(gè)不同的想法：使用人工智能幫助糾正人類法官的偏見(jiàn)決策。

擁有法律學(xué)位和經(jīng)濟(jì)學(xué)博士學(xué)位的陳先生花了數(shù)年時(shí)間收集法官和美國(guó)法院的數(shù)據(jù)。“我特別想到的一件事就是如何理解我們發(fā)現(xiàn)的所有行為偏見(jiàn)，”他說(shuō)。例如，在做出決定時(shí)可能會(huì)縮小尺度的人為偏見(jiàn)。在一份新的工作文件中，Chen提出了一個(gè)建議，即如何將大數(shù)據(jù)集與人工智能相結(jié)合，以幫助預(yù)測(cè)法官的決定，并幫助我們推動(dòng)他們使判決變得更公平。

Verge向Chen講述了影響司法偏見(jiàn)的許多因素以及人工智能在法律上的未來(lái)。

當(dāng)然。一個(gè)公布的發(fā)現(xiàn)是賭徒的謬論。如果我是指派法官并且我連續(xù)多次分配庇護(hù)，我可能會(huì)擔(dān)心我變得太寬容了。然后我積極嘗試自動(dòng)更正。所以下一次，我會(huì)否認(rèn)庇護(hù)。這是一個(gè)無(wú)關(guān)緊要的影響，因?yàn)槲覍?duì)前一案件的裁決錯(cuò)誤地影響了對(duì)當(dāng)前案件的裁決。另一個(gè)發(fā)現(xiàn)是，在巡回法庭中，你會(huì)看到總統(tǒng)選舉周期的行為不同。當(dāng)選舉季節(jié)到來(lái)時(shí)，他們開(kāi)始不同意并且沿著黨派路線投票。

我們有一篇關(guān)于早期可預(yù)測(cè)性的論文，其中我們使用機(jī)器學(xué)習(xí)來(lái)試圖預(yù)測(cè)法官在庇護(hù)案件中的決定。事實(shí)證明，我們可以很好地預(yù)測(cè)法官在案件開(kāi)庭前如何統(tǒng)治，只使用有關(guān)法官身份和尋求庇護(hù)者國(guó)籍的信息。這就提出了一個(gè)問(wèn)題：為什么法官在觀察事實(shí)之前能夠如此預(yù)測(cè)?一種解釋是，法官可能會(huì)采用更多的快速判斷和啟發(fā)式來(lái)判斷案件而不是事實(shí)。

對(duì)。所以你的想法是，如果我們能夠發(fā)現(xiàn)哪些評(píng)委傾向于“可預(yù)測(cè)” - 暗示他們可能更多地依賴快速判斷 - 我們可以提醒他們這個(gè)事實(shí)，并建議他們更仔細(xì)地考慮?

是。當(dāng)法官訴諸法律相關(guān)因素未考慮的快速判決時(shí)，這可能是一種注意事項(xiàng)。然后我們可以建議一下這樣的話：“你能在這個(gè)案子上多花幾個(gè)小時(shí)或幾天嗎?根據(jù)你過(guò)去所做的事情，你往往會(huì)在這方面有點(diǎn)偏頗。“

在早期可預(yù)測(cè)性研究中，您僅使用有限的法官身份和國(guó)籍信息。更廣泛地說(shuō)，您建議我們可以使用其他數(shù)據(jù)集，結(jié)合人工智能，來(lái)檢測(cè)司法決策可以通過(guò)外部因素預(yù)測(cè)的情況。這怎么樣?

我希望有一個(gè)關(guān)于法官?zèng)Q策歷史和所有潛在的背景外部因素的大型數(shù)據(jù)集。然后，您可以分析數(shù)據(jù)，看看哪些相關(guān)因素和不相關(guān)因素可能會(huì)影響法官的決定。一個(gè)大數(shù)據(jù)集可以幫助我們說(shuō)在這些特定情況下，判斷更有可能在給定方向上受到影響。

我們可能想要考慮哪些類型的外來(lái)因素?

我們從心理經(jīng)濟(jì)學(xué)和政治學(xué)中學(xué)到了很多東西 - 從情緒或天氣來(lái)看。例如，有一篇論文說(shuō)路易斯安那州的足球損失會(huì)影響法官的判刑。其他人則研究溫度如何影響分配決策。我們有一份文件顯示，法官對(duì)被告的生日往往更寬容。因此，我們可以嘗試獲取所有這些數(shù)據(jù)并將其組合在一起。那將是一個(gè)起點(diǎn)。

一旦看起來(lái)可能存在偏見(jiàn)，你會(huì)怎么做?一個(gè)建議是更加謹(jǐn)慎地進(jìn)行審議。在論文中，您還提到了可能的培訓(xùn)計(jì)劃?

讓人們知道他們受到偏見(jiàn)的影響可以幫助減少他們。也許給法官更多的訓(xùn)練會(huì)有所幫助。我不是在談?wù)撓蛩麄冋故疽贿B串的偏見(jiàn)，這些偏見(jiàn)很難跟蹤，而是提供一個(gè)理論框架來(lái)理解很多不同的現(xiàn)象以及我們受影響的所有方式和原因。

現(xiàn)在法律和量刑中存在一些關(guān)于人工智能的爭(zhēng)議。你怎么認(rèn)為這會(huì)改變?

人們?cè)絹?lái)越多地使用自然語(yǔ)言處理工具和人工智能和大數(shù)據(jù)與法院的意見(jiàn)。這是一個(gè)很有前途的研究領(lǐng)域，我很想知道它如何轉(zhuǎn)化為政策。

對(duì)算法如何改善決策制定當(dāng)然很感興趣。我一直在思考人們?nèi)绾我约盀槭裁慈绱说种七@種預(yù)測(cè)和機(jī)器協(xié)助判斷的想法。我認(rèn)為這與人們喜歡認(rèn)為我們是獨(dú)一無(wú)二的事實(shí)有點(diǎn)相關(guān)，因此以這種方式與其他人相比并不能完全認(rèn)識(shí)到我的個(gè)性和尊嚴(yán)。一方面，人們可能只是習(xí)慣于幫助法官做出決策的大數(shù)據(jù)。另一方面，我是個(gè)人，所以不要把我當(dāng)成另一個(gè)數(shù)據(jù)點(diǎn)。

當(dāng)然，所有這些都受到通常關(guān)注預(yù)測(cè)良好程度的影響。您的預(yù)測(cè)可以基于有偏見(jiàn)的數(shù)據(jù)，并仔細(xì)考慮它如何影響您的結(jié)果非常重要。也就是說(shuō)，它仍然是一種平衡行為。即使它是基于有偏見(jiàn)的數(shù)據(jù)，如果你有偏見(jiàn)的人正在做決定，也許稍微有偏見(jiàn)的預(yù)測(cè)仍然稍微更公平。