當(dāng)訓(xùn)練數(shù)據(jù)按性別傾斜時(shí) AI系統(tǒng)在診斷疾病方面更差

人工智能模型在預(yù)測(cè)哪些退伍事務(wù)醫(yī)院治療的患者會(huì)出現(xiàn)腎功能突然下降方面顯示出巨大的希望。但這也帶來(lái)了一個(gè)關(guān)鍵的警告：女性僅占用于訓(xùn)練算法的數(shù)據(jù)的患者的6%，而且在女性身上進(jìn)行測(cè)試時(shí)效果更差。

由谷歌姊妹公司DeepMind構(gòu)建的這種引人注目的算法的缺點(diǎn)突出了一個(gè)問(wèn)題，即從事醫(yī)學(xué)的機(jī)器學(xué)習(xí)研究人員越來(lái)越擔(dān)心。新的研究表明，這個(gè)問(wèn)題可能比專家們以前意識(shí)到的更為普遍和陰險(xiǎn)。

這項(xiàng)研究由阿根廷的研究人員領(lǐng)導(dǎo)，并于周一在PNAS雜志上發(fā)表。研究發(fā)現(xiàn)，當(dāng)女性患者被排除在開(kāi)發(fā)機(jī)器學(xué)習(xí)模型的訓(xùn)練數(shù)據(jù)中或在表示數(shù)據(jù)中的代表性明顯不足時(shí)，該算法在對(duì)所有影響胸部區(qū)域的各種醫(yī)療條件。當(dāng)男人被排除在外或人數(shù)不足時(shí)，也看到了相同的模式。

加利福尼亞大學(xué)伯克利分校的齊亞德·奧伯邁耶(Ziad Obermeyer)說(shuō)：“這是一個(gè)關(guān)于偏差如何進(jìn)入算法的有價(jià)值的警告性故事，”他研究機(jī)器學(xué)習(xí)及其臨床和健康政策應(yīng)用。“這些結(jié)果的結(jié)合，以及對(duì)這些算法進(jìn)行訓(xùn)練的數(shù)據(jù)集通常并不關(guān)注這些多樣性的度量，這確實(shí)很重要，”未參與研究的Obermeyer補(bǔ)充道。

阿根廷的研究人員專注于AI在醫(yī)學(xué)中最流行的應(yīng)用之一：分析圖像以嘗試進(jìn)行診斷。他們檢查的系統(tǒng)負(fù)責(zé)分析胸部區(qū)域的X射線圖像，以檢測(cè)是否存在14種醫(yī)療狀況，包括疝氣，和心臟擴(kuò)大。