研究人員通過負(fù)責(zé)任的AI來應(yīng)對動蕩

大流行已經(jīng)使數(shù)據(jù)科學(xué)家和商業(yè)領(lǐng)導(dǎo)者爭先恐后地尋找有關(guān)他們所依賴的分析模型的緊急問題的答案。金融機(jī)構(gòu)，公司及其所服務(wù)的客戶都在應(yīng)對前所未有的情況，而失去控制似乎可以用全新的決策策略來彌補。如果您的公司打算急于想出新的分析模型來指導(dǎo)在這種非同尋常的環(huán)境中進(jìn)行決策，請稍等片刻。首先，請仔細(xì)查看您現(xiàn)有的模型。

負(fù)責(zé)任地構(gòu)建的現(xiàn)有模型-結(jié)合了強大，可解釋，合乎道德和高效的人工智能(AI)和機(jī)器學(xué)習(xí)(ML)技術(shù)-在當(dāng)今動蕩的環(huán)境中具有可以利用和信任的彈性。這是一份清單，可幫助您確定公司的模型是否具備所需功能。

堅固性

在云服務(wù)和開源時代，仍然沒有“快速簡便”的捷徑來進(jìn)行適當(dāng)?shù)哪Ｐ烷_發(fā)。具有適當(dāng)數(shù)據(jù)和科學(xué)嚴(yán)謹(jǐn)性的AI模型是強大的，并且能夠像我們現(xiàn)在所經(jīng)歷的那樣在艱難的環(huán)境中蓬勃發(fā)展。

強大的AI開發(fā)實踐包括定義明確的開發(fā)方法;正確使用歷史，培訓(xùn)和測試數(shù)據(jù);可靠的績效定義;仔細(xì)的模型架構(gòu)選擇;模型穩(wěn)定性測試，仿真和治理的過程。重要的是，所有數(shù)據(jù)科學(xué)組織都必須遵守所有這些因素。

讓我強調(diào)有關(guān)數(shù)據(jù)，特別是歷史數(shù)據(jù)的重要性。數(shù)據(jù)科學(xué)家需要盡可能地評估未來可能遇到的所有不同的客戶行為：僅是在經(jīng)濟(jì)衰退期間抑制收入，以及與自然災(zāi)害相關(guān)的ho積行為。此外，必須對模型的假設(shè)進(jìn)行測試，以確保它們可以承受生產(chǎn)環(huán)境中的巨大變化。

可解釋的AI

神經(jīng)網(wǎng)絡(luò)可以發(fā)現(xiàn)數(shù)據(jù)中復(fù)雜的非線性關(guān)系，從而產(chǎn)生強大的預(yù)測能力，這是AI的關(guān)鍵組成部分。但是，許多組織不愿部署“黑匣子”機(jī)器學(xué)習(xí)算法，因為盡管它們的數(shù)學(xué)方程式通常很簡單，但是要獲得易于理解的解釋卻往往很困難。結(jié)果是，即使是具有改進(jìn)的業(yè)務(wù)價值的ML模型也可能是無法解釋的-與受管制的行業(yè)不兼容的質(zhì)量-因此無法部署到生產(chǎn)中。

為了克服這一挑戰(zhàn)，公司可以使用一種稱為可解釋性潛在特征的機(jī)器學(xué)習(xí)技術(shù)。這導(dǎo)致了可解釋的神經(jīng)網(wǎng)絡(luò)體系結(jié)構(gòu)，這種行為可以被人類分析人員輕松理解。值得注意的是，作為負(fù)責(zé)任AI的關(guān)鍵要素，模型的可解釋性應(yīng)該是首要目標(biāo)，其次才是預(yù)測能力。