為了使AI發(fā)揮其潛能 其風險必須是可見的

2019年，人工智能(AI)的嗡嗡聲被對其潛在危險的保留所抵消。弗朗西斯教皇，五角大樓和委員會都對它的使用表示謹慎。

但是，Covid-19大流行在全球范圍內的發(fā)展正在重新激發(fā)人們對其使用的熱情，一些人將AI視為靈丹妙藥，從而強調了其了解病毒，預測其如何進化以及更有效地抵抗其傳播的能力。

州和公司同樣在傳播健康錯誤信息，并部署注入AI的監(jiān)視技術，但不保證所收集的數(shù)據(jù)以及所產(chǎn)生的見解只能用于解決流行病。這讓許多人深感擔憂。

為了使AI發(fā)揮其潛能，其風險必須是可見的，并應予以積極管理。本文為經(jīng)理們提供了五項可行的建議，以幫助經(jīng)理們在這一關鍵時刻有效地做到這一點。

五個基本教訓

該建議建立在對一家大型歐洲保險公司的經(jīng)理和員工進行的一系列采訪的基礎上，他們開始努力在面向客戶的環(huán)境中開發(fā)支持AI的流程和服務。保險公司對可信賴的AI的興趣正在迅速增加，因為客戶的信任對其業(yè)務至關重要。我們的研究屬于巴黎高等商學院可持續(xù)發(fā)展與社會創(chuàng)新碩士課程的一部分，著重于風險感知，了解在創(chuàng)新過程中如何，如何以及由誰識別AI風險。

建議1：對AI有一個清晰的定義，以開始評估其風險

公司需要對AI可能造成的危害有清晰的了解。如果沒有公司范圍內明確的定義，員工和經(jīng)理往往會依賴于自己的假設，并預計它會如何影響其工作場所。一旦損害已經(jīng)形成，組織往往太遲了才知道這些聲譽和其他成本是什么。例如，這家技術公司花了一年的時間才發(fā)現(xiàn)其招聘引擎并非不分性別，并且其聲譽受到打擊。

建議2：意識到自己對AI的偏見

我們發(fā)現(xiàn)，個人傾向于根據(jù)特定的假設來錨定對AI風險的期望。這些假設不僅是由媒體消費(恐懼或幻想)引起的，而且還取決于個人在公司中的職位。例如，管理人員傾向于將AI風險視為技術性(魯棒性，隱私權，透明度)，而員工則傾向于將AI風險視為社會性(監(jiān)視，工作流離失所，歧視性偏見)。這些期望導致雙方低估了AI的總體風險，而忽視了它們在孵化過程中出現(xiàn)的風險。