新型AI代理會自動實時生成自然語言解釋

小編發(fā)現(xiàn)不少朋友對于 新型AI代理會自動實時生成自然語言解釋 這方面的信息都比較感興趣，小編就針對 新型AI代理會自動實時生成自然語言解釋 整理了一些相關方面的信息 在這里分享給大家。

喬治亞理工學院開發(fā)的AI代理會自動實時自動生成自然語言解釋，以解釋其行為背后的動機，理想情況下，那些不是該領域?qū)＜业娜丝梢愿孕诺嘏cAI工具進行交互。

該項目由佐治亞理工學院互動計算學院的博士候選人Upol Ehsan率先。

Ehsan在致力于新技術的博客文章中寫道：“人工智能幾乎沒有人為因素。” “它是人類為人類設計的，從培訓到測試再到使用。因此，人工智能系統(tǒng)必須是人類可理解的。令人遺憾的是，隨著基于AI的系統(tǒng)變得越來越復雜，最終用戶的決策制定往往變得更加“黑匣子”，從而阻礙了信任。”

Ehsan和他的同事與康奈爾大學和肯塔基大學的研究人員一起設計了一個AI代理，該代理可以玩經(jīng)典的街機游戲Frogger，并在屏幕上產(chǎn)生解釋以證明其在游戲中的作用。Frogger的目標是讓卡通青蛙安全地回家，而不會被車輛撞到或淹沒在河中。

一群被視為AI的研究參與者參加了游戲，并被要求對每個AI動作的屏幕上基本原理進行評級和排名。一種解釋是由人類撰寫的，一種是由AI生成的，一種是隨機生成的;所有這些都是根據(jù)信心，人性，行動的充分理由及其可理解性來判斷的。

Ehsan和他的團隊報告說，盡管人為做出的回應仍然是參與者最喜歡的蛋糕，但AI產(chǎn)生的解釋緊隨其后。當參與者表現(xiàn)出對環(huán)境條件和適應性的認可，并傳達對即將到來的危險的意識并為之預先計劃時，他們在AI產(chǎn)生的基本原理中排名較高。多余或明顯的答復排名最低。

一項后續(xù)研究將人類排除在外，要求參與者對一組AI生成的響應進行排名，在AI犯錯或行為異常的情況下，他們傾向于使用這些響應。理論依據(jù)既簡潔又有針對性，也可能是整體性的，更多地側(cè)重于游戲的背景。

參與者傾向于以3比1的比例整體回答，這表明他們贊賞AI對未來步驟的思考，而不是立即做出決定。

Ehsan寫道：“該項目提供了對AI代理的基礎理解，可以模仿大聲思考。” “可能的未來方向包括了解人類可以對AI產(chǎn)生的解釋提出異議時會發(fā)生什么。研究人員還將研究代理商在不同情況下的反應方式，例如在緊急情況下或在教室中協(xié)助老師時。”

Ehsan等人的工作在計算機協(xié)會2020年智能用戶界面大會上進行了介紹。