微軟對聊天機器人的攻擊深表歉意

舊金山--微軟(Microsoft)對其叛逆的人工智能聊天機器人泰(Tay)“對無意中的攻擊性和傷害性推文深感遺憾”。Tay在生命一天后于周四突然離線。

微軟研究公司(Microsoft Research)副總裁彼得·李(Peter Lee)周五在博客上寫道，該公司表示，在工程師們能夠更好地為黑客制定更好的計劃、“惡意意圖與我們的原則和價值觀相沖突”之后，他們將讓泰復出

泰在周三的發(fā)布會上幾乎沒有大張旗鼓。這項實驗針對的對象是18到24歲的年輕人，他們通過文本、Twitter和Kik進行交流，其人工智能任務主要是讓社交用戶參與對話。Tay模仿了中國成功推出的聊天機器人--小車，這顯然沒有受到4000萬用戶的歡迎，這篇文章指出。

但在美國上市后不久，Tay遭到黑客攻擊，并開始進行攻擊性對話，促使微軟停止使用這款電腦。李明博寫道：“盡管我們已經(jīng)準備好應對各種濫用該系統(tǒng)的行為，但我們對這一具體的攻擊做出了重大疏忽。結果，泰在推特上發(fā)表了非常不恰當、應受譴責的言論和圖像。我們對沒有提前看到這種可能性承擔全部責任?！?/p>

微軟揚克斯A.I.聊天機器人在種族誹謗之后

隨著計算能力繼續(xù)以指數(shù)級增長，人工智能正獲得發(fā)展勢頭。盡管最先進的人工智能設備仍掌握在IBM(Watson)和谷歌(Google)等大公司手中，但科技企業(yè)家們渴望將Siri和Cortana等基本系統(tǒng)提升到更高的預測水平。Siri的創(chuàng)始人達格·基特勞斯(DagKittlaus)正致力于一項名為viv的后續(xù)工作，承諾將擁有“思考”屬性。

并不是每個人都對機器獲得像人類一樣的推理能力的前景感到興奮。特斯拉創(chuàng)始人埃隆·馬斯克(ElonMusk)繼續(xù)警告機器人的崛起。微軟的李暗示，這并不是一帆風順的，正如泰的弱點所顯示的那樣。

他寫的"展望未來，我們面臨著一些棘手的問題--人工智能設計中的研究挑戰(zhàn)，"."我們將盡一切可能限制技術漏洞，但也知道我們無法完全預測所有可能的人類交互錯誤，而不會從錯誤中吸取教訓。我們將繼續(xù)堅定地努力從這一經(jīng)驗和其他經(jīng)驗中汲取教訓，因為我們努力促進一種代表人類的最好、而不是最差的互聯(lián)網(wǎng)。"

關注今日美國科技記者馬爾科德拉卡瓦在Twitter上：@marcodellacava