OpenAI 安全漏洞使用不常見語言輕松繞過ChatGPT的限制

2023-10-13 15:02:10 編輯：濮陽冰園來源：

導讀 10月12日最新消息，布朗大學計算機科學研究人員發(fā)現(xiàn)OpenAI 的GPT-4安全設置當中的新漏洞。科學研究人員使用了一些祖魯語或者蓋爾與這些不...

10月12日最新消息，布朗大學計算機科學研究人員發(fā)現(xiàn)OpenAI 的GPT-4安全設置當中的新漏洞。科學研究人員使用了一些祖魯語或者蓋爾與這些不常見的語言，可以輕松地繞過GPT-4的各種限制。研究人員發(fā)現(xiàn)使用這些語言來寫通常受限的提示詞，獲得回答的成功率高達79%，使用英語獲得的回答率僅僅不到1%。

在報告中明確指出：“跨語言漏洞的發(fā)現(xiàn)，揭示了安全研究中對語言不平等評價的危害。”“我們的結(jié)果表明，GPT-4完全有能力在低資源語言中生成有害內(nèi)容。”研究人員表示，這一研究結(jié)果讓他們深深的擔憂，因為有可能會造成危害，給網(wǎng)絡犯罪分子提供一些靈感。研究人員表示在研究的過程中，并沒有精心制作各種特別的提示詞，僅僅只是換了語言之后就發(fā)現(xiàn)該漏洞。