您的位置: 首頁(yè) >科技 >

OpenAI 安全漏洞 使用不常見語(yǔ)言輕松繞過(guò)ChatGPT的限制

2023-10-13 15:02:10 編輯:濮陽(yáng)冰園 來(lái)源:
導(dǎo)讀 10月12日最新消息,布朗大學(xué)計(jì)算機(jī)科學(xué)研究人員發(fā)現(xiàn)OpenAI 的GPT-4安全設(shè)置當(dāng)中的新漏洞??茖W(xué)研究人員使用了一些祖魯語(yǔ)或者蓋爾與這些不...

10月12日最新消息,布朗大學(xué)計(jì)算機(jī)科學(xué)研究人員發(fā)現(xiàn)OpenAI 的GPT-4安全設(shè)置當(dāng)中的新漏洞。科學(xué)研究人員使用了一些祖魯語(yǔ)或者蓋爾與這些不常見的語(yǔ)言,可以輕松地繞過(guò)GPT-4的各種限制。研究人員發(fā)現(xiàn)使用這些語(yǔ)言來(lái)寫通常受限的提示詞,獲得回答的成功率高達(dá)79%,使用英語(yǔ)獲得的回答率僅僅不到1%。

在報(bào)告中明確指出:“跨語(yǔ)言漏洞的發(fā)現(xiàn),揭示了安全研究中對(duì)語(yǔ)言不平等評(píng)價(jià)的危害。”“我們的結(jié)果表明,GPT-4完全有能力在低資源語(yǔ)言中生成有害內(nèi)容。”研究人員表示,這一研究結(jié)果讓他們深深的擔(dān)憂,因?yàn)橛锌赡軙?huì)造成危害,給網(wǎng)絡(luò)犯罪分子提供一些靈感。研究人員表示在研究的過(guò)程中,并沒(méi)有精心制作各種特別的提示詞,僅僅只是換了語(yǔ)言之后就發(fā)現(xiàn)該漏洞。


免責(zé)聲明:本文由用戶上傳,如有侵權(quán)請(qǐng)聯(lián)系刪除!

最新文章

精彩推薦

圖文推薦

點(diǎn)擊排行

2016-2022 All Rights Reserved.平安財(cái)經(jīng)網(wǎng).復(fù)制必究 聯(lián)系QQ   備案號(hào):

本站除標(biāo)明“本站原創(chuàng)”外所有信息均轉(zhuǎn)載自互聯(lián)網(wǎng) 版權(quán)歸原作者所有。

郵箱:toplearningteam#gmail.com (請(qǐng)將#換成@)