Instagram的內(nèi)容審核算法標(biāo)記和禁用黑人用戶的可能性比白人用戶高50%

我通常認(rèn)為夏天的狗日是新聞放慢的時(shí)候。通常情況下，很多人請(qǐng)假，而休假導(dǎo)致當(dāng)?shù)匦侣勁_(tái)報(bào)道一些無關(guān)緊要的事情，例如貓咪表演或小松鼠上的小松鼠。但是，這不是典型的時(shí)期。

Facebook繼續(xù)面臨偏見和歧視問題的影響，多家新聞媒體報(bào)道稱，Instagram的內(nèi)容審核算法標(biāo)記和禁用黑人用戶的可能性比白人用戶高50%。Facebook和Instagram現(xiàn)在正在創(chuàng)建團(tuán)隊(duì)，研究算法如何影響B(tài)lack和Latinx用戶以及其他特定群體的用戶的體驗(yàn)。

同樣在本周：來自亞馬遜，谷歌和微軟的高管向華盛頓的領(lǐng)導(dǎo)人提供了30多項(xiàng)建議，以幫助美國在人工智能領(lǐng)域保持領(lǐng)先于其他國家。建議包括為將要從事政府兼職工作的預(yù)備役軍人招募AI從業(yè)人員，以及為美國政府創(chuàng)建一個(gè)認(rèn)可的學(xué)院來培訓(xùn)AI人才。

但是可以說，本周最大的故事是GPT-3的beta版本，GPT-3是一種語言模型，能夠執(zhí)行多種任務(wù)，例如摘要，撰寫文章的文本生成和翻譯。經(jīng)過專門測(cè)試以分析GPT-3的測(cè)試發(fā)現(xiàn)，它還可以完成許多其他任務(wù)，例如解讀單詞和使用僅在句子中定義一次的單詞。

最近幾周，OpenAI擴(kuò)展了對(duì)API和語言模型的訪問，其中包含1,750億個(gè)參數(shù)，這些參數(shù)在網(wǎng)絡(luò)上的文本語料庫中進(jìn)行了訓(xùn)練，其中包括大約一萬億個(gè)單詞。諸如可根據(jù)自然語言描述創(chuàng)建代碼的布局生成器之類的應(yīng)用引起了廣泛的關(guān)注，用于回答人們的問題或創(chuàng)建美國歷史測(cè)試問題和答案的應(yīng)用也受到了廣泛的關(guān)注。識(shí)別現(xiàn)實(shí)世界對(duì)象之間關(guān)系的生成器提供了潛在的應(yīng)用程序，以幫助機(jī)器人或其他形式的AI更好地了解世界。一位GPT-3早期用戶感到他與上帝和存在進(jìn)行了交談，而宇宙是如此深刻：“閱讀本書后您將成為另一個(gè)人。”特別涌出彭博社的標(biāo)題為“人工智能是2020年的希望”的故事表明，GPT-3最終可能成為2020年最大的新聞故事之一。

關(guān)于GPT-3發(fā)行的一些討論也提出了一個(gè)問題，即為什么OpenAI似乎比GPT-2看上去更不關(guān)心共享更大的GPT-3，這是一種有爭議的模型，由于其潛在的負(fù)面影響，OpenAI最初選擇不公開共享對(duì)諸如假新聞傳播之類的影響。

大型語言模型的發(fā)布時(shí)間與OpenAI的更廣泛的業(yè)務(wù)計(jì)劃一致。就上下文而言，GPT-2發(fā)布是在OpenAI改變其業(yè)務(wù)結(jié)構(gòu)并創(chuàng)建一家營利性公司的一個(gè)月之前。在引入OpenAI API使其AI商業(yè)化之前不到兩周，GPT-3就發(fā)布了。

艾米莉·班德(Emily Bender)是一名教授，語言學(xué)家，也是華盛頓大學(xué)NLP小組的成員。上個(gè)月，她與人合著的一篇關(guān)于GPT-3等大型語言模型的論文認(rèn)為，圍繞此類模型的炒作不應(yīng)誤導(dǎo)人們相信該語言模型具有理解能力或含義。該論文獲得了計(jì)算語言學(xué)協(xié)會(huì)會(huì)議的獎(jiǎng)項(xiàng)。

該論文