白皮書敦促對人工智能學(xué)校評分技術(shù)進(jìn)行治理

自動(dòng)評分技術(shù)可能很快會(huì)在澳大利亞學(xué)校推出，但如果沒有強(qiáng)有力的國家指導(dǎo)方針和獨(dú)立的咨詢機(jī)構(gòu)，一些學(xué)?？赡軙?huì)落在后面。

“機(jī)器評分”或“自動(dòng)作文評分”(AES) 在國際上越來越多地被使用，尤其是在美國，在一系列高風(fēng)險(xiǎn)測試環(huán)境中，結(jié)果決定學(xué)生的進(jìn)步和學(xué)校資助。白皮書稱，該技術(shù)極有可能在未來幾年進(jìn)入澳大利亞的學(xué)校，如果沒有認(rèn)真管理和與教育界協(xié)商，可能會(huì)引起爭議。

白皮書稱，在教師流失率處于歷史高位且教師招聘率處于歷史低位的情況下，自動(dòng)作文評分 (AES) 可能會(huì)減輕教師的工作量。但這項(xiàng)技術(shù)也對教師和管理人員產(chǎn)生了新的要求，包括學(xué)校必須在沒有建議的情況下采購這些專有技術(shù)包的財(cái)務(wù)壓力。

教育和社會(huì)工作學(xué)院的 Kalervo Gulson 教授是教育政策和人工智能進(jìn)展方面的研究員。他研究學(xué)校如何應(yīng)對和應(yīng)對教育領(lǐng)域技術(shù)的快速變化，即 EdTech。

“我們知道教師已經(jīng)承受著繁重的工作量，而這項(xiàng)新技術(shù)可以幫助緩解壓力，只要實(shí)施不會(huì)創(chuàng)造更多的工作，”古爾森教授說。

“我們不建議在高風(fēng)險(xiǎn)測試中進(jìn)行自動(dòng)評分，因?yàn)榻Y(jié)果可能會(huì)影響學(xué)生的未來或?qū)W校的資金，”古爾森教授說。“就像學(xué)校里所有類型的人工智能一樣，重要的是受它影響的人了解它會(huì)做什么，并在它的介紹中有發(fā)言權(quán)。”

昆士蘭科技大學(xué)的共同作者 Greg Thompson 教授曾是一名高中教師，也是教育評估方面的專家。他強(qiáng)調(diào)說：“我們應(yīng)該繼續(xù)對任何依賴于不透明性的技術(shù)在學(xué)校中做出相應(yīng)的決定持謹(jǐn)慎態(tài)度。需要花費(fèi)更多的時(shí)間和精力來開放這些系統(tǒng)以改善審查和理解。”

NAPLAN 和機(jī)器人標(biāo)記

2018 年，教育、技能和就業(yè)部試圖將 AES 的一種形式應(yīng)用到 NAPLAN 中。然而，這種“機(jī)器人標(biāo)記”的嘗試被證明在政治上不受歡迎，并被部長取消了。來自教師、教師工會(huì)、校長和家長的擔(dān)憂包括：

教師去專業(yè)化，

澳大利亞學(xué)校基礎(chǔ)設(shè)施不公平，以及

考試當(dāng)局在如何做出評分決定方面缺乏透明度。

教室里的人工智能

研究人員說：在課堂上使用人工智能對教師和學(xué)生都有很大好處，但制定保護(hù)我們學(xué)校的指導(dǎo)方針至關(guān)重要。

“如果沒有這一領(lǐng)域的政治領(lǐng)導(dǎo)，最終取決于教育機(jī)構(gòu)和機(jī)構(gòu)、政策制定者和學(xué)校社區(qū)的合作，以評估 AES 的好處和缺陷并規(guī)劃前進(jìn)的方向，”研究人員 Gulson 教授說。悉尼社會(huì)科學(xué)與人文高級(jí)研究中心 (SSSHARC)。“我們的建議將有助于在這一領(lǐng)域出現(xiàn)良好的治理。”

“像 AES 這樣的技術(shù)可以帶來好處，但我們的學(xué)校需要緊急指導(dǎo)，并確保所有學(xué)校都擁有必要的數(shù)字基礎(chǔ)設(shè)施和人才技能，”古爾森教授說。

建議：

為學(xué)校從商業(yè)教育科技公司購買 AES 系統(tǒng)建立統(tǒng)一的道德準(zhǔn)則

確保包括農(nóng)村和地區(qū)在內(nèi)的所有學(xué)校都擁有必要的數(shù)字和人力基礎(chǔ)設(shè)施來支持實(shí)施

為在學(xué)校使用人工智能建立透明的最佳實(shí)踐指南

發(fā)起獨(dú)立咨詢機(jī)構(gòu)在澳大利亞進(jìn)行大規(guī)模評估

建立基于風(fēng)險(xiǎn)的框架，對采用 AES 在特定評估環(huán)境和學(xué)校環(huán)境中的潛在危害進(jìn)行排序

從 AES 在美國和其他司法管轄區(qū)的大規(guī)模推廣中學(xué)習(xí)，包括道德、法律和財(cái)務(wù)影響以及對學(xué)校、部門和地區(qū)決策的影響

在推出之前，利用多個(gè)地點(diǎn)和決策層的利益相關(guān)者的專業(yè)知識(shí)，包括學(xué)校和教室的教育工作者。

不要在結(jié)果對個(gè)人或?qū)W校有重要意義的高風(fēng)險(xiǎn)測試中使用 AES 。

如果要廣泛采用 AES，澳大利亞必須帶頭協(xié)作制定 AES 指南、政策和法規(guī)。