生成式人工智能的發(fā)展像極了脫韁的野馬，若光顧著跑，遲早會(huì)把馬術(shù)不精的人狠狠地摔下來(lái)。

2022 年 11 月 30 日，人工智能對(duì)話(huà)聊天機(jī)器人 ChatGPT 正式推出，迅速在社交媒體上走紅，短短 5 天，注冊(cè)用戶(hù)數(shù)就超過(guò) 100 萬(wàn)，兩個(gè)月，ChatGPT 的月活用戶(hù)已突破 1 億，成為史上增長(zhǎng)最快的消費(fèi)者用戶(hù)。

面對(duì)生成式人工智能的來(lái)勢(shì)洶洶，顯然并不是所有人都已經(jīng)準(zhǔn)備好了。

【資料圖】

今年 1 月初，紐約市教育部就宣布禁止學(xué)生在其學(xué)校的設(shè)備和網(wǎng)絡(luò)上使用 ChatGPT，以預(yù)防學(xué)生的作弊行為。法國(guó)巴黎政治學(xué)院（Sciences Po）也在 1 月末正式發(fā)出通知，禁止各校區(qū)全體學(xué)生及教職工利用 ChatGPT 完成教學(xué)任務(wù)，成為歐洲首個(gè)對(duì) ChatGPT 實(shí)行「全面封禁」的學(xué)校。

隨著時(shí)間來(lái)到 7 月份，在生成式人工智能百花齊放，百家爭(zhēng)鳴的大環(huán)境下，國(guó)外一些教育界人士開(kāi)始順應(yīng)時(shí)代的大潮，主動(dòng)擁抱生成式人工智能。

英國(guó) 24 所羅素集團(tuán)研究型大學(xué)的校長(zhǎng)近日聯(lián)合制定并簽署了一項(xiàng)準(zhǔn)則，旨在向?qū)W生和教職員工明確指出哪些地方不適合使用生成式人工智能，支持他們作出明智的決策，并授權(quán)他們正確使用這些工具，并在必要時(shí)承認(rèn)其使用。

如今在他們看來(lái)，只要正確使用生成式人工智能，這對(duì)教育是大有裨益的，不過(guò)，在這之前，或許他們還得警惕一些「小麻煩」。

在教育領(lǐng)域，將 ChatGPT 應(yīng)用于學(xué)生作業(yè)的完成已經(jīng)不是新鮮事了，許多教師也開(kāi)始將人工智能檢測(cè)視為：「阻止 21 世紀(jì)作弊形式的關(guān)鍵對(duì)策」

但研究表明，一些人工智能檢測(cè)器存在著歧視和誤導(dǎo)的情況。

近期，斯坦福大學(xué)生生物醫(yī)學(xué)數(shù)據(jù)科學(xué)助理教授 James Zou 領(lǐng)導(dǎo)一眾科學(xué)家，使用 7 個(gè)流行的 GPT 檢測(cè)器評(píng)估了 91 篇由非英語(yǔ)母語(yǔ)人士撰寫(xiě)的托福（鑒定非英語(yǔ)為母語(yǔ)者的英語(yǔ)能力考試）作文。

研究發(fā)現(xiàn)，在所有 7 個(gè) GPT 檢測(cè)器中，由非英語(yǔ)母語(yǔ)人士撰寫(xiě)的超過(guò)一半的作文被錯(cuò)誤地標(biāo)記為由人工智能生成，甚至有一個(gè)檢測(cè)器錯(cuò)誤地將近 98% 的作文標(biāo)注為由人工智能生成。

而將以英語(yǔ)為母語(yǔ)的八年級(jí)學(xué)生寫(xiě)的作文經(jīng)過(guò)檢測(cè)后發(fā)現(xiàn)，同樣的人工智能檢測(cè)器將超過(guò) 90% 的作文標(biāo)注為由人類(lèi)生成。

在追溯這種帶有內(nèi)在偏見(jiàn)的歧視時(shí)，研究人員發(fā)現(xiàn)，生成式人工智能在經(jīng)過(guò)大規(guī)模的預(yù)訓(xùn)練后可以生成低復(fù)雜度的文本，這也就意味著如果人類(lèi)在寫(xiě)作中以熟悉的模式使用大量常用單詞，那么就會(huì)極大增加被標(biāo)注為由人工智能生成的風(fēng)險(xiǎn)，而非英語(yǔ)母語(yǔ)人士之所以面臨的風(fēng)險(xiǎn)更大，正是因?yàn)樗麄兏锌赡苁褂酶?jiǎn)單的詞匯。

這種歧視所帶來(lái)的影響是值得關(guān)注的。研究人員也警告道：「GPT 檢測(cè)器對(duì)非母語(yǔ)作家的影響是嚴(yán)重的」同時(shí)其還補(bǔ)充道：「在教育領(lǐng)域，可以說(shuō)是 GPT 檢測(cè)器最重要的市場(chǎng)，非母語(yǔ)學(xué)生面臨更多被虛假指控作弊的風(fēng)險(xiǎn)，這可能不利于學(xué)生的學(xué)術(shù)生涯和心理健康。」

因此，在思考生成式人工智能是教育的「良藥」還是「毒藥」之前，或許還得先解決這些「小麻煩」。