(資料圖)

每經(jīng)評(píng)論員 杜恒峰

3月29日，由圖靈獎(jiǎng)得主約書亞·本吉奧、埃隆·馬斯克、《人類簡(jiǎn)史》作者尤瓦爾·赫拉利等人聯(lián)名發(fā)表公開(kāi)信，呼吁所有AI實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)，為期至少6個(gè)月，以確保人類能夠有效管理其風(fēng)險(xiǎn)。暫停工作應(yīng)該是公開(kāi)且可以證實(shí)的，如果AI實(shí)驗(yàn)室不能快速暫停，各國(guó)政府應(yīng)該實(shí)行暫停令。目前，這份公開(kāi)信已經(jīng)征集到1128份簽名，其中列出的AI風(fēng)險(xiǎn)包括：不實(shí)信息、對(duì)人類工作的替代、人類失去對(duì)文明的控制等。

AI由人創(chuàng)造而來(lái)，AI的風(fēng)險(xiǎn)不在AI，而在于人。以ChatGPT、Bard等大語(yǔ)言模型為代表的大型AI成本高昂，只有微軟、谷歌、Meta這樣的少數(shù)超大型企業(yè)才能燒得起錢，大型AI的風(fēng)險(xiǎn)目前也主要聚焦于這些大企業(yè)。占領(lǐng)先機(jī)的微軟，主動(dòng)發(fā)起了一場(chǎng)AI的“軍備競(jìng)賽”，不但將ChatGPT3.5迅速升級(jí)到4.0，還將其植入到bing、office等自己的核心產(chǎn)品中，還開(kāi)放API接口，試圖做成“AI時(shí)代的App Store”。速度是商業(yè)競(jìng)爭(zhēng)取勝的法寶，和微軟一樣，包括中國(guó)企業(yè)在內(nèi)的同行，也都在爭(zhēng)相布局大型AI。對(duì)于AI的倫理和風(fēng)險(xiǎn)問(wèn)題，目前主要依靠企業(yè)自己來(lái)管理，但一個(gè)令人擔(dān)憂的現(xiàn)實(shí)是，由于過(guò)于強(qiáng)調(diào)速度，企業(yè)對(duì)倫理和風(fēng)險(xiǎn)的重視程度會(huì)下降，有的企業(yè)甚至可能“磨平輪胎”以減少行駛阻力，比如微軟在今年1月解散了所有的倫理與社會(huì)團(tuán)隊(duì)，Twitter在馬斯克入主后裁掉了一個(gè)小型人工智能倫理團(tuán)隊(duì)，去年9月Meta解散了其負(fù)責(zé)任的創(chuàng)新團(tuán)隊(duì)。

在“磨平輪胎”的同時(shí)，大型企業(yè)掌控人財(cái)物等經(jīng)濟(jì)資源的能力更值得擔(dān)憂。麻省理工的研究人員本月發(fā)表的一篇論文顯示，在2020年，近70%的AI博士進(jìn)入企業(yè)工作，2004年這一比例還只有21%；在最大型的AI模型計(jì)算中，企業(yè)擁有的份額從2010年的11%上升到2021年的96%；2021年私營(yíng)部門的AI投資超過(guò)3400億美元，而來(lái)自政府的投入只有10多億美元。當(dāng)企業(yè)掌握了絕對(duì)的資源優(yōu)勢(shì)，就有了主導(dǎo)行業(yè)發(fā)展方向的能力，人力和財(cái)力都處于絕對(duì)劣勢(shì)的政府和學(xué)界的影響力微乎其微，也就沒(méi)有給企業(yè)踩下剎車、降低風(fēng)險(xiǎn)的能力。

上述公開(kāi)信要求“暫停訓(xùn)練6個(gè)月”，其目的在于創(chuàng)造一個(gè)窗口期，為AI制定行業(yè)規(guī)則，包括共同制定和實(shí)施一套先進(jìn)的人工智能設(shè)計(jì)和開(kāi)發(fā)的共享安全協(xié)議，由獨(dú)立的外部專家進(jìn)行嚴(yán)格的審查和監(jiān)督，成立專門針對(duì)人工智能的監(jiān)管機(jī)構(gòu)，建立強(qiáng)大的審查和認(rèn)證生態(tài)系統(tǒng)等。且不論這些倡議能否成行，即便真能暫停6個(gè)月，鑒于AI本身的復(fù)雜性和公共部門掌握的資源的有限性，也不足以完成如此龐大的AI監(jiān)管體系的建設(shè)。

依賴企業(yè)的“道德感”實(shí)現(xiàn)自我監(jiān)管是不現(xiàn)實(shí)的，監(jiān)管機(jī)構(gòu)輕信企業(yè)的說(shuō)辭進(jìn)行形式上的監(jiān)管也是不可取的——波音737MAX事故背后的FAA（美國(guó)聯(lián)邦航空管理局）、普渡制藥奧施康定濫用案背后的FDA（美國(guó)食品藥品監(jiān)督管理局）都是慘痛的反面案例。

要將AI關(guān)進(jìn)符合人類利益的籠子里，必然需要一個(gè)強(qiáng)大的監(jiān)管網(wǎng)絡(luò)，補(bǔ)齊政府、協(xié)會(huì)、學(xué)會(huì)方面的資源短板是關(guān)鍵的第一步，確保有足夠的人財(cái)物實(shí)現(xiàn)監(jiān)管目標(biāo)。AI變革已經(jīng)開(kāi)始，監(jiān)管方面的行動(dòng)也必須盡快跟上，只有建立最嚴(yán)格有效的監(jiān)管體系，才能確保大型AI符合每個(gè)人的利益，避免其對(duì)社會(huì)造成巨大的傷害。