自ChatGPT正式發(fā)布以來(lái)，AI大模型變成了全球科技界追逐的對(duì)象，Google、Meta爭(zhēng)先布局，京東的ChatJD、百度的文心一言相繼發(fā)布，一時(shí)間“元宇宙”“Web3.0”成了過(guò)去式，資本與市場(chǎng)都在等待AI大模型更多的可能性。

但3月29日，美國(guó)生命未來(lái)研究所發(fā)布的一封公開(kāi)信，似乎有意要給這陣“AI熱”降降溫。該信呼吁全球所有機(jī)構(gòu)暫停訓(xùn)練比GPT-4更強(qiáng)大的AI至少六個(gè)月，如果不能實(shí)施政府應(yīng)該介入并發(fā)布禁止令。

馬斯克等上千人聯(lián)名呼吁

(資料圖片)

官網(wǎng)顯示，生命未來(lái)研究所成立于2015年，是一家非營(yíng)利組織，致力于降低技術(shù)給人類(lèi)帶來(lái)的風(fēng)險(xiǎn)，尤其是人工智能領(lǐng)域。

截至發(fā)稿，該信聯(lián)名人數(shù)達(dá)1123人，其中有不少商界、政界、學(xué)界的知名人士，包括特斯拉CEO馬斯克、蘋(píng)果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克、圖靈獎(jiǎng)得主約書(shū)亞·本吉奧、《人類(lèi)簡(jiǎn)史》作者尤瓦爾·赫拉利。

參與簽名的部分人士

上述公開(kāi)信指出，對(duì)地球的生命而言，先進(jìn)的人工智能可能意味著一場(chǎng)深刻的變革，應(yīng)該投入可觀的資源和關(guān)注來(lái)進(jìn)行規(guī)劃和管理，然而近幾個(gè)月人工智能實(shí)驗(yàn)室正在開(kāi)發(fā)越來(lái)越強(qiáng)大的數(shù)字思維，競(jìng)爭(zhēng)逐漸失序，但管理和規(guī)劃仍然缺位，包括創(chuàng)造者在內(nèi)，沒(méi)有人可以理解、預(yù)測(cè)或控制它們。

此前OpenAI發(fā)布的聲明也指出，“在未來(lái)某個(gè)階段，有必要在訓(xùn)練新系統(tǒng)之前進(jìn)行獨(dú)立審查，同時(shí)對(duì)新模型計(jì)算能力的增長(zhǎng)速度也加以限制。”

除了暫停訓(xùn)練之外，該公開(kāi)信也呼吁，AI實(shí)驗(yàn)室和獨(dú)立學(xué)者應(yīng)針對(duì)高級(jí)AI的設(shè)計(jì)和開(kāi)發(fā)共同制定實(shí)施一套共享安全協(xié)議，確保AI的安全性。

與此同時(shí)，AI開(kāi)發(fā)人員必須與決策者合作，大力推進(jìn)強(qiáng)有力的AI治理系統(tǒng)的發(fā)展，包括：針對(duì)AI的新型監(jiān)管機(jī)構(gòu)；對(duì)高級(jí)AI系統(tǒng)的監(jiān)督追蹤和大型算力池；幫助區(qū)分真實(shí)數(shù)據(jù)與AI生成的數(shù)據(jù)、并且追蹤模型泄漏的溯源和水印系統(tǒng)等。

不過(guò)信的末尾仍然提及，人類(lèi)可以和AI共創(chuàng)繁榮未來(lái)，只不過(guò)要做好準(zhǔn)備：“讓我們享受AI的‘長(zhǎng)夏’，而不是毫無(wú)準(zhǔn)備地進(jìn)入‘秋天’。”

面對(duì)靈魂拷問(wèn)，ChatGPT怎么看

對(duì)于公開(kāi)信的建議，銀柿財(cái)經(jīng)提問(wèn)ChatGPT（GPT-3.5）是否同意，ChatGPT在生成的回答中并沒(méi)有明確提及同意與否，而是照常表明“作為一個(gè)AI語(yǔ)言模型，我不具備表達(dá)個(gè)人觀點(diǎn)或信仰的能力”。但它表示對(duì)于AI的研究與開(kāi)發(fā)人員而言，需要優(yōu)先考慮AI系統(tǒng)帶來(lái)的責(zé)任和道德問(wèn)題，包括此類(lèi)系統(tǒng)的潛在風(fēng)險(xiǎn)和好處。

ChatGPT認(rèn)為，“暫停開(kāi)發(fā)比GPT-4更強(qiáng)大的人工智能系統(tǒng)可能是一個(gè)合理的舉措，以便思考和討論與繼續(xù)開(kāi)發(fā)此類(lèi)系統(tǒng)相關(guān)的潛在風(fēng)險(xiǎn)和倫理考慮。這可以為研究人員提供一個(gè)機(jī)會(huì)，考慮如何減輕潛在風(fēng)險(xiǎn)，并確保此類(lèi)系統(tǒng)的開(kāi)發(fā)和部署符合人類(lèi)價(jià)值觀和優(yōu)先事項(xiàng)。”

ChatGPT建議，站在AI的研究與開(kāi)發(fā)人員的角度，暫停研發(fā)和訓(xùn)練是合理的。

此外，公開(kāi)信中提及，如今的AI系統(tǒng)在常規(guī)工作中具備了與人類(lèi)競(jìng)爭(zhēng)的能力，并對(duì)可能出現(xiàn)的風(fēng)險(xiǎn)進(jìn)行提問(wèn)。銀柿財(cái)經(jīng)嘗試將部分問(wèn)題轉(zhuǎn)述給ChatGPT，得到如下回答以及建議：

銀柿財(cái)經(jīng)：是否應(yīng)該讓機(jī)器用宣傳和謊言充斥信息渠道？

ChatGPT：不，讓機(jī)器用宣傳和虛假充斥信息渠道對(duì)人類(lèi)來(lái)說(shuō)是不可取的。雖然機(jī)器和人工智能可以成為信息處理和傳播的強(qiáng)大工具，但它們的好壞取決于它們所用的數(shù)據(jù)和算法。如果他們被用來(lái)傳播虛假信息或宣傳，它會(huì)對(duì)個(gè)人、社會(huì)和公共機(jī)構(gòu)產(chǎn)生嚴(yán)重的負(fù)面后果。

重要的是優(yōu)先考慮負(fù)責(zé)任和合乎道德的技術(shù)使用，并確保人類(lèi)保持對(duì)信息渠道的控制，以防止虛假或誤導(dǎo)性信息的傳播。這可以通過(guò)事實(shí)核查、算法和數(shù)據(jù)來(lái)源的透明度以及促進(jìn)個(gè)人的媒體素養(yǎng)和批判性思維技能等措施來(lái)實(shí)現(xiàn)。最終，確保信息渠道的準(zhǔn)確性和完整性的責(zé)任在于人類(lèi)，而不是機(jī)器。

銀柿財(cái)經(jīng)：是否應(yīng)該把所有的工作都自動(dòng)化，包括那些有成就感的工作？

ChatGPT：雖然自動(dòng)化可以帶來(lái)許多好處，如提高生產(chǎn)力和效率，但不建議將所有工作自動(dòng)化，包括令人滿意的工作。重要的是要在自動(dòng)化的好處和工人的需求之間取得平衡，并確保工人不會(huì)在技術(shù)進(jìn)步的過(guò)程中落在后面。

一個(gè)更平衡的方法不是以完全自動(dòng)化為目標(biāo)，而是使用自動(dòng)化來(lái)增強(qiáng)人的能力并創(chuàng)造新的就業(yè)機(jī)會(huì)。這可以包括投資教育和培訓(xùn)計(jì)劃，讓工人具備適應(yīng)不斷變化的就業(yè)市場(chǎng)所需的技能，促進(jìn)創(chuàng)業(yè)和創(chuàng)新，培養(yǎng)終身學(xué)習(xí)和持續(xù)職業(yè)發(fā)展的文化。

從現(xiàn)有回答來(lái)看，對(duì)于AI技術(shù)，ChatGPT的回答仍以兼顧風(fēng)險(xiǎn)與監(jiān)管為主，至于在迭代之后，“態(tài)度”是否會(huì)改變，仍是難以預(yù)測(cè)的未知數(shù)。