鳳凰網(wǎng)科技訊 《AI前哨》北京時間5月23日消息，ChatGPT開發(fā)商OpenAI CEO薩姆·阿爾特曼(Sam Altman)上周在美國國會作證時坦言，人工智能(AI)會對世界造成重大傷害，并呼吁加強AI監(jiān)管。

OpenAI CEO阿爾特曼

(相關資料圖)

美國當?shù)貢r間周一，阿爾特曼聯(lián)合OpenAI總裁格雷格·布羅克曼(Greg Brockman)、首席科學家伊爾亞·蘇茨克維(Ilya Sutskever)在OpenAI官方博客上發(fā)布了《超級智能的治理》的文章，詳細闡述了他們的監(jiān)管提議。

以下是文章全文：

鑒于我們現(xiàn)在所看到的情況，可以想象的是，未來十年內，AI系統(tǒng)將在大多數(shù)領域超過專家的技能水平，并能夠開展與當今最大公司之一一樣多的生產(chǎn)活動。

OpenAI博文《超級智能的治理》

就潛在的優(yōu)勢和劣勢而言，超級智能將比人類過去不得不與之抗衡的其他技術更強大。我們可以擁有一個明顯繁榮得多的未來，但我們必須控制風險才能實現(xiàn)這一目標。鑒于我們面臨潛在生存風險，我們不能只是被動應對。核能是一個常用的歷史例子，它具有這種特性。合成生物學是另一個例子。

我們也必須減輕當今AI技術的風險，但超級智能將需要特殊的對待和協(xié)調。

三個理念

對于我們來說，有許多重要理念能夠幫助我們更好地把握這一發(fā)展方向。在這里，我們列出了我們對其中三個理念的初步想法。

首先，我們需要在領先的開發(fā)項目之間進行一定程度的協(xié)調，以確保超級智能的發(fā)展以一種既能維護安全又能幫助這些系統(tǒng)與社會順利整合的方式進行。有很多方法可以實現(xiàn)這一點：世界各地的主要政府可以建立一個項目，讓許多當前努力成為其中的一部分，或者我們可以集體商定(在一個新組織的支持下，就像下面建議的那樣)，將前沿AI能力的增長速度限制在每年一定比例上。

當然，個別公司應該被要求以極高負責任的標準行事。

其次，我們很可能最終需要像國際原子能機構(IAEA)這樣的機構來開展超級智能工作。任何超過一定能力(或算力等資源)閾值的工作都需要服從于國際權威機構，該機構可以檢查系統(tǒng)，要求審計，測試以確定項目是否符合安全標準，對部署程度和安全級別進行限制等等。跟蹤計算和能源使用可能會有很長的路要走，但它給了我們一些希望，相信這個想法實際上是可以執(zhí)行的。作為第一步，企業(yè)可以自愿同意開始實施該機構某一天可能要求的要素；第二步，個別國家可以實施。重要的是，這樣一個機構應該把重點放在降低生存風險上，而不是那些留給各個國家的問題上，比如定義AI應該被允許說什么。

第三，我們需要讓超級智能安全的技術能力。這是一個開放的研究問題，我們和其他人都投入了大量的精力。

一般AI不應受監(jiān)管

在這個范圍之外，我們認為允許企業(yè)和開源項目開發(fā)低于重大能力閾值的模型是很重要的，它不需要像我們在這里描述的那種監(jiān)管(包括像許可證或審計這樣繁重的機制)。

如今的系統(tǒng)在世界上創(chuàng)造了巨大的價值，雖然它們確實存在風險，但這些風險的程度與其他互聯(lián)網(wǎng)技術和社會上可能采取的方法相當。

相比之下，我們所關注的是超級智能系統(tǒng)，它擁有比目前所創(chuàng)造的任何技術都強大的能力。我們應該小心，不要把類似的標準應用到遠遠低于這個標準的技術上，從而淡化對超級智能的關注。

公眾意見及潛力

但是，對于最強大系統(tǒng)的治理，以及關于其部署的決策，必須有強有力的公眾監(jiān)督。我們相信，世界各地的人們應該民主地決定AI系統(tǒng)的界限和默認設置。我們還不知道如何設計這樣一個機制，但我們計劃對這一發(fā)展進行試驗。我們仍然認為，在這些廣泛的界限內，個人用戶應該對他們所使用AI的行為有很大的控制權。

考慮到這些風險和困難，我們有必要考慮一下為什么要開發(fā)這項技術。

在OpenAI，我們有兩個基本原因。首先，我們相信它會帶來一個比我們今天所能想象的更好的世界(我們已經(jīng)在教育、創(chuàng)造性工作和個人生產(chǎn)力等領域看到了早期的例子)。世界面臨著許多問題，我們需要更多的幫助來解決這些問題。這項技術可以改善我們的社會，每個人使用這些新工具的創(chuàng)造能力肯定會讓我們大吃一驚。經(jīng)濟增長和生活質量的提高將是驚人的。

其次，我們相信，阻止超級智能的創(chuàng)造具有令人難以置信的風險，也是困難的。因為好處是如此巨大，構建它的成本每年都在下降，構建它的參與者的數(shù)量正在迅速增加，這是我們所走的技術道路的固有組成部分。阻止它的發(fā)展，需要類似全球監(jiān)督制度這樣的體制，但即使如此也不能保證成功。因此，我們必須確保正確處理這一問題。鳳凰網(wǎng)科技《AI前哨》對此將持續(xù)關注。(作者/簫雨)