作者 | 齊健

(資料圖片)

編輯 | 廖影

頭圖 | 視覺中國

8 月 30 日下午，網(wǎng)上傳出一則消息稱：百度、字節(jié)、商湯、中科院旗下紫東太初、百川智能、智譜華章等 8 家企業(yè) / 機構的大模型位列首批通過《生成式人工智能服務管理暫行辦法》（以下簡稱 " 生成式 AI 管理辦法 "）備案的名單。

經(jīng)過一晚發(fā)酵，8 月 31 日，這則消息中的多家廠商對外官宣了全面開放服務的消息。

對于算法備案流程，2022 年 2 月 28 日中央網(wǎng)絡安全和信息化委員會辦公室（以下簡稱 " 中央網(wǎng)信辦 "）發(fā)布的 " 關于互聯(lián)網(wǎng)信息服務算法備案系統(tǒng)上線的通告 " 中，曾對此作出過解釋：互聯(lián)網(wǎng)信息服務算法備案僅對備案主體所提供的算法推薦服務及服務中使用的算法推薦技術進行備案，信息由備案主體自行填報，該備案不代表對有關主體、算法、產(chǎn)品、服務等的認可，任何組織和個人不得將備案結果用于宣傳和其他商業(yè)用途。

目前這 8 家公司在宣傳上均未強調 " 備案 "，只是宣傳產(chǎn)品和對公眾開放的舉措。 "其實這次的備案就是發(fā)放牌照的前奏。" 參與了某大模型備案工作的張華（化名）告訴虎嗅，雖說備案不等于獲得 " 牌照 "，但目前這 8 家陸續(xù)對公眾開放模型的動作，無一例外都在暗示他們已經(jīng)非常接近牌照了。

AI 新規(guī)何以閃電落地

有關部門上一次推出人工智能管理規(guī)定，是在不到一年前，2022 年 11 月公布的《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》。這則規(guī)定的征求意見稿發(fā)布于 2022 年 1 月，2023 年 1 月正式施行，到 6 月 20 日公布了阿里、騰訊、字節(jié)、美團等第一批備案企業(yè)。

相比于上一條規(guī)定，這次的生成式 AI 新規(guī)不可謂不快。

生成式 AI 管理辦法自 2023 年 4 月開始征集意見，僅用 3 個月時間，就完成了暫行辦法制定。新規(guī) 8 月 15 日正式生效，此后半個月時間就已經(jīng)公布了第一批備案企業(yè)。

閃電出臺，閃電落地，AI 大模型市場的變化日新月異，規(guī)則的制定也不得不隨著技術發(fā)展實時更新。

" 最近我們和監(jiān)管部門的交流幾乎是一周三次，同時也不斷在跟北京市相關部門報材料。" 另一位參與了本次備案工作的楊明（化名）告訴虎嗅，從 4 月生成式 AI 管理辦法征集意見開始，監(jiān)管部門頻繁與大模型技術供應商開會探討技術、管理細節(jié)，并在內部對管理辦法進行了幾輪迭代。

在規(guī)則的迭代過程中，監(jiān)管工作也是平行開展的。

" 其實備案工作已經(jīng)跑了幾個月，遠比 8 月 15 日早很多。" 楊明告訴虎嗅，2021 年底頒布的《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》中規(guī)定，算法備案的法定時限為 30 個工作日。但在實際操作過程中企業(yè)往往會不斷補充新材料，完成時間可能在 2-3 個月。在國內百模大戰(zhàn)的情況下，這個工作難度更大了。

新規(guī)迅速落地的動力，一方面來自高層對生成式 AI 等前沿技術的重視，另一方面則來自巨大市場潛力的倒逼。

" 在消費場景、勞動密集型的工作場景中，大模型工具都是面向公眾用戶的，缺乏監(jiān)管會給技術供應商帶來巨大的困擾。" 在某數(shù)字化技術供應商 6 月召開的大模型應用產(chǎn)品發(fā)布會上，該公司技術負責人曾向虎嗅表示，他們被這家 AI 技術供應商要求嚴格保密，如果透露使用了誰的大模型，會被視為違約。而對于為何要對案例保密，這位負責人分析，很大一部分原因可能是要規(guī)避監(jiān)管風險。

" 生成式 AI 的安全風險在全球范圍內都有共識，但它畢竟是一個商業(yè)化產(chǎn)品，其背后蘊含的市場潛力巨大，任何市場也不會因噎廢食，一味封堵。" 接近監(jiān)管部門的馮清（化名）表示，對于生成式 AI 來說，符合商業(yè)化、市場化需求的監(jiān)管或將是當前的重點。

" 生成式 AI 管理辦法出臺后，政策會從問題導向轉為目標導向發(fā)展就是我們的目標。" 觀韜中茂律師事務所合伙人王渝偉認為，從規(guī)定的條文來看，新規(guī)是重 " 疏 " 而不重 " 堵 "。

備案之后還有多長的路？

楊明告訴虎嗅，目前生成式 AI 的責任主體仍是技術供應商，這對于技術供應商來說，存在很大的安全挑戰(zhàn)。但要在技術上把控大模型輸出的內容并不十分困難，真正的難點在于如何識別用戶對模型的惡意引導。

在實際操作中，通過前后處理、SFT、Prompt 微調，以及域內知識增強等多種方法，都可以減少大模型的錯誤和幻覺。某國產(chǎn)大模型研發(fā)經(jīng)理周鑫（化名）介紹說，國內一些基于開源模型發(fā)布的對話產(chǎn)品曾出現(xiàn)過：在回答 " 你是誰 " 這個簡單問題時，錯把 LLaMA 當國產(chǎn)模型的情況，這就是因為開發(fā)者對 " 你是誰 " 這個問題進行了處理。

然而，在一些用戶隱晦的表達中，這些技術手段并不能保證百分之百地過濾有害信息。在此前對 ChatGPT 的測試中，就曾有網(wǎng)友以電影劇本創(chuàng)作為陷阱，誘導 AI 描述了危險爆炸物的制作方法。

" 我們曾經(jīng)在大模型上做過多個測試，很多問題不一定會觸發(fā)敏感詞，但輸出的內容卻可能不太合規(guī)。" 楊明表示，中文里有很多詞語在不同語境中的表達意思完全不同，這也很容易導致生成內容 " 跑偏 "。

雖然監(jiān)管嚴格，但有了 " 合法身份 " 的大模型在研發(fā)和商業(yè)化方面，無疑會更加快人一步。首先，在研發(fā)方面，隨著公眾用戶的涌入，大模型可以獲得更多來自真實用戶的數(shù)據(jù)反饋，對模型的優(yōu)化迭代能起到很大的支持。

在商業(yè)化方面，二級市場對通過備案的 AI 公司表示了 " 熱烈歡迎 "。 8 月 31 日收盤后，百度股價上漲 2.12%，商湯股價上漲 3.31%，未在備案名單中被提及的科大訊飛股價則下跌了 1.14%。

然而，一些業(yè)內人士對此并不看好。多位 AI 大模型研發(fā)人員對虎嗅表示，取得牌照對大模型商業(yè)化的主力—— B 端、G 端用戶的刺激恐怕不會太大，因為這些應用本來都在強監(jiān)管下，生成內容能產(chǎn)生的社會影響有限且可控。

通過備案真正獲益的應該是 C 端用戶，" 最大的受益者應該是像百度這樣，C 端產(chǎn)品比較成熟的公司。" 張華表示，國內 C 端用戶對 AI 大模型的好奇心很強，但一直沒有特別好的使用途徑，開放公眾注冊，會大大降低生成式 AI 的使用門檻。

" 不過大模型的運營成本太高了，國內大模型可能也會像 ChatGPT 一樣，在開放初期免費，后續(xù)再逐步收費。" 不過，張華認為，雖然很多人都對 AI 大模型感興趣，但最終為 AI 付費、買單的人恐怕不會是使用 AI 的人。

彭博社在 7 月 30 日發(fā)布的一項對股票市場投資者的調查 Markets Live Pulse 顯示，在 514 名受調投資者中，約 77% 的人計劃在未來六個月內增加或保持對科技股的投資，且只有不到 10% 的投資者認為科技行業(yè)面臨嚴重的泡沫危機。然而這些看好科技行業(yè)發(fā)展的投資者中，卻只有一半人對 AI 技術持開放的接受態(tài)度。

50.2% 的受訪者表示，目前還不打算為購買 AI 工具付費，多數(shù)投資公司也沒有計劃將 AI 大范圍應用到交易或投資中。

即便是在 SaaS 意識比較強的美國市場的專業(yè)投資人士，對 AI 工具的付費意愿都不甚強烈，國內的普通用戶付費意愿可想而知。

百度、谷歌兩大搜索巨頭分別在最新一季度的財報中強調了 AI 對廣告業(yè)務的推動作用。由此看去，AI 時代的商業(yè)模式，很可能會與互聯(lián)網(wǎng)時代一樣。為 ToC 市場買單的人大概率還是那些互聯(lián)網(wǎng)公司的廣告主們。

下一波備案的可能有誰？

除中國科學院自動化研究所的紫東太初是多模態(tài)模型，本次提出的備案產(chǎn)品大多是文生文內容。不過，在 6 月 20 日公布的《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》備案算法清單中，百度的文生圖產(chǎn)品文心一格已經(jīng)完成了備案。

在安全方面，雖然文生圖通過圖片識別、prompt 調整，在技術上很容易限制生成不安全內容，但對于一些細節(jié)內容的生成仍然存在風險，例如旗幟、地圖的生成都很容易出問題。

楊明認為，本次備案的企業(yè)在篩選過程中，可能考慮到企業(yè)成分的平衡。有商業(yè)化公司，有高校背景的企業(yè)，也有中科院這樣的研究機構。另一方面，也是考察大模型產(chǎn)品的能力。

在本次備案的模型中，并未出現(xiàn)備受關注的通義千問、訊飛星火，以及 360 智腦等。新華社研究院此前發(fā)布的《人工智能大模型體驗報告 2.0》中，上述 3 款模型均位列國產(chǎn)主流大模型測評榜前列，僅次于文心一言、商湯商量和智譜 ChatGLM。

"我認為首批備案的模型，首先是考察能力和安全性，另一方面可能也會考慮到國產(chǎn)化的因素。" 中國科學院自動化研究所主管劉昊介紹說，紫東太初的研發(fā)主要是基于自建的全棧國產(chǎn)化基礎軟件體系，在訓練過程中，用到的算力也大多基于華為昇騰 GPU 的 910 和 910b。

截至發(fā)稿，登錄網(wǎng)信辦官方的 " 互聯(lián)網(wǎng)信息服務算法備案系統(tǒng) "，仍只能查到 6 月 20 日公布的， " 根據(jù)《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》，公開發(fā)布境內深度合成服務算法備案信息 "。前述消息中提到的，根據(jù)《生成式人工智能服務管理暫行辦法》公布的備案算法名單仍無法在系統(tǒng)中查到。