21世紀經濟報道記者 蔡姝越 郭美婷 實習生 譚硯文 麥子浩上海、廣州報道

編者按：

在2023年過去的幾個月里，各大公司搶灘大模型、GPT商用化探索、算力基礎設施看漲……如同15世紀開啟的大航海時代，人類交往、貿易、財富有了爆炸性增長，空間革命席卷全球。變革同時，也帶來了秩序的挑戰，數據泄露、個人隱私風險、著作權侵權、虛假信息......此外，AI帶來的后人類主義危機已然擺在桌面，人們該以何種姿態迎接人機混雜帶來的迷思？

(資料圖片)

此刻，尋求AI治理的共識、重塑新秩序成了各國共同面對的課題。南財合規科技研究院將推出AI契約論系列報道，從中外監管模式、主體責任分配、語料庫數據合規、AI倫理、產業發展等維度，進行剖析，以期為AI治理方案提供一些思路，保障負責任的創新。

自生成式AI技術興起，到如今“百模大戰”的局面，該技術的產業鏈圖譜也已初步成型。

（AIGC產業鏈圖譜。制圖/南財合規科技研究院、21世紀經濟報道記者）

不過，在生成式AI成為一項通用技術前，各鏈條生產者都需要思考怎樣可以將其轉變為一個“可控”的工具。

今年3月下旬，一封由特斯拉首席執行官埃隆·馬斯克、 蘋果聯合創始人史蒂夫·沃茲尼亞克等千余名企業家、學者簽署的《暫停大型人工智能實驗》公開信發布。

信中提到，盡管近幾個月世界各地的人工智能實驗室陷入了一場失控的競賽，以開發和部署更強大的數字思維，但包括技術的研發者在內，“沒有任何人能真正理解、預測或完全控制這項技術?！?/strong>

清華大學新聞與傳播學院元宇宙文化實驗室也在《AIGC發展研究》報告中指出，AIGC強勢介入全球產業鏈，將全面替代程序員、平面設計、客服等工作，為人工成本劃定上限，第三世界產業鏈將因此遭受巨大沖擊。

這意味著，大算力支持下的AIGC可能成為割裂跨國公司全球產業鏈的利刃，也可能成為劃破“地球村”幻象的匕首。

因此，在AIGC快速發展的當下，如將其背后的生成式AI技術關進監管的籠子里，厘清產業鏈各方的責任，已成為世界各國亟需處理的命題。

監管政策梳理：劃清產業研發底線

目前，我國已走在了生成式AI技術規制的道路上。今年4月，國家網信辦發布的《生成式人工智能服務管理辦法（征求意見稿）》（以下簡稱“《辦法》”），是我國第一部針對生成式AI技術的監管文件。

總體而言，《辦法》是在現有的深度合成監管框架之下，對《互聯網信息服務深度合成管理規定》《互聯網信息服務算法推薦管理規定》《網絡音視頻服務管理規定》《網絡信息內容生態治理規定》的細化，除了個人信息保護的一般性義務，還要求人工智能服務提供者進一步履行安全評估、算法備案、內容標識等義務。

對于以上相關政策文件的頒布，北京大成律師事務所高級合伙人肖颯在接受21世紀經濟報道記者采訪時指出，相關企業應當重視銜接現有算法推薦服務、深度合成服務等其他人工智能監管法規的要求，盡力做到內部合規，結合技術與法律力量提出創造性的合規解決方案，為產業發展贏得更多的制度空間。

對于《辦法》等規范人工智能技術發展法案的陸續出臺，行業內也大多報以支持的觀點。如亮風臺高級產品總監魏超群在接受21記者采訪時便分享了他的看法。他認為，在生成式AI技術剛起步的時候，配套管理辦法的出臺對整個產業的健康發展而言，有顯著的促進作用。

“一方面，《辦法》的出臺意味著整個產業有了明確的操作規范，可以指導企業的一整套研發流程。另一方面，也為整個行業設定了研發底線，列舉了哪些事情能做，哪些事情不能做?！?/strong>魏超群指出。

如《辦法》第十七條中便要求人工智能服務提供者“提供可以影響用戶信任、選擇的必要信息，包括預訓練和優化訓練數據的來源、規模、類型、質量等描述，人工標注規則，人工標注數據的規模和類型，基礎算法和技術體系等”，實現對數據量龐大、規則易變的人工智能技術的治理。

不過，也有觀點認為，目前國內的人工智能相關法律法規政策文件仍需要進一步完善。

肖颯便在采訪中提到，《辦法》雖然對于生成式人工智能帶來的風險與沖擊作出了回應，但梳理其內容會發現，其在責任主體、適用范圍、合規義務等方面的規定都較為寬泛。

如《辦法》第五條中，明確了利用生成式人工智能產品的服務提供者（即主體），應當承擔內容生產者的責任。

原文提到，利用生成式人工智能產品提供聊天和文本、圖像、聲音生成等服務的組織和個人，包括通過提供可編程接口等方式支持他人自行生成文本、圖像、聲音等，承擔該產品生成內容生產者的責任。但對于服務提供者具體應該承擔何種法律責任，《辦法》中尚未展開。

發展難題：如何平衡監管與技術

如何在技術創新發展的前提下完善人工智能監管體系，加強其與數據合規、算法治理的銜接與協調，是目前亟待解決的問題。

其中，明確AIGC各產業鏈環節的責任主體，打造“負責任”的AI技術，便是監管需要密切關注的要點之一。

除了《辦法》第五條中提到的主體責任分配問題，近日，歐盟也在修改后的《人工智能法案》中提到，在人工智能價值鏈責任分配上，任何分發者、進口者、部署者或其他第三方，均應被視為高風險人工智能系統的提供者，需要履行相應的義務。如在高風險人工智能系統上標明名稱、聯系方式，提供數據規格或數據集相關信息，保存日志等。

北京理工大學法學院助理教授裴軼也向21記者指出，企業作為提供AI服務的關鍵主體，一方面需要保證透明的數據收集和處理——明確告知數據主體數據收集和處理的目的，并獲取必要的同意或授權。實施適當的數據安全和隱私保護措施，確保數據的機密性和完整性。另一方面，也需要進行合規的數據共享。在進行多方數據共享或數據交易時，確保合規的數據使用權益和授權機制，遵守適用的數據保護法律和規定。

21記者觀察發現，目前已有人工智能公司正在明確自己作為責任主體的義務。

如OpenAI便為用戶專門開設了“安全門戶”（Security Portal），在此頁面中，用戶可以瀏覽公司的合規性文檔，包括“數據安全”中的備份、刪除、靜態加密信息以及“應用安全”中的代碼分析、憑證管理等等。

（OpenAI的“安全門戶”頁面。來源/OpenAI官方網站）

AI繪畫工具Midjourney官網發布的隱私政策中，也對用戶數據的共享、保留、傳輸場景和用途做了具體說明，同時，也詳細列舉了應用在為用戶提供服務的過程中，需要搜集身份標識、商業信息、生物識別信息等11種個人信息。

值得一提的是，上海某新興科技公司法務負責人在和21記者的交談中表示，目前公司內部人工智能相關業務的服務條款正在制定中，在責任分配的規則上部分參考了OpenAI的做法。

另一方面，作為生成式AI服務的提供者，各企業也需要提起對內部合規的重視。肖颯指出，AIGC相關企業的業務需要依托于海量的數據及復雜的算法，應用場景復雜多樣化，企業容易陷入各種風險之中，并且完全依靠外部監管難度非常大，因此相關企業務必加強AIGC內部合規管理。

一方面，監管機構要以全面推行企業合規改革為契機，積極探索在網絡數字領域推進涉案企業合規改革和落實第三方監督評估機制，建立健全合規管理的制度機制，有效預防網絡違法犯罪。另一方面，也要積極探索以事后合規整改促進事前合規建設的監管路徑，推動網絡監管部門、互聯網企業共同研究制定數據合規規范指引，保障數字經濟健康發展。

“監管層最重要的任務在于劃定底線，其中‘科技倫理’以及‘國家安全’就是兩個不容讓渡的底線，在底線范圍內，可以盡量給予產業寬容的發展空間，這樣避免技術為了合規畏首畏尾、被限制發展。”裴軼向21記者表示。

統籌：王俊

記者：郭美婷 蔡姝越 譚硯文 麥子浩

制圖：蔡姝越