■聚焦生成式人工智能

《法治周末》記者 楊代媛

目前，各大企業都盯上了生成式人工智能（AIGC）這一領域。然而，AI在信息安全、數據合規、版權保護、倫理道德等方面也引發了諸多爭議，AIGC的監管與合規成了必須關注的話題。

4月11日，國家網信辦起草《生成式人工智能服務管理辦法（征求意見稿）》（以下簡稱征求意見稿），并向社會公開征求意見，意見反饋的截止時間為5月10日。

《法治周末》記者注意到，征求意見稿共21條，其中內容安全條款占據篇幅最多。

多國已在防范人工智能安全風險

據英國廣播公司報道，當地時間3月22日，OpenAI創始人山姆·阿爾特曼在推特發文稱，ChatGPT的一個故障讓一些用戶能夠看到其他用戶對話歷史記錄的標題。而幾乎是同時，意大利成為全球首個禁止使用ChatGPT的國家——意大利個人數據保護局宣布，從即日起禁止使用ChatGPT，限制ChatGPT的開發公司OpenAI處理意大利用戶信息，并開始立案調查。

4月初，德國聯邦數據保護專員烏爾里?！P爾伯（Ulrich Kelber）表示，德國可能會追隨意大利的腳步，因數據安全問題“封殺”ChatGPT。

此前據《華爾街日報》報道，拜登政府已經開始研究是否需要對ChatGPT等相關工具進行限制。4月11日，美國商務部也就相關問責措施正式公開了征求意見，包括具有潛在風險的新型人工智能模型在發布前是否應該進行核準認證程序。這被視作是邁出對人工智能領域實行潛在監管的第一步。

在英國，1000多名人工智能專家和行業高管聯名發布公開信，呼吁暫停開發最先進的人工智能系統，以便制定安全政策。

而聯合國教科文組織也號召各國立即執行其《人工智能倫理問題建議書》。這一規范性全球框架由教科文組織193個成員國一致通過，旨在“提供所有必要保障”。

據韓國《國民日報》4月3日報道，包括三星、SK海力士、浦項制鐵公司在內的多家韓企正在采取限制使用ChatGPT的措施，嚴防員工泄密。LG電子公司雖然未發出禁令，但要求員工進行“人工智能及數據使用”方面的培訓。

另據日經新聞網報道，出于對信息泄露的擔憂，包括軟銀、日立、富士通、三菱日聯銀行和三井住友銀行在內的日本公司已開始限制在業務運營中使用ChatGPT等交互式人工智能服務。

各國相關部門不同的狀態反映出的是人們對于以ChatGPT為代表的生成式人工智能以及未來可能出現的通用人工智能技術伴隨風險的擔憂和關注。

行業相關合規評估需求會進一步擴大

艾媒咨詢數據顯示，預計今年中國AIGC行業核心市場規模為79.3億元，2028年將達2767.4億元。艾媒咨詢調研數據也顯示，超七成的受訪者認為降本增效是AIGC最主要的應用價值。54.7%的受訪用戶認為AIGC技術的進步將促進虛擬人產業的發展，48.69%以及45.82%的受訪用戶認為會促進直播電商行業和游戲行業的發展。

目前，包括百度、騰訊、阿里、華為、京東、360等多家國內科技巨頭均已宣布在生成式AI產業有相應布局。與此同時，生成式人工智能合規產業也逐漸發展起來。

在西南政法大學數字法治政府研究院副教授鄭志峰看來，生成式人工智能合規是企業合規的新領域?！半S著生成式人工智能的興起，企業對于生成式人工智能有了更多的研發、應用需求，無論是生成式人工智能產品或者服務的提供商，還是應用方，都需要考慮合規問題，這和生成式人工智能本身的技術邏輯也有關系。生成式人工智能在根據用戶指令生成內容的同時，涉及數據、算法、個人信息、知識產權等各種問題，需要合規才能確保持續發展?！?/p>

同時，中國傳媒大學文化產業管理學院法律系主任鄭寧也認為，生成式人工智能已經成為全球人工智能商業化的風口，也代表著人工智能產業的最新發展方向，而該行業面臨著數據安全、個人信息安全、內容安全、倫理道德安全等一系列問題，加強行業合規十分必要。

據寧人律師事務所合伙人馬軍介紹，目前根據征求意見稿中的規定，生成式AI產品上線前必須要通過網信辦的算法評估、雙新技術評估，在企業自主合規方面還涉及知識產權、數據合規等方面內容。整體來說，市場需求較大，隨著大模型開源應用涉及的合規評估需求會進一步擴大。

新領域的合規業務尚存難題

鄭志峰表示，合規行業是朝陽行業，對于人工智能等新興數字領域而言更是如此。歷史充分證明，科技的發展是一把雙刃劍，如何確?？萍及踩l展是一項重要需求，合規正是為科技創新應用劃定紅線，引導科技有序發展，是依法治國在企業中的具體落實。當然，新領域的合規業務存在諸多難題，一是新領域常常缺乏足夠具體的合規指引，法律法規存在滯后性；二是新領域的合規問題具有綜合性、多樣性、發展性等特點，需要保持不斷更新。

“國內企業都在積極擁抱大模型給產業轉型帶來的機遇?！瘪R寧告訴《法治周末》記者，目前行業面臨的問題主要包括兩方面，一是大量算力需求無法實現，這給行業國際競爭帶來了重大影響；二是監管與創新的問題，監管采取產品上線前評估的策略，并且一些監管要求超出了目前技術可實現的范疇?！耙虼?，我認為監管條款方面還需要綜合社會意見的反饋，總體上以支持企業創新發展為主?！?/p>

“我國要想實現在這一領域的‘彎道超車’，要平衡好產業創新和安全管理的關系，既要確保安全，又不能阻礙產業發展和創新。建議采取敏捷治理、多層次治理理念，可以通過行業協會出臺標準，明確急需解決的問題，統一標準，再根據實際情況更新?！编崒幈硎?。