生成式人工智能服務(wù)管理辦法出臺在即 有望推動AIGC產(chǎn)業(yè)規(guī)范發(fā)展

本報記者 邢萌 田鵬

        4月11日，國家互聯(lián)網(wǎng)信息辦公室就《生成式人工智能服務(wù)管理辦法（征求意見稿）》（以下簡稱《征求意見稿》）公開征求意見。

《征求意見稿》重點強調(diào)了生成式人工智能產(chǎn)品訓練數(shù)據(jù)及生成內(nèi)容的真實性。其中，就提供生成式人工智能產(chǎn)品或服務(wù)作出五大要求，提出“利用生成式人工智能生成的內(nèi)容應(yīng)當真實準確，采取措施防止生成虛假信息”。同時，也對產(chǎn)品的訓練數(shù)據(jù)作出五項要求，提出“能夠保證數(shù)據(jù)的真實性、準確性、客觀性、多樣性”。

“《征求意見稿》的出臺，意味著AI行業(yè)的標準化步伐正加快，AIGC產(chǎn)業(yè)可持續(xù)發(fā)展的政策紅利期即將來臨。”中關(guān)村智能科技發(fā)展促進會副會長兼首席數(shù)字經(jīng)濟學家陳曉華在接受《證券日報》記者采訪時表示，從相關(guān)條例可以看出，我國極為重視此輪AI所引領(lǐng)的科技變革，有關(guān)部門在鼓勵自主創(chuàng)新、推廣應(yīng)用、國際合作的同時，也致力于避免“先污染后治理”的困境。

強調(diào)生成內(nèi)容真實性

隨著ChatGPT火爆市場，大眾對生成式人工智能技術(shù)的認知程度不斷提升，激發(fā)市場需求的同時，也加速了相關(guān)企業(yè)布局。

不過，AIGC行業(yè)發(fā)展也面臨著虛假信息的困擾。中國信息通信研究院和京東探索研究院發(fā)布的《人工智能生成內(nèi)容（AIGC）白皮書（2022年）》顯示，近年來，隨著人工智能技術(shù)不斷成熟，機器深度學習后生成的內(nèi)容愈發(fā)逼真，能夠達到“以假亂真”的效果。

在此背景下，《征求意見稿》著重強調(diào)了生成式人工智能產(chǎn)品訓練數(shù)據(jù)及生成內(nèi)容的真實性。

“這將引領(lǐng)‘可信’生成式人工智能服務(wù)的發(fā)展。”大成律師事務(wù)所高級合伙人肖颯對《證券日報》記者表示，對于生成式人工智能服務(wù)來說，“可信”是最難以達成的。核心問題指向服務(wù)生成內(nèi)容可信程度的波動化，一時超常的準確表現(xiàn)，一時難以分辨的潛藏錯誤，是阻礙對該類服務(wù)賦予更多信任的主要原因。

此外，《征求意見稿》對用于生成式人工智能產(chǎn)品的預(yù)訓練、優(yōu)化訓練數(shù)據(jù)也進行了明確要求：一是要符合《中華人民共和國網(wǎng)絡(luò)安全法》等法律法規(guī)的要求；二是不含有侵犯知識產(chǎn)權(quán)的內(nèi)容；三是數(shù)據(jù)包含個人信息的，應(yīng)當征得個人信息主體同意或者符合法律、行政法規(guī)規(guī)定的其他情形；四是能夠保證數(shù)據(jù)的真實性、準確性、客觀性、多樣性；五是國家網(wǎng)信部門關(guān)于生成式人工智能服務(wù)的其他監(jiān)管要求。

對此，肖颯認為，對服務(wù)背后的數(shù)據(jù)進行統(tǒng)一要求，最直接的意義便是對模型輸入端進行優(yōu)化，從而盡可能地保證輸出端內(nèi)容的純凈性、準確性。從長遠來看，這是對整個數(shù)據(jù)相關(guān)產(chǎn)業(yè)鏈提出的新要求，是對整個行業(yè)數(shù)據(jù)收集、傳輸、交易、檢驗、維護與保護的全面規(guī)制，也符合現(xiàn)行立法對數(shù)據(jù)處理的各方面要求，能夠極大程度地防止后續(xù)違法行為的發(fā)生。

《比較》雜志研究部主管陳永偉對《證券日報》記者表示，總體來看，《征求意見稿》相關(guān)要求給生成式AI發(fā)展劃定界限的同時，也為其留下了充分的發(fā)展空間，從而揚長避短，將技術(shù)發(fā)展的正向作用發(fā)揮到最大。

服務(wù)前應(yīng)申報安全評估

在國內(nèi)AIGC發(fā)展早期做好合規(guī)工作，可為行業(yè)后續(xù)穩(wěn)健發(fā)展保駕護航。據(jù)《證券日報》記者不完全梳理，截至目前，已有百度、華為、騰訊、阿里、京東、360等互聯(lián)網(wǎng)企業(yè)布局生成式人工智能業(yè)務(wù)，并且部分企業(yè)已經(jīng)推出相應(yīng)產(chǎn)品。

“生成式人工智能快速發(fā)展，帶來了諸多信息安全方面的風險。”平安證券研報表示，一方面，信息泄露風險，大量的敏感數(shù)據(jù)和AI交互之后，可能會被應(yīng)用于迭代訓練，造成敏感信息的泄露，尤其是國家、機構(gòu)和個人信息，都面臨著潛在風險；另一方面，AIGC被惡意應(yīng)用的風險也在上升，可能被應(yīng)用于惡意代碼生成，發(fā)展智能化網(wǎng)絡(luò)攻擊武器，加大了網(wǎng)絡(luò)安全防護難度。

深圳市信息服務(wù)業(yè)區(qū)塊鏈協(xié)會會長鄭定向?qū)Α蹲C券日報》記者表示，生成式人工智能產(chǎn)品目前僅是一個機器程序，沒有法律主體身份和行為能力，但如果被用來執(zhí)行非法行為，例如攻擊計算機系統(tǒng)、盜竊數(shù)據(jù)或參與欺詐等，就會成為犯罪行為的工具或手段。基于此，為了確保人工智能的合法性和公正性，需要對提供生成式人工智能產(chǎn)品或服務(wù)進行必要的法律約束。

為此，《征求意見稿》強調(diào)生成式人工智能產(chǎn)品的安全性。《征求意見稿》提出，國家支持人工智能算法、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新、推廣應(yīng)用、國際合作，鼓勵優(yōu)先采用安全可信的軟件、工具、計算和數(shù)據(jù)資源。但利用生成式人工智能產(chǎn)品向公眾提供服務(wù)前，應(yīng)申報安全評估。

鄭定向表示，生成式人工智能技術(shù)和產(chǎn)品的發(fā)展歸根結(jié)底是為了服務(wù)于人，科學、嚴密的法律規(guī)范是發(fā)展過程中必不可少的重要環(huán)節(jié)。

平安證券表示，新技術(shù)發(fā)展和監(jiān)管合規(guī)是相輔相成的關(guān)系，離不開監(jiān)管在機制體制建設(shè)上的完善，以及產(chǎn)業(yè)政策引導。同時，監(jiān)管政策也正在積極適應(yīng)信息技術(shù)的革新。尤其是AIGC面世以來，監(jiān)管機構(gòu)對數(shù)據(jù)處理主體、數(shù)據(jù)處理過程以及伴隨的國家安全和信息安全的認識也在逐步清晰。預(yù)計隨著更多AIGC技術(shù)的應(yīng)用落地，一些潛在的風險將更多被認識和暴露，監(jiān)管側(cè)的監(jiān)管措施也會更“對癥”，《征求意見稿》只是第一步。