8 月 15 日，由網(wǎng)信辦等七部門發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》（下文簡稱“《辦法》”）正式施行，這也是全球第一部AIGC（AI生成內(nèi)容）管理辦法。
三六零集團創(chuàng)始人周鴻祎對貝殼財經(jīng)記者表示，與征求意見稿相比，《辦法》中增加了“鼓勵各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用”，支持行業(yè)組織機構(gòu)開展協(xié)作；增加了“推動基礎(chǔ)設(shè)施和公共平臺建設(shè)”、“促進算力共享”、“推動公共數(shù)據(jù)開放”等內(nèi)容，表明了有關(guān)部門鼓勵創(chuàng)新，支持大模型發(fā)展的態(tài)度，為科技企業(yè)創(chuàng)新提供了信心和保障。
中國政法大學傳播法研究中心副主任朱巍在接受新京報貝殼財經(jīng)記者采訪時表示，《辦法》明確了必須對AIGC生成的內(nèi)容進行標記，這降低了一些真假難辨的AIGC內(nèi)容可能造成的風險。此外，相比此前版本的征求意見稿，《辦法》對違法內(nèi)容的管理責任體現(xiàn)了包容審慎的態(tài)度，“AI只是一個工具，如果要求生成式人工智能服務(wù)提供者為生成的內(nèi)容承擔責任并不公平，對此《辦法》要求提供者發(fā)現(xiàn)違法內(nèi)容后應(yīng)及時采取處置措施并向主管部門報告，這一改動很亮眼，實踐表現(xiàn)也不錯?！?/p>
國家網(wǎng)信辦有關(guān)負責人表示，《辦法》提出國家堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結(jié)合的原則，采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展，對生成式人工智能服務(wù)實行包容審慎和分類分級監(jiān)管。
鼓勵算法芯片等基礎(chǔ)技術(shù)自主創(chuàng)新
周鴻祎表示，《辦法》針對大模型生成式的特點，遵循促進創(chuàng)新和依法治理相結(jié)合的原則，“有關(guān)部門的監(jiān)管方式非常先進，將有效助推生成式人工智能的發(fā)展?！?/p>
“我認為《辦法》是積極的，總體來講是鼓勵深層次人工智能發(fā)展，鼓勵我們自己發(fā)展芯片，同時里面也有對尊重知識產(chǎn)權(quán)、個人信息保護的相關(guān)要求?！?談到對此次出臺《辦法》的感受，網(wǎng)絡(luò)安全研究專家、北京漢華飛天信安科技有限公司總經(jīng)理彭根告訴新京報貝殼財經(jīng)記者。
貝殼財經(jīng)記者注意到，在《辦法》第二章技術(shù)發(fā)展與治理中，“鼓勵”一詞高頻出現(xiàn)。
如第五條提到“鼓勵生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用，生成積極健康、向上向善的優(yōu)質(zhì)內(nèi)容，探索優(yōu)化應(yīng)用場景，構(gòu)建應(yīng)用生態(tài)體系?！钡诹鶙l提到“鼓勵生成式人工智能算法、框架、芯片及配套軟件平臺等基礎(chǔ)技術(shù)的自主創(chuàng)新，平等互利開展國際交流與合作，參與生成式人工智能相關(guān)國際規(guī)則制定?！?/p>
對于《辦法》的發(fā)布，北京理工大學法學院教授、外交部國際法咨詢委員會委員洪延青簡評稱，整個《辦法》往促進生成式AI發(fā)展這個方向，靠了很大一步，“第二條強調(diào)了‘面向公眾提供’服務(wù)，進一步明確了監(jiān)管意圖；第四條基本圍繞著內(nèi)容管理、歧視性待遇、商業(yè)和市場秩序保護、個人合法權(quán)益保護，以及生成內(nèi)容的準確性和可靠性；第七條依舊強調(diào)了訓練數(shù)據(jù)的重要性，這是生成式AI監(jiān)管的重要切入點?！?/p>
在回答《辦法》對促進生成式人工智能健康發(fā)展有哪些考慮這一問題時，國家網(wǎng)信辦有關(guān)負責人提到，支持行業(yè)組織、企業(yè)、教育和科研機構(gòu)、公共文化機構(gòu)、有關(guān)專業(yè)機構(gòu)等在生成式人工智能技術(shù)創(chuàng)新、數(shù)據(jù)資源建設(shè)、轉(zhuǎn)化應(yīng)用、風險防范等方面開展協(xié)作。推動生成式人工智能基礎(chǔ)設(shè)施和公共訓練數(shù)據(jù)資源平臺建設(shè)。促進算力資源協(xié)同共享，提升算力資源利用效能。推動公共數(shù)據(jù)分類分級有序開放，擴展高質(zhì)量的公共訓練數(shù)據(jù)資源。鼓勵采用安全可信的芯片、軟件、工具、算力和數(shù)據(jù)資源。
“《辦法》明確了適用邊界，既能夠規(guī)范大模型的公眾服務(wù)，同時也有利于組織機構(gòu)的研發(fā)和應(yīng)用。我認為，大模型未來真正的發(fā)展機會就是企業(yè)級市場。產(chǎn)業(yè)數(shù)字化戰(zhàn)略背景下，大模型作為工業(yè)革命級的生產(chǎn)力工具，應(yīng)當幫助傳統(tǒng)產(chǎn)業(yè)特別是制造業(yè)實現(xiàn)數(shù)字化轉(zhuǎn)型到智能化升級。從《辦法》來看，國家對企業(yè)級場景的應(yīng)用研發(fā)和落地整體持大力支持的態(tài)度，對科技企業(yè)推動大模型在企業(yè)級場景的落地有積極意義。”周鴻祎對貝殼財經(jīng)記者表示。
中國互聯(lián)網(wǎng)協(xié)會研究中心副主任、北京師范大學法學院博士生導師吳沈括在接受新京報貝殼財經(jīng)記者采訪時表示，相比較于征求意見稿階段，《辦法》在發(fā)布主體、文件名稱、內(nèi)容寬度上有很大的變化，本身也反映了我們國家在治理決策層面對AGC治理的思路的進一步深化和延伸，“它作為全球第一部AIGC法，反映的是中國在數(shù)字治理和人工智能治理層面新的思路，強調(diào)的是一種生態(tài)式的治理方案?！?/p>
如何保障內(nèi)容安全？提供者發(fā)現(xiàn)違法內(nèi)容應(yīng)及時處置
貝殼財經(jīng)記者注意到，從4月11日《辦法》征求意見稿出臺，到本次《辦法》正式發(fā)布，在對大模型的內(nèi)容監(jiān)管方面，均明確提供和使用生成式人工智能服務(wù)應(yīng)當堅持社會主義核心價值觀，不得生成煽動顛覆國家政權(quán)、民族歧視，暴力色情、虛假有害信息等法律和行政法規(guī)禁止的內(nèi)容。
但另一方面，由于生成式AI底層算法的本質(zhì)就是“猜出”最符合上文內(nèi)容的“下文”，具備一定隨機性，因此如何應(yīng)對生成式AI難以避免出現(xiàn)的“幻覺”問題也成為了難題。對此，《辦法》第十四條第二款規(guī)定，提供者發(fā)現(xiàn)違法內(nèi)容的，應(yīng)當及時采取停止生成、停止傳輸、消除等處置措施，采取模型優(yōu)化訓練等措施進行整改，并向有關(guān)主管部門報告。
朱巍認為，該條款是此次《辦法》的亮點之一，“之前版本的征求意見稿中曾提到‘人工智能的服務(wù)提供者和內(nèi)容提供者’，這種表述對平臺和服務(wù)提供者來說，可能責任太大了，因為AI只是一個工具，別人用它來干壞事但責任主體卻是服務(wù)提供者，這可能不公平。因此，我認為此次《辦法》相關(guān)條款體現(xiàn)了包容審慎的態(tài)度，一旦提供者發(fā)現(xiàn)違法內(nèi)容，需要采取必要措施?！?/p>
AI只是一個工具，如果要求生成式人工智能服務(wù)提供者為生成的內(nèi)容承擔責任并不公平，《辦法》要求提供者發(fā)現(xiàn)違法內(nèi)容后應(yīng)及時采取處置措施并向主管部門報告，這相比此前的征求意見稿有了很大進步。
“一直以來，我國堅持發(fā)展和安全并重，在鼓勵自主創(chuàng)新的同時，《辦法》強調(diào)提供者應(yīng)當依法承擔網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責任，履行網(wǎng)絡(luò)信息安全義務(wù)。我對此表示認同，大模型是數(shù)字化的頂峰，同樣是把雙刃劍，帶來生產(chǎn)力提升的同時存在安全風險，包括網(wǎng)絡(luò)安全、數(shù)據(jù)安全、算法安全和生成內(nèi)容安全。比如算法攻擊有可能致使大模型淪為犯罪工具，協(xié)助黑客寫攻擊代碼或釣魚郵件?！敝茗櫟t說。
在周鴻祎看來，大模型存在“幻覺”問題，會“胡說八道”，難以確保生成內(nèi)容符合法律法規(guī)和倫理道德，“未來人工智能會跟整個數(shù)字化系統(tǒng)緊密結(jié)合，需要從現(xiàn)在開始關(guān)注和探索AI安全的解決之道。360擁有全球規(guī)模最大的安全大數(shù)據(jù)、世界領(lǐng)先的APT捕獲能力，是世界領(lǐng)先、中國第一的安全企業(yè)，攻克大模型安全這一世界性課題是題中之義?！?/p>
另一個解決方案是，大模型生成的內(nèi)容的素材來源于其預(yù)訓練數(shù)據(jù)，因此對這些數(shù)據(jù)進行把控，就能大概率降低生產(chǎn)內(nèi)容的風險?！掇k法》第七條或體現(xiàn)了這一觀點，第七條規(guī)定，生成式人工智能服務(wù)提供者（以下稱提供者）應(yīng)當依法開展預(yù)訓練、優(yōu)化訓練等訓練數(shù)據(jù)處理活動，應(yīng)使用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型，涉及知識產(chǎn)權(quán)的，不得侵害他人依法享有的知識產(chǎn)權(quán)等。
洪延青認為，《辦法》第七條依舊強調(diào)了訓練數(shù)據(jù)的重要性，這是生成式AI監(jiān)管的重要切入點，但對訓練數(shù)據(jù)的質(zhì)量作出了盡職性的要求，而非結(jié)果式的要求。
在朱巍看來，目前我國于國外在大模型技術(shù)上的差距并不在算法端，而在訓練數(shù)據(jù)數(shù)量和質(zhì)量，“我們對于數(shù)據(jù)來源這一條持有保留意見，訓練數(shù)據(jù)應(yīng)該多多益善，如果要求所有數(shù)據(jù)都具有合法性或明確授權(quán)，有可能導致大模型訓練者不能在公共領(lǐng)域中抓取數(shù)據(jù)，這可能會影響國內(nèi)AI大模型的發(fā)展。雖然使用收集來的數(shù)據(jù)訓練出的大模型也會帶有傾向性，但我認為這可以通過算法進行修正，更多的數(shù)據(jù)可以幫助我們更好的‘彎道超車’。”
分類分級監(jiān)管 AIGC應(yīng)提供標識
吳沈括對貝殼財經(jīng)記者表示，在《辦法》的文本設(shè)計當中，對于產(chǎn)業(yè)生態(tài)的培育和促進，對于各方主體合規(guī)治理的指引，以及對于安全底線的堅守是三個非常重要的制度基礎(chǔ)和切入的重點，其中值得注意的地方是《辦法》突出了關(guān)于AIGC的分類分級監(jiān)管思路，以及后續(xù)細化監(jiān)管規(guī)則的持續(xù)出臺。
根據(jù)《辦法》第十七條，提供具有輿論屬性或者社會動員能力的生成式人工智能服務(wù)的，應(yīng)當按照國家有關(guān)規(guī)定開展安全評估，并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。
洪延青表示，第十七條事實上提出了生成式AI的分類分級管理思路，對具有輿論屬性和社會動員能力的生成式AI，沿用網(wǎng)信辦過去的監(jiān)管工具。
國家網(wǎng)信辦有關(guān)負責人說，《辦法》在治理對象上，針對生成式人工智能服務(wù)。在監(jiān)管方式上，提出對生成式人工智能服務(wù)實行包容審慎和分類分級監(jiān)管，要求國家有關(guān)主管部門針對生成式人工智能技術(shù)特點及其在有關(guān)行業(yè)和領(lǐng)域的服務(wù)應(yīng)用，完善與創(chuàng)新發(fā)展相適應(yīng)的科學監(jiān)管方式，制定相應(yīng)的分類分級監(jiān)管規(guī)則或者指引。此外，《辦法》要求采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務(wù)。規(guī)定提供者應(yīng)當按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對圖片、視頻等生成內(nèi)容進行標識。
“我最大的感受是《辦法》進一步強調(diào)了深度合成管理規(guī)定的內(nèi)容，要對圖片和視頻進行標注，讓我們能夠判斷出到底圖片視頻是由AI生成的，還是人去錄制和拍攝的，這是一個很關(guān)鍵的一個地方。”彭根說。
“前不久，出現(xiàn)了許多利用生成式人工智能語音、視頻，結(jié)合賬號盜取進行電信詐騙的情況，《辦法》結(jié)合此前發(fā)布的關(guān)于深度合成的相關(guān)規(guī)定，為解決此類問題提供了思路?！敝煳≌f。
值得注意的是，《辦法》對生成式人工智能的用戶也提出了義務(wù)。
《辦法》第九條第二款規(guī)定，提供者應(yīng)當與注冊其服務(wù)的生成式人工智能服務(wù)使用者（以下稱使用者）簽訂服務(wù)協(xié)議，明確雙方權(quán)利義務(wù)。而第十四條第二款則規(guī)定，提供者發(fā)現(xiàn)使用者利用生成式人工智能服務(wù)從事違法活動的，應(yīng)當依法依約采取警示、限制功能、暫?；蛘呓K止向其提供服務(wù)等處置措施，保存有關(guān)記錄，并向有關(guān)主管部門報告。
“《辦法》在安全層面堅持了技術(shù)要素層面的安全、組織管理層面的安全以及數(shù)字內(nèi)容層面的安全，結(jié)合了安全性設(shè)計、合法性設(shè)計和倫理性設(shè)計的綜合治理思路。對于各方主體的合規(guī)義務(wù)、法律責任做出了明確的規(guī)定。同時，對包括用戶數(shù)字素養(yǎng)在內(nèi)的基礎(chǔ)性生態(tài)要素也做出了專門的要求。從這個意義上來講，目前的辦法在制度的寬度、廣度和深度上都有顯著的延伸?！眳巧蚶▽ω悮へ斀?jīng)記者表示。
記者聯(lián)系郵箱：luoyidan@xjbnews.com
新京報貝殼財經(jīng)記者 羅亦丹
編輯 宋鈺婷
校對 柳寶慶
