新華社北京3月16日電題：強(qiáng)化全流程管理　引導(dǎo)技術(shù)向善——《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》解讀

新華社記者王思北

近日,，國家互聯(lián)網(wǎng)信息辦公室,、工業(yè)和信息化部,、公安部,、國家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》。辦法聚焦人工智能“生成合成內(nèi)容標(biāo)識(shí)”關(guān)鍵點(diǎn),，通過標(biāo)識(shí)提醒用戶辨別虛假信息,，明確相關(guān)服務(wù)主體的標(biāo)識(shí)責(zé)任義務(wù)，規(guī)范內(nèi)容制作,、傳播各環(huán)節(jié)標(biāo)識(shí)行為,，將于2025年9月1日起施行。

專家認(rèn)為,，辦法是我國推進(jìn)人工智能領(lǐng)域安全治理,、促進(jìn)產(chǎn)業(yè)規(guī)范健康發(fā)展、引導(dǎo)技術(shù)向善的重要舉措,，標(biāo)志著我國在生成式人工智能領(lǐng)域邁出了構(gòu)建安全可信生態(tài)的關(guān)鍵一步,。

近年來，生成式人工智能,、深度合成等新技術(shù)快速發(fā)展,，為生成合成文本、圖片、音頻,、視頻等信息提供了便利工具,。

“然而，人工智能生成合成內(nèi)容日益逼真,，也催生虛假消息傳播,、身份信息冒充、惡意內(nèi)容生成等新型安全風(fēng)險(xiǎn),，并削弱著公眾對(duì)網(wǎng)絡(luò)傳播內(nèi)容的信任根基,。”中國工程院院士,、浙江大學(xué)教授陳純認(rèn)為，面對(duì)人工智能安全治理這一世界性難題,，四部門適時(shí)出臺(tái)《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》,，配套強(qiáng)制性國家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù)　人工智能生成合成內(nèi)容標(biāo)識(shí)方法》也同時(shí)發(fā)布，成為保障人工智能時(shí)代網(wǎng)絡(luò)生態(tài)安全有序的關(guān)鍵手段,。

國家網(wǎng)信辦有關(guān)負(fù)責(zé)人表示,，辦法重點(diǎn)解決“哪些是生成的”“誰生成的”“從哪里生成的”等問題，推動(dòng)由生成到傳播各環(huán)節(jié)的全流程安全管理,，力爭打造可信賴的人工智能技術(shù),。

——針對(duì)服務(wù)提供者，辦法明確應(yīng)當(dāng)對(duì)文本,、音頻,、圖片、視頻,、虛擬場景等生成合成內(nèi)容添加顯式標(biāo)識(shí),，在提供生成合成內(nèi)容下載、復(fù)制,、導(dǎo)出等功能時(shí),，應(yīng)當(dāng)確保文件中含有滿足要求的顯式標(biāo)識(shí)；應(yīng)當(dāng)在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標(biāo)識(shí),。

——針對(duì)互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺(tái),，辦法提出在應(yīng)用程序上架或者上線審核時(shí)，應(yīng)當(dāng)要求互聯(lián)網(wǎng)應(yīng)用程序服務(wù)提供者說明是否提供人工智能生成合成服務(wù),，并核驗(yàn)其生成合成內(nèi)容標(biāo)識(shí)相關(guān)材料,。

——針對(duì)用戶，辦法要求使用網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)發(fā)布生成合成內(nèi)容的,，應(yīng)當(dāng)主動(dòng)聲明并使用服務(wù)提供者提供的標(biāo)識(shí)功能進(jìn)行標(biāo)識(shí),。

此外，任何組織和個(gè)人不得惡意刪除、篡改,、偽造,、隱匿辦法規(guī)定的生成合成內(nèi)容標(biāo)識(shí)，不得為他人實(shí)施上述惡意行為提供工具或者服務(wù),，不得通過不正當(dāng)標(biāo)識(shí)手段損害他人合法權(quán)益,。

“此前出臺(tái)的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》提出了標(biāo)識(shí)有關(guān)要求，辦法進(jìn)一步細(xì)化了標(biāo)識(shí)的具體實(shí)施規(guī)范,?！北本┖娇蘸教齑髮W(xué)法學(xué)院副教授趙精武認(rèn)為，辦法明確了生成合成內(nèi)容制作傳播各主體的責(zé)任義務(wù),，用戶能夠清晰識(shí)別人工智能生成的內(nèi)容,，減輕人工智能生成合成技術(shù)濫用危害，防范利用生成合成內(nèi)容傳播虛假信息,、實(shí)施電信詐騙等風(fēng)險(xiǎn)行為,。

一方面，清晰的內(nèi)容標(biāo)識(shí)有助于提升信息透明度,，增強(qiáng)用戶的知情權(quán)和選擇權(quán),，培養(yǎng)公眾對(duì)人工智能技術(shù)的理性認(rèn)知。另一方面,，對(duì)于服務(wù)提供者及傳播平臺(tái)而言,，內(nèi)容標(biāo)識(shí)制度既是責(zé)任更是機(jī)遇，在鼓勵(lì)企業(yè)追求技術(shù)能力提升的同時(shí),，也將提升對(duì)產(chǎn)品社會(huì)影響的關(guān)注度,，推動(dòng)整個(gè)行業(yè)向更加規(guī)范、健康的方向發(fā)展,。

良法善治,，重在實(shí)施。專家認(rèn)為,，辦法的落地需要各方協(xié)同配合,，推動(dòng)標(biāo)識(shí)工作行穩(wěn)致遠(yuǎn)。

公安部第三研究所副所長金波說,，伴隨標(biāo)識(shí)管理與算法備案,、安全評(píng)估等機(jī)制逐步實(shí)現(xiàn)有機(jī)銜接，生成合成內(nèi)容標(biāo)識(shí)合規(guī)或?qū)⒊蔀橄嚓P(guān)部門開展人工智能監(jiān)督檢查,、專項(xiàng)行動(dòng)的重點(diǎn)關(guān)注領(lǐng)域,。在此進(jìn)程中，如何平衡好發(fā)展與安全,、創(chuàng)新與責(zé)任,，提升執(zhí)法的專業(yè)化,、精細(xì)化、智慧化水平,，從而培育出安全,、開放、公平的人工智能產(chǎn)業(yè)生態(tài)環(huán)境,，還需要深入探究,。

“此外，‘人的因素’應(yīng)融入人工智能標(biāo)識(shí)管理的全過程,?！苯鸩ㄕf，要著重提升公眾對(duì)信息內(nèi)容真實(shí)性,、來源可追溯性的評(píng)估能力,，積極培育公眾的人工智能素養(yǎng)，確保人工智能技術(shù)成果普惠共享,。