近期計(jì)劃外出旅游的小張，習(xí)慣性地打開某AI（人工智能）平臺(tái)“詢問”攻略。與以往一樣，兩三秒后，答案迅速生成，但略微不同的是，文本結(jié)尾處多了一句話：“由AI大模型生成，內(nèi)容僅供參考，請(qǐng)仔細(xì)甄別?！?

生成式人工智能、深度合成等新技術(shù)的快速發(fā)展，為生成合成文本、圖片、音頻和視頻等信息提供了便利工具，在促進(jìn)經(jīng)濟(jì)發(fā)展、豐富網(wǎng)上內(nèi)容、便利公眾生活的同時(shí)，也造成虛假信息傳播和破壞網(wǎng)絡(luò)生態(tài)等問題。因此，社會(huì)廣泛呼吁加快專門立法，強(qiáng)化技術(shù)監(jiān)管，壓實(shí)平臺(tái)責(zé)任。

近日，國(guó)家互聯(lián)網(wǎng)信息辦公室、工信部、公安部、國(guó)家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（以下簡(jiǎn)稱《標(biāo)識(shí)辦法》），自2025年9月1日起施行?！稑?biāo)識(shí)辦法》以內(nèi)容標(biāo)識(shí)為抓手，細(xì)化前期相關(guān)部門規(guī)章的標(biāo)識(shí)相關(guān)要求，進(jìn)一步發(fā)揮內(nèi)容標(biāo)識(shí)提醒提示和監(jiān)督溯源的技術(shù)作用，著力構(gòu)建開放、公正、有效的治理機(jī)制。

國(guó)家網(wǎng)信辦有關(guān)負(fù)責(zé)人表示，《標(biāo)識(shí)辦法》重點(diǎn)解決“哪些是生成的”“誰生成的”“從哪里生成的”等問題，推動(dòng)由生成到傳播各環(huán)節(jié)的全流程安全管理，力爭(zhēng)打造可信賴的人工智能技術(shù)。

區(qū)分規(guī)定生成合成內(nèi)容中應(yīng)添加的“顯式標(biāo)識(shí)”和“隱式標(biāo)識(shí)”，是《標(biāo)識(shí)辦法》的另一大特色。其中，顯式標(biāo)識(shí)是指在生成合成內(nèi)容或者交互場(chǎng)景界面中添加的，以文字、聲音和圖形等方式呈現(xiàn)并可以被用戶明顯感知到的標(biāo)識(shí)；隱式標(biāo)識(shí)是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的，不易被用戶明顯感知到的標(biāo)識(shí)。

針對(duì)服務(wù)提供者，《標(biāo)識(shí)辦法》明確，應(yīng)當(dāng)對(duì)文本、音頻、圖片、視頻和虛擬場(chǎng)景等生成合成內(nèi)容添加顯式標(biāo)識(shí)，在提供生成合成內(nèi)容下載、復(fù)制和導(dǎo)出等功能時(shí)，應(yīng)當(dāng)確保文件中含有滿足要求的顯式標(biāo)識(shí)；應(yīng)當(dāng)在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標(biāo)識(shí)。

針對(duì)互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺(tái)，《標(biāo)識(shí)辦法》提出，在應(yīng)用程序上架或者上線審核時(shí)，應(yīng)當(dāng)要求互聯(lián)網(wǎng)應(yīng)用程序服務(wù)提供者說明是否提供人工智能生成合成服務(wù)，并核驗(yàn)其生成合成內(nèi)容標(biāo)識(shí)相關(guān)材料。

針對(duì)用戶，《標(biāo)識(shí)辦法》要求，使用網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)發(fā)布生成合成內(nèi)容的，應(yīng)當(dāng)主動(dòng)聲明并使用服務(wù)提供者提供的標(biāo)識(shí)功能進(jìn)行標(biāo)識(shí)。

此外，任何組織和個(gè)人不得惡意刪除、篡改、偽造和隱匿《標(biāo)識(shí)辦法》規(guī)定的生成合成內(nèi)容標(biāo)識(shí)，不得為他人實(shí)施上述惡意行為提供工具或者服務(wù)，不得通過不正當(dāng)標(biāo)識(shí)手段損害他人合法權(quán)益。

專家表示，《標(biāo)識(shí)辦法》是我國(guó)推進(jìn)人工智能領(lǐng)域安全治理、促進(jìn)產(chǎn)業(yè)規(guī)范健康發(fā)展和引導(dǎo)技術(shù)向善的重要舉措，標(biāo)志著我國(guó)在生成式人工智能領(lǐng)域邁出了構(gòu)建安全可信生態(tài)的關(guān)鍵一步。

“此前出臺(tái)的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》提出了標(biāo)識(shí)有關(guān)要求，《標(biāo)識(shí)辦法》進(jìn)一步細(xì)化了標(biāo)識(shí)的具體實(shí)施規(guī)范?！北本┖娇蘸教齑髮W(xué)法學(xué)院副教授趙精武說。

一方面，清晰的內(nèi)容標(biāo)識(shí)有助于提升信息透明度，增強(qiáng)用戶的知情權(quán)和選擇權(quán)，培養(yǎng)公眾對(duì)人工智能技術(shù)的理性認(rèn)知。另一方面，對(duì)于服務(wù)提供者及傳播平臺(tái)而言，內(nèi)容標(biāo)識(shí)制度既是責(zé)任更是機(jī)遇，在鼓勵(lì)企業(yè)追求技術(shù)能力提升的同時(shí)，也將提升對(duì)產(chǎn)品社會(huì)影響的關(guān)注度，推動(dòng)整個(gè)行業(yè)向更加規(guī)范、健康的方向發(fā)展。

良法善治，重在實(shí)施?！鞍殡S標(biāo)識(shí)管理與算法備案、安全評(píng)估等機(jī)制逐步實(shí)現(xiàn)有機(jī)銜接，生成合成內(nèi)容標(biāo)識(shí)合規(guī)或?qū)⒊蔀橄嚓P(guān)部門開展人工智能監(jiān)督檢查、專項(xiàng)行動(dòng)的重點(diǎn)關(guān)注領(lǐng)域?！惫膊康谌芯克彼L(zhǎng)金波指出，“如何平衡好發(fā)展與安全、創(chuàng)新與責(zé)任，提升執(zhí)法的專業(yè)化、精細(xì)化、智慧化水平，從而培育出安全、開放、公平的人工智能產(chǎn)業(yè)生態(tài)環(huán)境，還需要深入探究?！?

配套《標(biāo)識(shí)辦法》，強(qiáng)制性國(guó)家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識(shí)方法》（以下簡(jiǎn)稱《標(biāo)識(shí)方法》），已由國(guó)家市場(chǎng)監(jiān)督管理總局、國(guó)家標(biāo)準(zhǔn)化管理委員會(huì)正式批準(zhǔn)發(fā)布，2025年9月1日與《標(biāo)識(shí)辦法》同步實(shí)施。

對(duì)此，國(guó)家計(jì)算機(jī)網(wǎng)絡(luò)應(yīng)急技術(shù)處理協(xié)調(diào)中心正高級(jí)工程師張震介紹，作為配套的《標(biāo)識(shí)方法》明確了元數(shù)據(jù)隱式標(biāo)識(shí)的字段要素，在盡量不影響元數(shù)據(jù)處理和傳輸?shù)那疤嵯拢度氡匾侄?，記錄生成合成?nèi)容的關(guān)鍵信息和關(guān)鍵環(huán)節(jié)，確保內(nèi)容在流轉(zhuǎn)過程中始終可追溯。（夏小禾）