利用人工智能“換臉”“擬聲”冒充親友實施詐騙，借助人工智能合成的假視頻冒充名醫、名人進行虛假宣傳，通過人工智能生成謠言后在網上傳播……越來越多人工智能生成的信息，充斥在網絡中，真假難辨。

近年來，人工智能技術快速發展，為生成合成文字、圖片、音頻、視頻等信息提供了便利工具，海量信息得以快速生成合成并在網絡平臺傳播，在促進經濟社會發展的同時，也產生了生成合成技術濫用、虛假信息傳播擴散加劇等問題，引發社會各界的關注。

為了促進人工智能健康發展，規范人工智能生成合成內容標識，保護公民、法人和其他組織合法權益，維護社會公共利益，近日，國家互聯網信息辦公室、工業和信息化部、公安部、國家廣播電視總局聯合發布《人工智能生成合成內容標識辦法》（以下簡稱《標識辦法》），自2025年9月1日起施行。

推動建立新技術安全體系

《標識辦法》重點解決“哪些是生成的”“誰生成的”“從哪里生成的”等問題，推動由生成到傳播各環節的全流程安全管理，力爭打造可信賴的人工智能技術。

據聯合國高級別人工智能咨詢機構中方專家、中國政法大學數據法治研究院教授張凌寒介紹，在人工智能生成合成內容的生產環節，服務提供者應對生成合成內容添加標識。服務提供者應對文本、圖片、音頻、視頻、虛擬場景等典型應用場景的生成合成內容添加顯式標識，并在生成合成內容的文件元數據中添加隱式標識，以明確內容屬性、服務提供者信息等內容。

在人工智能生成合成內容的傳播環節，不同主體應對標識的合規性進行確認。服務提供者在提供生成合成內容下載、復制、導出等服務時，應當確保文件中含有滿足要求的顯式標識。網絡信息內容傳播平臺應當核驗文件元數據中是否含有隱式標識，并采取適當方式在發布內容周邊添加顯著的提示標識，明確提醒用戶。互聯網應用程序分發平臺在應用程序上架或上線審核時，應核驗生成合成內容標識相關材料。

在人工智能生成合成內容的使用環節，用戶同樣應履行標識義務。服務提供者應當在用戶服務協議中明確說明生成合成內容標識的方法、樣式等規范內容，并提示用戶仔細閱讀并理解相關的標識管理要求。用戶向網絡信息內容傳播平臺上傳生成合成內容時，應當主動聲明并使用平臺提供的標識功能進行標識。

國家計算機網絡應急技術處理協調中心正高級工程師張震表示，《標識辦法》是對《互聯網信息服務算法推薦管理規定》《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》的繼承和延伸，從人工智能技術特性出發，在生成合成標識這一人工智能安全治理關鍵上提出了針對性的管理思路，將成為我國建立健全人工智能新技術安全體系的重要推動力。

“《標識辦法》進一步明確了人工智能生成合成內容全生命周期履行標識義務的具體要求與主體責任，完善了我國生成式人工智能的治理框架。”張凌寒說。

張震認為，《標識辦法》充分彰顯了監管理念的與時俱進，從傳統的嚴格監管轉向更加靈活的引導與規范，既尊重了技術創新的內在規律，又體現對潛在風險的有效防范。

同步發布強制性國家標準

為推動《標識辦法》落地實施，強制性國家標準《網絡安全技術 人工智能生成合成內容標識方法》（以下簡稱《標識標準》）同步發布。

國家網信辦有關負責人介紹說，《標識辦法》主要從立法層面提出管理要求，明確生成合成內容制作傳播各主體的責任義務，為促進人工智能技術創新發展，對具體實施操作不作要求。《標識標準》以強制性國家標準形式制定實施，主要提出強制執行部分的標識具體實施方式和操作方法，兩者同步推出，于2025年9月1日同步實施，以更好地指導相關主體規范開展標識活動。

“《標識標準》作為《標識辦法》的補充，明確了生成合成內容標識應當遵循的技術方法，為產業落地提供了參考依據。”張震說。

在中國電子技術標準化研究院副院長范科峰看來，此次《標識辦法》《標識標準》的協同發布，破解了以往治理中管理規范與技術標準銜接不暢的問題，形成了“制度牽引技術落地，技術固化制度要求”的治理閉環。

作為我國人工智能領域首部“辦法+強標”組合拳，其創新性體現在三個維度：管理維度明確生成、傳播、分發全鏈條主體責任；監管維度建立審核、監測、追責的閉環機制；技術維度規范顯隱標識體系并預留創新空間。范科峰說，“這種三位一體的治理架構，既通過管理機制明確責任邊界，又依托監管舉措筑牢安全防線，更以技術標準固化治理要求，為人工智能安全治理提供了清晰的實施路徑。”

規范人工智能生成合成內容標識的舉措還有許多。全國網絡安全標準化技術委員會針對生成合成服務提供者和內容傳播服務提供者的平臺編碼，組織起草了配套實踐指南《網絡安全標準實踐指南——人工智能生成合成內容標識 服務提供者編碼規則》，已于3月14日正式獲批發布，為相關主體開展文件元數據隱式標識提供了編碼指引。

此外，全國網絡安全標準化技術委員會正在就各文件格式的元數據標識規范、各應用場景的標識方法等組織編制一系列推薦性標準、實踐指南，將在《標識辦法》發布后逐步推出。

全社會凝心聚力協同配合

《標識辦法》《標識標準》的發布，標志著我國在人工智能安全治理領域邁出了重要的一步。推動《標識辦法》《標識標準》落地的重要性不言而喻。

“考慮到企業需要時間充分理解相關規定和標準規范，有針對性地開展能力建設和功能研發，基于標識技術實施的復雜程度、試點試行的實踐經驗，設定《標識辦法》和《標識標準》6個月左右的施行過渡期。”國家網信辦有關負責人說。

“《標識辦法》和《標識標準》的落地離不開全社會的凝心聚力和協同配合。”中國工程院院士、浙江大學教授陳純說，地方主管部門、高校、科研機構、企業可共同參與，充分利用新媒體、新渠道面向全社會進行大力宣貫，形成標識工作先行的多點協同內容治理網絡，推動標識工作行穩致遠。此外，有必要建立全國性的內容標識公共服務平臺，以可視可交互的實際操練形式，配合口頭宣貫，促進公眾和產業深入理解標識工作。

“可以預見，我國人工智能安全執法將延續重點事項監管、促進產業有序發展的方向。”公安部第三研究所副所長金波認為，伴隨標識管理與算法備案、安全評估等機制逐步實現有機銜接，生成合成內容標識合規有望成為相關部門開展人工智能監督檢查、專項行動的重點關注領域。在此進程中，一系列深層次問題亟待審慎思考與妥善解決——如何平衡發展與安全、創新與責任、公益與私益等多元目標的內在張力，怎樣達成不同執法部門、不同層級、不同地域執法的一致性、協調性，又該通過何種路徑提升執法的專業化、精細化、智慧化水平，從而培育出安全、開放、公平、符合國情的人工智能產業生態環境。這些都是標識管理中需要深入探究的重要課題。

“此外，‘人的因素’應融入人工智能標識管理的全過程，著重提升公眾對于信息內容真實性、來源可追溯性的批判性評估能力，無疑是重中之重。積極培育公眾人工智能素養，確保人工智能技術成果普惠共享，這也是應有之義。”金波說。

張凌寒認為，目前的人工智能生成合成內容標識制度主要關注于“是否機器生成”的形式判斷，隨著標識技術的進步與發展，未來標識制度能夠發揮更為豐富的功能，從形式判斷逐漸轉向“是否足夠可靠”的質量判斷，進一步促進行業健康發展。