9月1日起AI生成合成内容需添加标识

近期计划外出旅游的小张，习惯性地打开某AI（人工智能）平台“询问”攻略。与以往一样，两三秒后，答案迅速生成，但略微不同的是，文本结尾处多了一句话：“由AI大模型生成，内容仅供参考，请仔细甄别。”

生成式人工智能、深度合成等新技术的快速发展，为生成合成文本、图片、音频和视频等信息提供了便利工具，在促进经济发展、丰富网上内容、便利公众生活的同时，也造成虚假信息传播和破坏网络生态等问题。因此，社会广泛呼吁加快专门立法，强化技术监管，压实平台责任。

近日，国家互联网信息办公室、工信部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》（以下简称《标识办法》），自2025年9月1日起施行。《标识办法》以内容标识为抓手，细化前期相关部门规章的标识相关要求，进一步发挥内容标识提醒提示和监督溯源的技术作用，着力构建开放、公正、有效的治理机制。

国家网信办有关负责人表示，《标识办法》重点解决“哪些是生成的”“谁生成的”“从哪里生成的”等问题，推动由生成到传播各环节的全流程安全管理，力争打造可信赖的人工智能技术。

区分规定生成合成内容中应添加的“显式标识”和“隐式标识”，是《标识办法》的另一大特色。其中，显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音和图形等方式呈现并可以被用户明显感知到的标识；隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。

针对服务提供者，《标识办法》明确，应当对文本、音频、图片、视频和虚拟场景等生成合成内容添加显式标识，在提供生成合成内容下载、复制和导出等功能时，应当确保文件中含有满足要求的显式标识；应当在生成合成内容的文件元数据中添加隐式标识。

针对互联网应用程序分发平台，《标识办法》提出，在应用程序上架或者上线审核时，应当要求互联网应用程序服务提供者说明是否提供人工智能生成合成服务，并核验其生成合成内容标识相关材料。

针对用户，《标识办法》要求，使用网络信息内容传播服务发布生成合成内容的，应当主动声明并使用服务提供者提供的标识功能进行标识。

此外，任何组织和个人不得恶意删除、篡改、伪造和隐匿《标识办法》规定的生成合成内容标识，不得为他人实施上述恶意行为提供工具或者服务，不得通过不正当标识手段损害他人合法权益。

专家表示，《标识办法》是我国推进人工智能领域安全治理、促进产业规范健康发展和引导技术向善的重要举措，标志着我国在生成式人工智能领域迈出了构建安全可信生态的关键一步。

“此前出台的《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》提出了标识有关要求，《标识办法》进一步细化了标识的具体实施规范。”北京航空航天大学法学院副教授赵精武说。

一方面，清晰的内容标识有助于提升信息透明度，增强用户的知情权和选择权，培养公众对人工智能技术的理性认知。另一方面，对于服务提供者及传播平台而言，内容标识制度既是责任更是机遇，在鼓励企业追求技术能力提升的同时，也将提升对产品社会影响的关注度，推动整个行业向更加规范、健康的方向发展。

良法善治，重在实施。“伴随标识管理与算法备案、安全评估等机制逐步实现有机衔接，生成合成内容标识合规或将成为相关部门开展人工智能监督检查、专项行动的重点关注领域。”公安部第三研究所副所长金波指出，“如何平衡好发展与安全、创新与责任，提升执法的专业化、精细化、智慧化水平，从而培育出安全、开放、公平的人工智能产业生态环境，还需要深入探究。”

配套《标识办法》，强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》（以下简称《标识方法》），已由国家市场监督管理总局、国家标准化管理委员会正式批准发布，2025年9月1日与《标识办法》同步实施。

对此，国家计算机网络应急技术处理协调中心正高级工程师张震介绍，作为配套的《标识方法》明确了元数据隐式标识的字段要素，在尽量不影响元数据处理和传输的前提下，嵌入必要字段，记录生成合成内容的关键信息和关键环节，确保内容在流转过程中始终可追溯。（夏小禾）