人工智能技术的快速普及带来诸多治理和安全挑战，尤其是在AI换脸、AI谣言、数据隐私、模型安全等方面。此前有“靳东两会建议AI换脸立法”“雷军回应国庆7天被AI雷军骂了8天”等话题登上热搜，今日公安部网安局发布消息，使用AI捏造“顶流明星在澳门输10亿”谣言男子被行拘。
3月14日，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》（简称《标识办法》），自2025年9月1日起施行。
在答记者问环节，国家互联网信息办公室有关负责人回应《标识办法》出台背景时称：近年来，人工智能技术快速发展，为生成合成文字、图片、音频、视频等信息提供了便利工具，海量信息得以快速生成合成并在网络平台传播，在促进经济社会发展的同时，也产生了生成合成技术滥用、虚假信息传播扩散加剧等问题。经深入开展调研、广泛征求意见、多轮技术论证试点，国家互联网信息办公室联合工业和信息化部、公安部、国家广播电视总局制定了《标识办法》，进一步规范人工智能生成合成内容标识活动。
《标识办法》聚焦人工智能“生成合成内容标识”关键点，通过标识提醒用户辨别虚假信息，明确相关服务主体的标识责任义务，规范内容制作、传播各环节标识行为，以合理成本提高安全性，促进人工智能在文本对话、内容制作、辅助设计等各应用场景加快落地，同时减轻人工智能生成合成技术滥用危害，防范利用人工智能技术制作传播虚假信息等风险行为，推动人工智能健康有序发展。
总体思路上，有关负责人表示，一方面，《标识办法》作为规范性文件，进一步细化标识的具体实施规范；二是重点解决“哪些是生成的”“谁生成的”“从哪里生成的”等问题，推动由生成到传播各环节的全流程安全管理；三是统筹发展和安全，创新提出文本符号标识、音频节奏标识、文件元数据标识等低成本实施的可行方法；四是管理要求与技术标准一体化考虑，强制性国家标准《网络安全技术人工智能生成合成内容标识方法》同步发布。
那么，强制性国家标准具体包括哪些方面？有关负责人表示，标准支撑《标识办法》，一是明确提供者添加文字、角标、语音、节奏等显式标识的方法；二是明确服务提供者在文件中添加元数据隐式标识的方法；三是在元数据隐式标识设置了预留字段，可用于记录标识完整性、内容一致性等安全防护信息，为促进标识技术创新发展和保护标识安全性预留了空间。
瑞莱科技联合创始人萧子豪对第一财经表示，近一年来利用AI换声、换脸进行诈骗、造谣等违法犯罪行为屡禁不止、愈演愈烈，呈显著上升趋势。犯罪行为变得更具迷惑性，也更加隐蔽。而AI技术衍生安全风险的治理问题是个非常复杂的社会问题，涉及很多方面。既要在法律法规层面事前规范引导、事后监管惩戒，也需要有技术手段令AI更加安全、可控。
此次，考虑到企业需要时间充分理解相关规定和标准规范，针对性地开展能力建设和功能研发，基于标识技术实施的复杂程度、试点试行的实践经验，设定《标识办法》和配套强制性国家标准有6个月左右的施行过渡期。
0 条