人工智能技术的快速普及带来诸多治理和安全挑战，尤其是在AI换脸、AI谣言、数据隐私、模型安全等方面。此前有“靳东两会建议AI换脸立法”“雷军回应国庆7天被AI雷军骂了8天”等话题登上热搜，今日公安部网安局发布消息炒股的杠杆怎么算，使用AI捏造“顶流明星在澳门输10亿”谣言男子被行拘。
3月14日，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》（简称《标识办法》），自2025年9月1日起施行。
在答记者问环节，国家互联网信息办公室有关负责人回应《标识办法》出台背景时称：近年来，人工智能技术快速发展，为生成合成文字、图片、音频、视频等信息提供了便利工具，海量信息得以快速生成合成并在网络平台传播，在促进经济社会发展的同时，也产生了生成合成技术滥用、虚假信息传播扩散加剧等问题。经深入开展调研、广泛征求意见、多轮技术论证试点，国家互联网信息办公室联合工业和信息化部、公安部、国家广播电视总局制定了《标识办法》，进一步规范人工智能生成合成内容标识活动。
《标识办法》聚焦人工智能“生成合成内容标识”关键点，通过标识提醒用户辨别虚假信息，明确相关服务主体的标识责任义务，规范内容制作、传播各环节标识行为，以合理成本提高安全性，促进人工智能在文本对话、内容制作、辅助设计等各应用场景加快落地，同时减轻人工智能生成合成技术滥用危害，防范利用人工智能技术制作传播虚假信息等风险行为，推动人工智能健康有序发展。
总体思路上，有关负责人表示，一方面，《标识办法》作为规范性文件，进一步细化标识的具体实施规范；二是重点解决“哪些是生成的”“谁生成的”“从哪里生成的”等问题，推动由生成到传播各环节的全流程安全管理；三是统筹发展和安全，创新提出文本符号标识、音频节奏标识、文件元数据标识等低成本实施的可行方法；四是管理要求与技术标准一体化考虑，强制性国家标准《网络安全技术人工智能生成合成内容标识方法》同步发布。
那么，强制性国家标准具体包括哪些方面？有关负责人表示，标准支撑《标识办法》，一是明确提供者添加文字、角标、语音、节奏等显式标识的方法；二是明确服务提供者在文件中添加元数据隐式标识的方法；三是在元数据隐式标识设置了预留字段，可用于记录标识完整性、内容一致性等安全防护信息，为促进标识技术创新发展和保护标识安全性预留了空间。
瑞莱科技联合创始人萧子豪对第一财经表示，近一年来利用AI换声、换脸进行诈骗、造谣等违法犯罪行为屡禁不止、愈演愈烈，呈显著上升趋势。犯罪行为变得更具迷惑性，也更加隐蔽。而AI技术衍生安全风险的治理问题是个非常复杂的社会问题，涉及很多方面。既要在法律法规层面事前规范引导、事后监管惩戒，也需要有技术手段令AI更加安全、可控。
此次，考虑到企业需要时间充分理解相关规定和标准规范，针对性地开展能力建设和功能研发，基于标识技术实施的复杂程度、试点试行的实践经验，设定《标识办法》和配套强制性国家标准有6个月左右的施行过渡期。
举报 第一财经广告合作，请点击这里此内容为第一财经原创，著作权归第一财经所有。未经第一财经书面授权，不得以任何方式加以使用，包括转载、摘编、复制或建立镜像。第一财经保留追究侵权者法律责任的权利。如需获得授权请联系第一财经版权部：banquan@yicai.com 文章作者
吕倩
相关阅读
AI进化速递丨阿里正式推出AI旗舰应用阿里正式推出AI旗舰应用，新夸克发布“AI超级框”；优必选联合发布全尺寸科研教育人形机器人天工行者，售价29.9万元起。
36 昨天 20:54
AI进化速递丨字节跳动AI大将加入生数科技担任CEO百亿量化私募鸣石基金考虑“直接参与AI产业发展”；国金证券自研大模型获得两项国家发明专利授权。
39 03-12 20:49
AI进化速递丨 我国将加强人工智能等新兴领域立法研究①我国将加强人工智能等新兴领域立法研究；②最高法工作报告：惩治利用AI技术侵权行为；③Manus官方X账号解冻。
43 03-08 19:24
AI进化速递丨中国团队发布通用型AI Agent产品ManusOpenAI宣布GPT-4.5正式面向所有ChatGPT Plus用户开放；并拟推月费14.5万元的AI Agent。
56 03-06 20:53
AI进化速递丨今年中国将发布人工智能教育白皮书教育部部长怀进鹏：今年中国将发布人工智能教育白皮书；雷军：把最新的人工智能技术应用到各个终端上；抖音回应接入豆包：相关能力测试中炒股的杠杆怎么算。
51 03-05 20:53 一财最热 点击关闭