随着人工智能（AI）技术的快速发展，生成式AI（AIGC）已经广泛应用于文本、图像、音视频、虚拟场景等领域。然而，AI生成内容的真实性、来源可追溯性及合法使用问题逐渐凸显。2025年9月1日即将施行的《人工智能生成合成内容标识办法》（以下简称《标识办法》）对AI生成内容的标识提出了明确要求，要求内容提供者和传播平台必须实施显式标识和隐式标识，以增强信息可信度，防止虚假信息传播。本文由上海锦天城（重庆）律师事务所高级合伙人李章虎律师及团队，从技术合规性的角度，对《标识办法》的要求、技术实现方式、挑战与解决方案进行深入分析。

《标识办法》规定，人工智能生成合成内容应在用户可以直观感知的位置附加显式标识，包括文字、角标、水印、语音提示等。具体实现方式如下：

1.文本内容：在生成的文本前后添加特定标识（如“[AI生成]”字样）或符号提示，同时在界面上提供可视化标识。

2.图片和视频：在图片上叠加半透明水印或角标，在视频的起始画面、播放界面周边展示显著标识，确保公众在观看时能明确知悉内容为AI生成。

3.音频：在音频片段开头或结尾合成提示语音（如“本音频由AI生成”），或者采用特定频率的音调序列作为识别标志。

4.虚拟场景：在界面明显位置加入提示，确保用户知晓场景由AI合成。

显式标识的优势在于直观清晰，但也可能影响用户体验。因此，如何在不干扰内容使用的情况下实现合理标注，成为企业在技术落地时需要权衡的重点。

隐式标识主要通过技术手段嵌入文件元数据，使其难以被察觉但可追溯来源。当前较成熟的实现方案包括：

1)在JPEG、PNG、MP4、MP3等格式的元数据（如EXIF、XMP、Moov atom）中嵌入标识信息。

2)关键信息包括“AI-Generated=true”“ProviderID=XXX”“ContentID=YYY”等，用于追溯生成来源。

3)该方案易于实现，但也易被篡改或删除（如重新压缩、截图等）。

1)图像：在像素颜色亮度等方面嵌入不可见信息，使其在一般编辑（如调整亮度、裁剪）后仍可提取。

2)音频：在不影响听感的情况下，在特定频段嵌入微弱信号，通过算法检测可恢复出标识信息。

3)视频：通过改变帧率、编码模式等方式嵌入识别码，提高对抗恶意篡改的能力。

数字水印的优点在于可有效防篡改，但技术实现复杂，计算成本较高，因此《标识办法》未对所有内容强制要求使用水印，而是鼓励企业在高风险场景中自愿采用。

即使企业严格遵守标识要求，也难以避免某些内容未被正确标识或遭恶意篡改。对此，内容传播平台被赋予一定的识别和补充标识的责任：

1)文本检测：利用AI模型分析文本风格、语言模式，识别潜在的AI生成内容。

2)图像检测：采用机器学习模型检测图像的生成特征，如频域统计特征、边缘平滑度等。

3)音视频检测：基于音频频谱分析或深度伪造检测算法识别是否存在AI生成痕迹。

1)平台在内容上传、存储和传播环节应保持标识信息完整，例如对文件的标识字段进行哈希签名，确保内容完整性。

2)对内容进行版本管理，防止用户通过二次编辑去除标识。

尽管技术手段不断进步，当前识别AI生成内容的算法仍存在误判、漏判的问题，平台在执行标识补充时需要结合人工审核，以提高准确性。

为确保标识技术的标准化实施，国家已同步发布《网络安全技术 人工智能生成合成内容标识方法》等强制性国家标准，并制定配套指南，包括：

1.文件元数据标识标准：统一标识字段格式，确保跨平台、跨机构识别一致性。

2.数字水印应用指南：为AI内容生成企业提供标准化的水印嵌入、提取技术方案。

3.内容溯源机制：行业联合建立AI生成内容溯源数据库，使公众和监管部门能够查询内容的AI来源信息。

未来，随着人工智能技术和安全技术的演进，标识技术要求可能进一步升级，企业需要保持持续关注，并加强与行业标准组织、监管机构的合作，共同构建可信赖的AI内容生态。

综上所述：

《标识办法》在技术层面对AI生成内容的标识提出了明确要求，显式标识和隐式标识的结合有助于提升内容的可追溯性，增强公众对信息的信任。企业在落实合规时，需要结合具体业务场景，合理选择标识技术方案，并不断优化标识管理机制。尽管技术实现仍存在一定挑战，但国家标准和行业协作将为企业提供明确的合规路径。未来，随着AI标识技术的不断发展和完善，人工智能生成内容的管理将更加精准，为数字时代的信息治理提供更有力的支撑。

------------------------------------------

附件1：

《人工智能生成合成内容标识办法》

第一条为了促进人工智能健康发展，规范人工智能生成合成内容标识，保护公民、法人和其他组织合法权益，维护社会公共利益，根据《中华人民共和国网络安全法》、《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》等法律、行政法规和部门规章，制定本办法。

第二条符合《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》规定情形的网络信息服务提供者（以下简称“服务提供者”）开展人工智能生成合成内容标识活动，适用本办法。

第三条人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。

人工智能生成合成内容标识包括显式标识和隐式标识。

显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识。

隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。

第四条服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条第一款情形的，应当按照下列要求对生成合成内容添加显式标识：

（一）在文本的起始、末尾或者中间适当位置添加文字提示或者通用符号提示等标识，或者在交互场景界面、文字周边添加显著的提示标识；

（二）在音频的起始、末尾或者中间适当位置添加语音提示或者音频节奏提示等标识，或者在交互场景界面中添加显著的提示标识；

（三）在图片的适当位置添加显著的提示标识；

（四）在视频起始画面和视频播放周边的适当位置添加显著的提示标识，可以在视频末尾和中间适当位置添加显著的提示标识；

（五）呈现虚拟场景时，在起始画面的适当位置添加显著的提示标识，可以在虚拟场景持续服务过程中的适当位置添加显著的提示标识；

（六）其他生成合成服务场景根据自身应用特点添加显著的提示标识。

服务提供者提供生成合成内容下载、复制、导出等功能时，应当确保文件中含有满足要求的显式标识。

第五条服务提供者应当按照《互联网信息服务深度合成管理规定》第十六条的规定，在生成合成内容的文件元数据中添加隐式标识，隐式标识包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息。

鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识。

文件元数据是指按照特定编码格式嵌入到文件头部的描述性信息，用于记录文件来源、属性、用途等信息内容。

第六条提供网络信息内容传播服务的服务提供者应当采取下列措施，规范生成合成内容传播活动：

（一）核验文件元数据中是否含有隐式标识，文件元数据明确标明为生成合成内容的，采取适当方式在发布内容周边添加显著的提示标识，明确提醒公众该内容属于生成合成内容；

（二）文件元数据中未核验到隐式标识，但用户声明为生成合成内容的，采取适当方式在发布内容周边添加显著的提示标识，提醒公众该内容可能为生成合成内容；

（三）文件元数据中未核验到隐式标识，用户也未声明为生成合成内容，但提供网络信息内容传播服务的服务提供者检测到显式标识或者其他生成合成痕迹的，识别为疑似生成合成内容，采取适当方式在发布内容周边添加显著的提示标识，提醒公众该内容疑似生成合成内容；

（四）提供必要的标识功能，并提醒用户主动声明发布内容中是否包含生成合成内容。

有前款第一项至第三项情形的，应当在文件元数据中添加生成合成内容属性信息、传播平台名称或者编码、内容编号等传播要素信息。

第七条互联网应用程序分发平台在应用程序上架或者上线审核时，应当要求互联网应用程序服务提供者说明是否提供人工智能生成合成服务。互联网应用程序服务提供者提供人工智能生成合成服务的，互联网应用程序分发平台应当核验其生成合成内容标识相关材料。

第八条服务提供者应当在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容，并提示用户仔细阅读并理解相关的标识管理要求。

第九条用户申请服务提供者提供没有添加显式标识的生成合成内容的，服务提供者可以在通过用户协议明确用户的标识义务和使用责任后，提供不含显式标识的生成合成内容，并依法留存提供对象信息等相关日志不少于六个月。

第十条用户使用网络信息内容传播服务发布生成合成内容的，应当主动声明并使用服务提供者提供的标识功能进行标识。

任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识，不得为他人实施上述恶意行为提供工具或者服务，不得通过不正当标识手段损害他人合法权益。

第十一条服务提供者开展标识活动的，还应当符合相关法律、行政法规、部门规章和强制性国家标准的要求。

第十二条服务提供者在履行算法备案、安全评估等手续时，应当按照本办法提供生成合成内容标识相关材料，并加强标识信息共享，为防范打击相关违法犯罪活动提供支持和帮助。

第十三条违反本办法规定的，由网信、电信、公安和广播电视等有关主管部门依据职责，按照有关法律、行政法规、部门规章的规定予以处理。

第十四条本办法自2025年9月1日起施行。

附件2：

《人工智能生成合成内容标识办法》答记者问

近日，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》（以下简称《标识办法》），自2025年9月1日起施行。日前，国家互联网信息办公室有关负责人就《标识办法》有关问题回答了记者提问。

一、问：请介绍一下《标识办法》的出台背景？

答：近年来，人工智能技术快速发展，为生成合成文字、图片、音频、视频等信息提供了便利工具，海量信息得以快速生成合成并在网络平台传播，在促进经济社会发展的同时，也产生了生成合成技术滥用、虚假信息传播扩散加剧等问题，引发社会各界的关注关切。经深入开展调研、广泛征求意见、多轮技术论证试点，国家互联网信息办公室联合工业和信息化部、公安部、国家广播电视总局制定了《标识办法》，进一步规范人工智能生成合成内容标识活动。

《标识办法》聚焦人工智能“生成合成内容标识”关键点，通过标识提醒用户辨别虚假信息，明确相关服务主体的标识责任义务，规范内容制作、传播各环节标识行为，以合理成本提高安全性，促进人工智能在文本对话、内容制作、辅助设计等各应用场景加快落地，同时减轻人工智能生成合成技术滥用危害，防范利用人工智能技术制作传播虚假信息等风险行为，推动人工智能健康有序发展。

二、问：请问制定《标识办法》的总体思路是什么？

答：一是细化已有规定。《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》中提出了标识有关要求，《标识办法》作为规范性文件，进一步细化标识的具体实施规范。二是解决关键问题。《标识办法》重点解决“哪些是生成的”“谁生成的”“从哪里生成的”等问题，推动由生成到传播各环节的全流程安全管理，力争打造可信赖的人工智能技术。三是统筹发展和安全。考虑人工智能技术发展需要，针对在文本内容中添加隐式标识，在多媒体文件中添加数字水印，仍是技术难点或可能增加企业成本，不作强制要求。为降低平台企业标识成本，提升落地实施的可操作、可执行性，创新提出文本符号标识、音频节奏标识、文件元数据标识等低成本实施的可行方法。四是管理要求与技术标准一体化考虑。为推动《标识办法》落地实施，强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》同步发布，更好地指导相关主体规范开展标识活动。

三、问：《标识办法》适用范围是什么？

答：《标识办法》规定，符合《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》规定情形的网络信息服务提供者开展人工智能生成合成内容标识活动，适用本办法。

同时，《互联网信息服务深度合成管理规定》第二条明确“法律、行政法规另有规定的，依照其规定”，《生成式人工智能服务管理暂行办法》第二条第二款明确“国家对利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动另有规定的，从其规定”。《标识办法》同样遵照上述适用条款，开展特定活动对内容标识另有规定的，从其规定。

四、问：请说明一下《标识办法》与强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》的关系？

答：《标识办法》主要从立法层面提出管理要求，明确生成合成内容制作传播各主体的责任义务，为促进人工智能技术创新发展，对具体实施操作不做要求。《网络安全技术 人工智能生成合成内容标识方法》以强制性国家标准形式制定实施，主要提出强制执行部分的标识具体实施方式和操作方法，两者同步推出，于2025年9月1日同步实施，以更好地指导相关主体规范开展标识活动。

五、问：强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》的主要内容？

答：标准支撑《标识办法》，对人工智能生成合成内容服务提供者与网络信息传播服务提供者提出了内容标识方法的具体要求。一是明确人工智能生成合成内容服务提供者对文本、图片、音频、视频、虚拟场景等内容，添加文字、角标、语音、节奏等显式标识的方法，在内容生成合成环节提出了显著提示公众、防范混淆误认的方案。二是明确服务提供者在文件中添加元数据隐式标识的方法，为内容传播服务提供者有效识别生成合成内容提供便捷方案，也为内容传播服务提供者履行向公众提醒提示主体责任提供了依据。三是在元数据隐式标识设置了预留字段，可用于记录标识完整性、内容一致性等安全防护信息，为促进标识技术创新发展和保护标识安全性预留了空间。

六、问：《标识办法》明确了服务提供者哪些具体要求？

答：《标识办法》明确服务提供者应当对文本、音频、图片、视频、虚拟场景等生成合成内容添加显式标识，在提供生成合成内容下载、复制、导出等功能时，应当确保文件中含有满足要求的显式标识；应当在生成合成内容的文件元数据中添加隐式标识，隐式标识包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息；应当在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容，并提示用户仔细阅读并理解相关的标识管理要求。

七、问：《标识办法》明确互联网应用程序分发平台应当采取哪些措施规范人工智能生成合成服务？

答：《标识办法》第七条明确，互联网应用程序分发平台在应用程序上架或者上线审核时，应当要求互联网应用程序服务提供者说明是否提供人工智能生成合成服务，并核验其生成合成内容标识相关材料。

八、问：如何合规获得没有添加显式标识的生成合成内容？

答：前期，国家互联网信息办公室出台的《互联网信息服务深度合成管理规定》第十七条针对“可能导致公众混淆或者误认的”深度合成服务情形提出显著标识要求。在此基础上，《标识办法》第四条进一步明确了针对文本、音频、图片、视频、虚拟拟真等具体场景的显式标识要求，确保生成合成内容在面向公众时具有满足要求的显式标识。

此外，充分考虑生成合成内容在实际场景中的落地应用，积极回应社会关切和产业需要，《标识办法》第九条提出，在用户主动要求提供未添加显式标识内容时，网站平台在不违反相关法律法规要求前提下，可通过在用户协议中明确责任义务并依法留存相关日志信息后，面向用户予以提供。同时，用户在后续使用过程中，需遵守《标识办法》第十条等相关要求，主动声明生成合成情况并添加显式标识后，方可面向公众发布和传播。

九、问：《标识办法》对规范开展标识行为明确了哪些具体要求？

答：《标识办法》第十条明确任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识，不得为他人实施上述恶意行为提供工具或者服务，不得通过不正当标识手段损害他人合法权益。

十、问：关于《标识办法》和配套强制性国家标准的正式施行时间的考虑？

答：坚持循序渐进的治理原则，考虑到企业需要时间充分理解相关规定和标准规范，针对性地开展能力建设和功能研发，基于标识技术实施的复杂程度、试点试行的实践经验，设定《标识办法》和配套强制性国家标准6个月左右的施行过渡期。