全球AI“水印”加速：中国的实践，欧盟的争议

21世纪经济报道记者肖潇

熟悉艺术史的人或许见过马奈的名画《奥林匹亚》：一个额顶簪花的裸身女人躺在床上，直视观众，目光里带着某种挑衅。

不过，意大利学者里尔卡多·法尔奇内利发现了一个有趣的事实。“奥林匹亚”是19世纪80年代巴黎性工作者的常见称呼，但画中人物并非真实“奥林匹亚”，她的真实身份是一位职业模特，经常为当时的画家扮演不同角色。

在摄影和数字合成技术出现之前，图像就已经不只是现实的简单复刻。创作者可以借助模特、想象力和创作力塑造一个虚拟形象，而观众也依靠各自时代的习俗与约定理解它。法尔奇内利由此提出一个问题：如果一千年后的人们回看今天流行的图像，还能分辨哪些是真实记录，哪些经过了伪装和虚构吗？

这个问题不需要留给一千年后的人思考，因为生成式AI已经彻底改变了信息辨认规则。文字、图片、视频都可以由AI随意生成和编辑，内容本身越来越难以成为判断的可靠依据，人们需要额外信息，了解它是如何产生的。

给AI生成内容留下标识，正是全球监管者试图回应这一问题的方式。它类似画作的作者铭牌和隐形笔触，能让公众查明作者到底是谁。

近两年，中美欧陆续推出相关规则，目标都是给AI内容加上标识：2025年9月，国内《人工智能生成合成内容标识办法》施行；今年1月，加州《人工智能透明度法案》生效；8月，欧盟《AI法案》第50条透明度要求开始实施。

(10月7日，谷歌工具SynthID正式对公众开放，普通人可以查验内容是否由AI生成）

其中，欧盟的要求尤其值得关注。它不仅要求AI产品的上下游确保有标识，还需要确保有效性、互操作性、稳健性和可靠性。为此欧盟配套了两份文件，用100多页的篇幅规定技术要求。

回顾从2017年启动起草的欧盟《AI法案》历程，同济大学法学院助理教授、上海市人工智能社会治理协同创新中心研究员朱悦说，近十年来，欧盟透明度义务这个条款没有太多根本性争议，复杂的是各种例外和边界场景。但制定完成后，更多问题可能在实施阶段逐渐暴露出来：部分法条概念仍然模糊，文字水印难落实，互操作性更是“一个深不见底的问题”。

“和国内‘小快灵’的监管方式不一样，欧盟《AI法案》第50条看起来只是一条法规，实际上承载着非常体系性的监管野心，所以难题也更多。”朱悦说。

不过，朱悦认为，全球也在渐渐汇聚治理共识：一是重点关注大型平台，避免最不可接受的AI内容大范围传播；二是动态调整监管要求。从代码到学术论文，越来越多类型的内容已经离不开AI参与。这意味着AI标识治理不能仅仅停留在定期评估、调整监管力度上，甚至可能每隔两三年，就需要重新审视要求本身。

理解“透明度”抓手

《21世纪经济报道》：首先有一个定义困惑：国内称为“AI内容标识”或“AI水印”的一套要求，欧盟对应的词语是“透明度义务”（transparency），但其实AI透明度范围更广，还包括模型卡制定、训练数据披露等等。如果想讨论这类AI标识问题，有没有比较合适的统一名称？

朱悦：国内所说的“AI标识”，简单来说，显性标识对应的就是透明度，我们能不能很容易地辨识内容是否由AI生成，隐性标识则对应内容来源的可追溯性。而欧盟之所以统称“透明度义务”，需要放在他们风险分级的监管框架下理解：在欧盟的AI风险分级体系中，最高一类是不可接受风险，其次是高风险，再次是有限风险。透明度义务针对的就是“有限风险”一级的AI应用。

也就是说，对于一些应用，用户知道自己正在与 AI 交互或者内容由 AI 生成，就能在一定程度上降低风险，“透明度”是应对这类风险的手段。在整个监管框架里理解概念选取的考虑会比较顺。

《21世纪经济报道》：中欧都在抓AI内容标识这个课题，怎么理解它对AI治理的重要性？欧盟是想通过透明度义务解决哪些核心问题？

朱悦：虽然我们主观上觉得透明度很重要，但目前还需要有进一步的实证研究，能充分说明 AI 透明度的积极作用究竟有多大。从另一个角度说，其他治理措施还没有形成共识，那么让 AI 多披露一些信息可能就是最容易想到、最能凝聚共识、甚至是唯一比较容易落地的抓手。

回到欧盟来看，透明度首先是为了保障用户的知情权。在知情权的基础上，还有一点比较重要：如果用户不知道某个系统是 AI 系统，不知道《AI法案》适用于它，就可能意识不到自己享有哪些权利和救济途径。从这一意义来说，透明度是相当重要的。

除了知情权，另一个问题则是虚假信息生态。知道一些内容是否由AI生成确实会影响人的判断，这和对深度伪造的要求是一脉相承的。

《21世纪经济报道》：《AI法案》还在提案阶段时，您就向我们提到，欧盟对深度伪造标识的态度比较审慎。回顾整个立法过程，欧盟对哪些内容标识的态度有过哪些变化？有没有内部争议比较大的要求？

朱悦：需要分三个层面来看：

第一个层面是透明度义务本身。从2017年开始起草到2026年最终通过，《AI法案》第50条在这十年里并没有产生太大争议。哪怕到了最后的谈判阶段，虽然它属于23个核心争点之一，但争议焦点也并非透明度义务本身，而是“谁来监管”这个老生常谈的问题和一些文字表述的细节争论。

这一点直到现在也没有变化。一个佐证是，今年5月的欧盟数字法简化法案为第50条增加了一项条款，回应了“谁来管”的问题，但没有修改其他实质的条款。

第二个层面，确实有各种例外和边界场景引发的争议。比如，规则的生效时间及其适用范围有过变化，现在的规定是2026年8月2日之前已经投放市场的AI产品，会有合规过渡期；涉及戏仿、讽刺、艺术表达的AI内容，设置了相应的豁免。

这些内容在第50条不同款项中都有回应，也经历过反复讨论，因为它们本身就很难被界定。无论是戏仿还是人工编辑责任，都不是《AI法案》新创的概念，而是知识产权等领域的法律一直难以精确划定边界的问题。在其他领域长期以来不能完美解决的难题，放到AI领域不会自动变得更简单，预期争议会反复出现。

第三个层面，法律落地后会出现大量实施的问题。客观来说，受各种现实条件限制，《AI法案》在一些地方的表述还是有一定探讨的空间。例如第50条第一款规定的“直接交互的AI系统，必须在交互页面告知用户正在与AI互动”，这就可能引发很多问题：什么页面属于“直接交互”，什么情况又不属于？

再比如，第50条的配套文件《指导方针》制定了大半年才出炉，最大的卡点之一就是AI生成的代码要不要披露——现在可能已经找不到完全“古法”手搓的代码了，所以最后欧盟也给AI生成的代码留了一道口子。这类问题还是非常多的，最终也只能通过执法实践的不断完善来逐步解决。

《21世纪经济报道》：当时肯定想不到现在的代码几乎全都是AI写的，听起来，各种例外场景会需要一直增加。

朱悦：对，这个问题我两年前也谈过。现在能不能找到一段完全没有AI参与的代码、一篇计算机领域论文？我都保持怀疑。所以（这套方针）可能还是过渡性的要求，再过一段时间，部分领域可能就没有不需要标注的内容了。

欧盟的高标准

《21世纪经济报道》：具体来看，欧盟的AI透明度要求有三个新文件：《AI法案》第50条、《针对特定AI系统履行透明度义务的指导方针》、《AI生成内容透明度行为准则》，加起来快上百页。指导方针很常见，为什么还要设计一份行为准则（code of practice)？这种方式未来会越来越常见吗？

朱悦：从法律效力上来说，唯一具有法律约束力的是《AI法案》第50条。如果其他两个文件与法条存在冲突或者不一致，应当以法条为准。 

《指导方针》虽然不是法律的一部分，但在实操中权威性也很高，可以作为有权威性的解释，也是很权威的合规依据。而《行为准则》是一种帮助企业合规的工具，可以协助企业阐明自身合规措施的有效性（validity）。

之所以采用这种方式，主要因为基础大模型属于前沿技术，如何防控它们可能带来的系统性风险，监管还不够成熟。这种情况下提供相对灵活的合规工具，更容易获得监管和企业的双方认可。欧盟各方都在推动这项工作，我认为它取得成功的可能性还是比较大的。 

这套机制还有一个很重要的意义：《AI法案》本质上是一部产品安全法，通过监管产品的思路来监管AI。而第50条未来比较有希望结合指导方针、行为准则以及监管经验，进一步形成协调标准。如果通过相应程序制定协调标准，符合标准即可推定法律的合规。一旦形成协调标准，企业的合规确定性就会高很多。 

《21世纪经济报道》：大家普遍认为欧盟对AI标识的互操作性、稳健性要求很高，刚刚也提到许多要求会有落地难题。您觉得哪些要求比较难执行？

朱悦：第一个典型难题还是法条表述。说实话，像“直接交互”这类词，一看就知道在执行中会引发很多争议。企业可以采取一些合规策略，比如在原有产品上包一层界面，或者增加有限的客服介入等选项，以此在“直接交互”的条件限定上制造一些空间。我觉得还需要一段时间，把这些概念的具体构造说清楚。

第二个我会特别关注“普通人”（average/ordinary people）这一概念。文件不止一处提到，AI标识应该达到一个普通人能辨识、理解的程度。

这也是欧盟法甚至更加广泛的法域里一个很传统的概念了，尤其重要的问题是如何考虑特殊群体。这分别涉及最近发布的欧盟《儿童法案》提案，以及去年基本完成转化、全面施行的欧盟《无障碍法》。即使产品受众是一般人群，也需要考虑可能存在的儿童、残障人士用户的使用便利。

问题在于，现在大部分产品交互都集中在一块屏幕上，能够提供的交互空间其实相当有限，而页面空间寸土寸金。越大型的 App，每个交互元素的调整越是牵一发而动全身，这几方面如何兼顾，我觉得会是未来实施过程中一个相当棘手的问题。

第三个问题就是文本水印了。声音、图像、视频等内容的隐性水印很容易实现，因为这些媒介并非“所见即所得”，可以在其中嵌入人感知不到的信息，但文字就没有这种空间。

《21世纪经济报道》：文本水印已经有不少技术方案了，比如Claude在8月发布的AI水印措施。您觉得现在这些技术方案仍然难以满足欧盟要求吗？

朱悦：目前市面上文字水印方案的基本思路比较相似：模型把生成的自然语言映射为词元（Token）的编号，再进行分组。如果没有水印算法，词元在各个分组之间的分布更接近随机状态；但加入水印后，生成的词元有更高概率落在特定分组中，通过这一点就能检验一段文字是否有AI水印。

但在欧盟要求的稳健性和互操作性上，个人期待看到更扎实的证据。最简单的例子是，拿一段带有水印的文字，把 Claude 生成的内容交给 OpenAI 改写，再把 OpenAI 生成的内容交给 Claude 改写。经过这样的处理之后，能不能证明原先嵌入的水印依然有效？

这里首先涉及一个数学上的问题：如何找到合适的数学语言，把水印的稳健性表达出来。现在有很多尝试，但尚不确定存在一种大家普遍认可的表述。即使这一点能成立，问题也远不止让其他大模型改写文本这一种情况，现实中还可能存在更多处理方式，比如有意改写水印的对抗性操作。文字水印究竟能不能抵御这些操作，也是一个需要验证的问题。 

与此相关的另一个问题就是互操作性了，我觉得文字水印的互操作性是一个深不见底的问题。不同厂商的大模型使用的 Tokenizer，也就是将文本切分为 Token 的方式都不一样。如果在 Tokenizer 这一层都没有对齐，那么在此基础上如何实现互操作性？我也不太确定。也许存在一些工程上的解决办法，但我对此仍然持审慎态度。期待业界产生创新的方案。

所以我觉得目前的进展只能算是一个好的开始，比起文字水印，其他媒介的水印技术还是要成熟很多。

《21世纪经济报道》：那么严格要求 AI 文本水印真的有必要吗？这也是 Claude 推出文本水印方案时外界的核心争议：水印可能影响大模型的输出质量，即使有了 AI水印，用户也无法知道 AI 具体如何参与、参与方式是否可以接受。这样一来，标识反而可能让信息变得更加混乱了。您怎么看这些反对声？

朱悦：现在主要的批评观点之一就像你描述的，不应该要求有文本水印。如果采用水印算法处理，就不再是单纯地让模型输出概率最高的 Token 了，而是需要在生成过程中引入一定的偏向，这本身就是一种人为引入的偏斜。而且这种做法还可能影响推理效率，在生成过程中增加计算量，单次可能影响不大，但考虑到现在大模型服务的调用量，累计起来会是相当大的成本，甚至可能影响内容的质量。

另外，正如你提到的，水印究竟改变了什么、影响有多大，目前也无法说清楚。主要问题还是缺乏充分的证明，即使技术方案声称能够实现这些效果，也只是一些主张（claims），而不是经过充分验证的结论（solid proof）。为了实现这样的效果而投入这么大的成本，确实值得权衡。当然结论和上面一样，主要是针对文本水印的争议，其他形式内容的水印还是成熟不少。

我觉得一个根本问题可能是，按照目前的发展趋势，即使需要文本标识，未来是不是标记并认证完全没有AI参与的内容反而更有意义？

《21世纪经济报道》：那您会如何整体评价欧盟目前这套透明度监管框架，以及它可能发挥的实际效果？

朱悦：作为一种临时性的治理措施，无论是在中国还是欧洲，AI 内容标识制度都是不可或缺的，但这套制度需要保持动态调整。至于欧盟，《AI法案》本身就有定期的立法后评估机制，可以不断调整监管要求。

不过目前依然缺乏有说服力的实证研究，能够衡量内容标识产生的正面效果，我觉得这是一个非常需要解决的问题。大家都会认可有一定效果，但制定和实施规则的尺度要求更加精细的实证和权衡。

国内的“小快灵”实践

《21世纪经济报道》：国内《人工智能生成合成内容标识办法》去年9月生效，实践经验领先欧盟一年。我们刚才讨论的这些难点，在国内实践中有没有遇到？中欧在监管思路和具体要求上有什么不同？

朱悦：在我看来是这样：国内这套制度的概念相对清晰，比如责任主体有AI服务提供者、网络信息内容传播平台、应用程序分发平台、用户。再加上模型备案等制度，国内已经积累了比较丰富的监管经验，行业大体上能明确各自的角色和需要履行什么义务。而且国内很快就出台了强制性国家标准，基本上相应去执行就可以了。

总体来说，国内监管可以概括为“小快灵”：切口比较小，辐射范围没那么宏大，监管可以集中围绕需要解决的具体问题展开。

欧盟则不一样，第50条看起来只是一条法规，但它要解决的是整个AI风险框架的第三层风险，实际上承担着非常全面的监管野心，所以难题也更多。

《21世纪经济报道》：可以理解为，中欧两套治理要求，各自承担的监管性质不同，因此法律语言、配套设计都不一样。 

朱悦：对，欧盟看起来只有一条法条（第50条），本身只有半页长，配套文件却有近百页。因为它对应的是整个风险分类体系中的一类监管要求，承担的任务要广泛得多。

《21世纪经济报道》：那整体看下来，AI内容标识怎么更好落地，有哪些共同的关键措施吗？ 

朱悦：有两个关键点：第一就是重点关注大型平台。欧盟通过《数字服务法》约束大型平台，国内也比较关注在线内容服务提供平台。

因为单纯的内容生成，很多时候未必会直接造成危害，除非是特别恶性的内容。真正需要关注的还是传播环节，尽量避免最不可接受的内容大范围传播，这是中欧在这一治理问题上的共同方向。

第二，要动态调整标识制度。未来会有越来越多类型的内容由 AI 生成，即使不是全部由 AI 生成，也可能有相当大一部分是 AI共创的。所以治理不能仅仅停留在定期评估、调整监管力度上，甚至可能每隔两三年，就需要重新审视要求本身，比如是否应该转向标识非 AI 生成的内容。

其他一些治理要求未必需要这种动态调整，但AI内容标识确实需要考虑这一点，所以我也很赞成国内通过规范性文件和技术标准来推进治理的做法。

《21世纪经济报道》：国内在AI内容标识上有更多实操经验，欧盟更强调一套完整的立法框架。您觉得中欧治理能给彼此哪些启发吗？

朱悦：今年国务院的年度立法工作计划讲到，要加快推进人工智能健康发展综合性立法。如果未来国内要去制定一部综合性的AI法律，把AI标识这个小切口纳入一部全面的综合性立法，甚至扩展为一套更全面的制度，这方面我觉得可以结合国内外的实践经验，最好能够开展一些实证研究。

除此之外，我觉得最有启发的地方是双方可以寻找规则互通的领域。许多AI治理条款未必容易做到这一点，有些禁止类 AI 应用的规定就带有很强的欧洲价值观，通用大模型又是各方的竞争重点，而AI 内容标识是看起来最有可能互联互通的领域。如果想要推动双方的标准互认，甚至推动中欧之外的国家共识，我觉得AI内容标识是非常现实、具有实际价值的方向。