欧盟AI透明度义务落地：标识规则的技术难题与监管野心
21世纪经济报道记者肖潇 熟悉艺术史的人或许见过马奈的名画《奥林匹亚》：一个额顶簪花的裸身女人躺在床上，直视观众，目光里带着某种挑衅。 不过，意大利学者里尔卡多·法尔奇内利发现了一个有趣的事实。“奥林匹亚”是19世纪80年代巴黎性工作者的常见称呼，但画中人物并非真实“奥林匹亚”，她的真实身份是一位职业模特，...
21世纪经济报道记者肖潇
熟悉艺术史的人大概都见过马奈那幅《奥林匹亚》：一个裸身女子躺在床上，额顶簪花，目光直直望向观众，带着几分挑衅。
意大利学者里尔卡多·法尔奇内利却从中发现了一个有意思的事实。“奥林匹亚”是19世纪80年代巴黎性工作者常用的称呼，可画里这个人并不是真实的“奥林匹亚”，她其实是位职业模特，常为当时的画家扮演各种角色。
摄影和数字合成技术还没出现的时候，图像就已经不是对现实的简单复刻了。创作者靠模特、想象力和创作力造出一个虚拟形象，观众则依各自时代的习俗与约定去理解它。法尔奇内利因此提出一个问题：一千年后的人回看今天流行的图像，还分得清哪些是真实记录、哪些经过伪装和虚构吗？
这个问题其实不用等一千年。生成式AI已经把信息辨认的规则彻底改了。文字、图片、视频，AI都能随意生成和编辑，内容本身越来越靠不住，人们需要额外信息来判断它是怎么产生的。
给AI生成内容留下标识，正是全球监管者试图回应这一问题的方式。它有点像画作的作者铭牌和隐形笔触，能让公众查明作者到底是谁。
2025年9月，国内《人工智能生成合成内容标识办法》开始施行；今年1月，加州《人工智能透明度法案》生效；到了8月，欧盟《AI法案》第50条的透明度要求也进入实施阶段。近两年中美欧先后出台的这些规则，指向的都是同一件事——给AI生成的内容加上标识。
欧盟的要求尤其值得关注。它不光要求AI产品的上下游确保有标识，还要保证有效性、互操作性、稳健性和可靠性。为此欧盟配了两份文件，用100多页的篇幅规定技术要求。
同济大学法学院助理教授、上海市人工智能社会治理协同创新中心研究员朱悦说，回顾从2017年启动起草的欧盟《AI法案》历程，近十年来，透明度义务这个条款没有太多根本性争议，复杂的是各种例外和边界场景。但制定完成后，更多问题可能在实施阶段逐渐暴露出来：部分法条概念仍然模糊，文字水印难落实，互操作性更是“一个深不见底的问题”。
朱悦表示，国内监管讲究“小快灵”，欧盟《AI法案》第50条则不是这个路数。它看着只是一条法规，背后却装着相当成体系的监管野心，麻烦自然也更多。
在朱悦看来，全球的治理共识其实正慢慢靠拢：一头是盯住大型平台，别让最不能接受的AI内容大范围扩散；另一头是监管要求要跟着情况调。如今从代码到学术论文，越来越多类型的内容都离不开AI参与。这意味着AI标识治理没法只靠定期评估、调调监管力度，恐怕每隔两三年就得把要求本身重新拿出来审一遍。
《21世纪经济报道》：先有个定义上的困惑。国内叫“AI内容标识”或者“AI水印”的那套要求，欧盟对应的词是“透明度义务”（transparency），可AI透明度其实范围更宽，模型卡制定、训练数据披露这些都算在里面。要讨论这类AI标识问题，有没有一个比较合适的统一叫法？
朱悦：国内讲的“AI标识”，说白了，显性标识对应的就是透明度——我们能不能一眼看出内容是不是AI生成的；隐性标识对应的则是内容来源能不能追溯。欧盟之所以统称“透明度义务”，得放进他们那套风险分级的监管框架里看：在欧盟的AI风险分级体系里，最上面一类是不可接受风险，往下是高风险，再往下是有限风险。
换句话说，对某些应用来说，只要用户知道自己正在跟AI打交道、或者内容出自AI，风险就能压下去一些，“透明度”正是对付这类风险的手段。把概念选取放回整个监管框架里去理解，会顺很多。
《21世纪经济报道》：中欧都在抓AI内容标识这个课题，它对AI治理的重要性该怎么理解？欧盟又想靠透明度义务解决哪些核心问题？
朱悦：透明度很重要，这是我们主观上的感受，但眼下还需要更多实证研究，把AI透明度到底能起多大积极作用说清楚。换个角度看，其他治理措施还没形成共识，那让AI多披露一些信息，可能就是最容易想到、最能凝聚共识、甚至是唯一比较容易落地的办法。
再回到欧盟，透明度首先是用来保障用户知情权的。知情权之外还有一点挺关键：用户要是不知道某个系统是AI系统，不知道《AI法案》管得着它，就可能压根意识不到自己有哪些权利、能走哪些救济途径。从这个意义上说，透明度相当重要。
除了知情权，另一个问题则是虚假信息生态。知道一些内容是否由AI生成确实会影响人的判断，这和对深度伪造的要求是一脉相承的。
《21世纪经济报道》：《AI法案》还在提案阶段时，您就向我们提过，欧盟对深度伪造标识的态度比较审慎。回头看整个立法过程，欧盟对哪些内容标识的态度发生过变化？有没有内部争议比较大的要求？
朱悦：需要分三个层面来看：
第一个层面是透明度义务本身。哪怕到了谈判的最后阶段，它虽然算23个核心争点之一，可争的并不是透明度义务本身，而是“谁来监管”这个老问题，外加一些文字表述上的细节。
这一点到现在也没变。一个佐证是，今年5月的欧盟数字法简化法案给第50条添了一项条款，回应了“谁来管”的问题，其他实质条款并没有动。
第二个层面，规则的生效时间和适用范围变过。现在的规定是：2026年8月2日之前已经投放市场的AI产品，有合规过渡期；涉及戏仿、讽刺、艺术表达的AI内容，则设了相应豁免。
这些内容在第50条的不同款项里都有回应，也都经历过反复讨论，原因就在于它们本身很难界定。戏仿也好，人工编辑责任也罢，都不是《AI法案》新造的概念，知识产权等领域的法律一直就难以把这条边界画准。别的领域长期没能完美解决的难题，到了AI领域不会自动变简单，争议预期还会反复出现。
第三个层面得实话实说：现实条件摆在那儿，《AI法案》有些地方的措辞确实留了讨论余地。拿第50条第一款来说，它要求“直接交互的AI系统，必须在交互页面告知用户正在与AI互动”，这条一落地就会冒出一堆问号——哪些页面算“直接交互”，哪些又不算？
第50条的另一份配套文件《指导方针》也是磨了大半年才拿出来。
《21世纪经济报道》问：当年肯定没人想得到，如今代码几乎全是AI写的。照这么看，各类例外场景怕是得一直往里加。
朱悦答：对，这个问题我两年前就聊过。现在能不能找出一段完全没有AI参与的代码、一篇计算机领域的论文？我持怀疑态度。所以这套方针大概还是过渡性的，再过一阵子，某些领域可能就找不出不需要标注的内容了。
《21世纪经济报道》问：具体说，欧盟的AI透明度要求对应三份新文件——《AI法案》第50条、《针对特定AI系统履行透明度义务的指导方针》、《AI生成内容透明度行为准则》，合起来近百页。指导方针这类东西并不稀奇，那为什么还要再弄一份行为准则（code of practice）？这种打法以后会越来越普遍吗？
朱悦：
《指导方针》本身不算法律，可实操中的权威性不低，既能当作有分量的解释，也是合规上的权威依据。《行为准则》则是帮企业合规的工具，用来协助企业说明自己的合规措施是否有效（validity）。
之所以走这条路，主要是因为基础大模型属于前沿技术，怎么防住它们可能带来的系统性风险，监管上还不成熟。这时候给出相对灵活的合规工具，监管和企业两头都更容易买账。欧盟各方都在推这件事，我认为它成功的可能性比较大。
这套机制还有一层意义：《AI法案》说到底是一部产品安全法，管AI用的是管产品的思路。第50条往后有希望把指导方针、行为准则和监管经验捏到一起，进一步形成协调标准。
《21世纪经济报道》问：外界普遍觉得欧盟对AI标识的互操作性、稳健性要求定得很高，您刚才也提到不少要求落地有难度。哪些要求执行起来比较难？
朱悦答：第一个典型难题还是法条怎么写。说实话，“直接交互”这种词，一看就知道执行起来争议少不了。企业可以想些合规办法，比如在原有产品外面包一层界面，或者加上有限的客服介入之类的选项，在“直接交互”的限定条件上腾出一点空间。要把这些概念的具体构造讲清楚，我看还得等一段时间。
第二个我会格外留意“普通人”（average/ordinary people）这个概念。文件里不止一处提到，AI标识得做到普通人能辨认、能理解的程度。
这其实是欧盟法乃至更广法域里一个很老的概念了，特殊群体怎么照顾尤其关键。这分别牵涉最近发布的欧盟《儿童法案》提案，以及去年基本完成转化、全面施行的欧盟《无障碍法》。哪怕产品面向一般人群，也得考虑其中可能存在的儿童、残障用户用起来方不方便。
麻烦在于，现在多数产品的交互都挤在一块屏幕上，能给的交互空间相当有限，页面空间又寸土寸金。App越大，动一个交互元素越是牵一发而动全身，这几头怎么兼顾，我觉得会是今后实施中相当棘手的一件事。
第三个问题是文本水印。声音、图像、视频这些内容的隐性水印好做，因为它们不是“所见即所得”，可以往里塞人察觉不到的信息，文字却没这个空间。
《21世纪经济报道》问：文本水印的技术方案已经不少了，比如Claude在8月发布的AI水印措施。您觉得这些方案现在仍然难以满足欧盟的要求吗？
朱悦答：把词元（Token）编号，再分组。没有水印算法时，词元落在各组之间的分布更接近随机；加了水印之后，生成的词元落到特定分组的概率更高，靠这一点就能检验一段文字里有没有AI水印。
但说到欧盟要求的稳健性和互操作性，我个人希望看到更扎实的证据。最简单的例子：拿一段带水印的文字，把Claude生成的内容交给OpenAI改写，再把OpenAI生成的内容交给Claude改写。这么折腾一遍之后，能不能证明原先嵌进去的水印还有效？
这里先碰到一个数学问题：怎么找到合适的数学语言，把水印的稳健性讲明白。眼下尝试不少，但是否存在一种大家都认的表述，还不确定。就算这一点站得住，问题也远不止让别的大模型改写文本这一种，现实中还可能有更多处理手段，比如有意改写水印的对抗性操作。文字水印扛不扛得住这些操作，同样需要验证。
跟这相关的另一个问题是互操作性，我觉得文字水印的互操作性是个深不见底的坑。不同厂商的大模型用的Tokenizer不一样，也就是把文本切成Token的方式各不相同。如果连Tokenizer这一层都没对齐，那在此基础上谈互操作性？我也不太确定。工程上也许有办法，但我还是持审慎态度，期待业界能拿出创新的方案。
所以在我看来，目前的进展只能算开了个好头，比起文字水印，其他媒介的水印技术成熟得多。
《21世纪经济报道》问：那严格要求AI文本水印真的有必要吗？Claude推出文本水印方案时，外界争论的核心也在这里：水印可能拖累大模型的输出质量；而且就算有了AI水印，用户也无从知道AI具体怎么参与、参与方式能不能接受。这么一来，标识反倒可能让信息更乱。您怎么看这些反对声？
朱悦答：现在主要的批评观点之一就是你描述的那样，不该强制要求文本水印。一旦采用水印算法处理，模型就不再单纯输出概率最高的Token，而是要在生成过程中引入一定偏向，这本身就是人为造成的偏斜。这种做法还可能拖累推理效率，生成时多出计算量，单次影响也许不大，可大模型服务现在的调用量摆在那儿，累计起来是相当高的成本，甚至可能波及内容质量。
还有一点你也提到了：水印到底改了什么、影响多大，现在其实说不清。症结在于证据不够，技术方案即便宣称能做到这些，也只停留在主张层面，算不上经过充分验证的结论。为这样的效果付出那么大代价，确实需要掂量。结论跟前面一样，争议主要集中在文本水印上，其他形式内容的水印成熟得多。
我甚至觉得有个更根本的问题：照现在这个势头，将来就算要标识，反过来去标记并认证“完全没用AI”的内容，是不是更有意义？
《21世纪经济报道》：那您怎么整体评价欧盟现在这套透明度监管框架？它实际能起多大作用？
朱悦：
问题是，目前还缺少有说服力的实证研究去衡量内容标识带来的正面效果，这一点很需要补上。有效果，大家基本都认，但规则定多严、怎么执行，得靠更细的实证和权衡。
《21世纪经济报道》：国内《人工智能生成合成内容标识办法》去年9月生效，实践上比欧盟早一年。刚才聊的那些难点，国内实践中碰到了吗？中欧在监管思路和具体要求上有哪些不一样？
朱悦：我的看法是这样。国内这套制度概念比较清楚，责任主体分了AI服务提供者、网络信息内容传播平台、应用程序分发平台、用户。再加上模型备案这些制度，监管经验已经攒了不少，行业大体上知道自己是什么角色、该履行什么义务。强制性国家标准也出得快，照着执行基本就行。
总体来说，
欧盟那边不同。第50条看着只是一条法规，可它要管的是整个AI风险框架里的第三层风险，监管野心铺得很开，难题自然更多。
《21世纪经济报道》：可以理解成，中欧两套治理要求承担的监管性质不一样，所以法律语言和配套设计都不同。
朱悦：对。欧盟表面上只有一条法条（第50条），本身才半页长，配套文件却接近百页。它对应的是整个风险分类体系中的一类监管要求，要扛的任务广得多。
《21世纪经济报道》：那整体看，AI内容标识想更好落地，有哪些共同的关键措施？
朱悦：两个关键点。第一，重点盯大型平台。欧盟用《数字服务法》约束大型平台，国内也比较关注在线内容服务提供平台。
单纯生成内容，很多时候未必直接造成危害，除非内容特别恶性。真正要盯的是传播环节，尽量别让最不可接受的内容大范围扩散，这是中欧在这个治理问题上的共同方向。
第二，标识制度要动态调整。往后AI生成的内容类型会越来越多，就算不是全部由AI生成，也可能有相当大一部分是AI共创的。所以治理不能只停在定期评估、调整监管力度上，甚至可能每隔两三年就得重新审视要求本身，比如要不要转向标识非AI生成的内容。
别的治理要求未必需要这样动态调整，AI内容标识确实得考虑这一点。所以我也很赞成国内用规范性文件和技术标准来推进治理。
《21世纪经济报道》：国内在AI内容标识上实操经验更多，欧盟更强调一套完整的立法框架。您觉得中欧治理能互相给哪些启发？
朱悦：今年国务院的年度立法工作计划提到，要加快推进人工智能健康发展综合性立法。将来国内如果真要立一部综合性AI法律，把AI标识这个小切口放进去，甚至扩展成一套更全面的制度，我觉得可以结合国内外的实践经验，最好做一些实证研究。
除此之外，最有启发的地方是双方可以找规则互通的领域。很多AI治理条款未必做得到，有些禁止类AI应用的规定带着很强的欧洲价值观，通用大模型又是各方竞争重点，而AI内容标识看起来最有可能互联互通。要推动双方标准互认，甚至带动中欧之外的国家形成共识，AI内容标识是很现实、也有实际价值的方向。
