原创内容被判定“AI 生成未标识”，用户把平台告上法庭

IT之家 11 月 11 日消息，网络平台上由 AI 生成的内容越来越多，依据《人工智能生成合成内容标识办法》的规定，AI 生成的内容需要标注，如果不标注，平台可以依法采取限流、下架、限制账号等处置措施，相关主体还可能承担相应法律责任。

如果用户自己创作的内容被平台认定为 AI 生成内容进行了处理，怎么办？中央广播电视总台中国之声今日报道，北京互联网法院日前披露了一起相关诉讼的审理情况。

被告某科技公司运营的平台要求创作者对 AI 生成内容主动添加标识。平台用户小唐在平台发布了案涉文字内容，本来是想分享自己的创作成果，却被平台认定为“包含 AI 生成内容但未标识”的违规情况。

北京互联网法院立案庭法官高雅：因为平台规定对于创作者的内容如果有 AI 生成的，需要创作者主动添加标识，所以被告就把原告所发布的内容进行了隐藏，做了禁言一天的处理。原告主张内容是他自己创作的，不是 AI 创作的，进行了申诉，但是没有解除成功，所以起诉到了法院。

被告辩称，涉案回答经机器识别及人工复核被认定为 AI 生成内容，并以涉及技术秘密和算法逻辑为由主张无须向用户解释认定机制。

法官高雅：涉案回答属于一种即时性创作的文本，在诉讼过程中很难要求原告去提供创作的底稿、原文件这样的创作过程。但是，平台认为是 AI 生成的，就应该对于算法工具和运算过程由被告进行合理举证或是解释说明。

IT之家从报道获悉，法院最后认定被告平台构成违约。

法院认为，平台有权依据合同约定对涉案内容是否属于 AI 生成合成内容进行审查和处理，但审查及处理结果应具有合理依据。算法工具运算过程和审查结果由被告掌控，被告应就该事实进行合理举证或解释说明。被告未作适度解释说明，应对缺乏事实依据的处理承担违约责任。最终法院判决被告解除对涉案内容的隐藏，删除后台相应违规处理记录。

此案的典型意义，除了明确平台的解释说明义务，还提出平台要解决误判救济的问题。

高雅：本案也明确了，如果平台使用算法去识别 AI 生成的内容，并采取相应的处理措施，应该对自己的判定依据和结果去做适度的解释说明。平台应该用用户可以理解的方式去说明算法的运行机制以及误判的一些救济措施，也不能够仅仅以涉及商业秘密为由去拒绝解释，也提示平台应该积极履行解释说明的义务，保障用户的合法权益。

法院建议平台对违规行为建立阶梯式处置机制，坚持过罚相当原则，根据违规程度采取警示、限制功能、暂停服务等差异化措施。法院还强调，加强信息内容管理，建立健全内容审核机制。