用户原创被指AI生成遭禁言，法院判平台违约

11 月 11 日消息，随着网络上AI生成内容越来越多，《人工智能生成合成内容标识办法》要求这类内容必须标注。不标注的话，平台可依法限流、下架、限制账号，相关主体还可能被追究法律责任。

要是平台把用户自己写的内容误判成 AI 生成，用户该怎么处理？北京互联网法院近日公开了一起相关诉讼的审理情况，中央广播电视总台中国之声今日对此作了报道。

被告某科技公司运营的平台要求创作者主动给AI生成内容加标识。平台用户小唐发布了案涉文字内容，本意是分享自己的创作成果，结果被平台判定为“包含AI生成内容但未标识”的违规情况。

北京互联网法院立案庭法官高雅介绍，平台规定创作者的内容如有AI生成部分，需主动添加标识，被告据此把原告发布的内容做了隐藏，并给予禁言一天的处理。原告称内容系自己创作、并非AI生成，提出申诉未获解除，于是起诉到法院。

被告辩称，涉案回答经机器识别和人工复核被认定为AI生成内容，并以涉及技术秘密和算法逻辑为由，主张无须向用户解释认定机制。

法官高雅表示，涉案回答属于即时性创作的文本，诉讼中很难要求原告提供创作底稿、原文件这类创作过程材料；但平台既然认定是AI生成的，就应由被告对算法工具和运算过程作出合理举证或解释说明。

记者从报道中获悉，法院最终认定被告平台构成违约。

法院认为，平台依合同约定有权审查和处理涉案内容是否属于AI生成合成内容，但审查及处理结果要有合理依据。算法工具的运算过程和审查结果都掌握在被告手里，被告应就这一事实合理举证或解释说明。被告未作适度解释说明，应就缺乏事实依据的处理承担违约责任。最终法院判决被告解除对涉案内容的隐藏，并删除后台相应违规处理记录。

此案的典型意义，除了明确平台的解释说明义务，还提出平台要解决误判救济的问题。

高雅称，本案明确，平台用算法识别AI生成内容并采取相应处理措施时，应对自己的判定依据和结果做适度解释说明。平台应以用户能理解的方式说明算法运行机制以及误判的救济措施，不能仅以涉及商业秘密为由拒绝解释，这也提示平台积极履行解释说明义务，保障用户合法权益。

法院建议平台针对违规行为建立阶梯式处置机制，坚持过罚相当原则，按违规程度采取警示、限制功能、暂停服务等差异化措施。法院还强调，要加强信息内容管理，建立健全内容审核机制。