小唐诉平台AI误判案：法院判平台违约并删除违规记录

北京互联网法院近日通报了一起相关诉讼的审理结果：平台用户小唐发布了一段自认原创的文字，平台认定其“包含AI生成内容但未标识”，随即隐藏内容并禁言一天。小唐申诉无果，将平台告上法庭。法院判定平台违约，要求解除对涉案内容的隐藏，并删除后台对应的违规处理记录。这起纠纷的起因，是平台要求创作者主动给AI生成内容加标识。北京互联网法院立案庭法官高雅介绍，被告通过机器识别加人工复核，认定涉案回答为AI生成内容，同时以涉及技术秘密和算法逻辑为由，主张不必向用户解释认定机制。法院的看法是，涉案回答属于即时性创作文本，诉讼中难以要求原告拿出创作底稿、原文件等创作过程材料；算法工具的运算过程和审查结果都掌握在被告手里，认定依据该由平台合理举证或作出解释。被告没有给出适度说明，就得为缺乏事实依据的处理承担违约责任。

案子把平台的解释说明义务和误判救济问题摆到了明面上。法院指出，平台用算法识别AI生成内容并据此处理，得用用户能听懂的方式讲清算法怎么运行、误判了怎么救济，不能一句商业秘密就挡回去。法院还建议平台建立阶梯式处置机制，按过罚相当的原则，视违规程度分别采取警示、限制功能、暂停服务等措施，并把内容审核机制健全起来。

《人工智能生成合成内容标识办法》正在落地推进，平台也普遍收紧了AI内容标识审查，此案为算法判定和用户权益之间怎么平衡提供了司法参照。说到底，平台履行标识管理责任的同时，判定依据的说明和误判纠错通道也得同步完善。