用户原创被平台判AI生成，北京互联网法院判平台违约
现在，各网络平台上由人工智能生成的内容越来越多，从广告到短剧，从图文配图到配音短视频……依据《人工智能生成合成内容标识办法》的规定，AI生成的内容需要标注，如果不标注，平台可以依法采取限流、下架、限制账号等处置措施，相关主体还可能承担相应法律责任。如果用户自己创作的内容被平台认定为AI生成内容进行了处理...
如今各大网络平台上，人工智能生成的内容越来越多，广告、短剧、图文配图、配音短视频里都能见到。按照《人工智能生成合成内容标识办法》，这类内容得加上标注；要是没标，平台可以依规限流、下架、限制账号，相关主体还可能被追究法律责任。
那用户自己写的东西被平台当成AI生成内容处理了，该怎么办？北京互联网法院日前披露了一起相关诉讼的审理情况。
这起案子里，平台认定内容属于“AI生成未标识”。
内容随即被隐藏，账号还被禁言一天。
被告某科技公司运营的这家平台，要求创作者主动给AI生成内容加标识。平台用户小唐在平台上发布了案涉文字，本意是分享自己的创作成果，结果被平台认定“包含AI生成内容但未标识”，成了违规。
北京互联网法院立案庭法官高雅介绍，平台规则要求创作者对AI生成内容主动加标识，被告据此将原告发布的内容隐藏，并作了禁言一天的处置。原告称内容系自己创作、并非AI生成，提起申诉未获解除，于是诉至法院。
被告方面辩称，涉案回答是经过机器识别加人工复核才被认定为AI生成内容的，同时以涉及技术秘密和算法逻辑为由，主张不必向用户解释认定机制。
法院的看法是，算法掌握在平台手里。
举证说明的义务，也该由平台承担。
法院具体怎么认定？按谁主张谁举证的一般规则，证明自己是原创通常要交创作过程的底稿。可案涉文字是一段“回答”，篇幅比较短，举证责任该怎么分？
高雅表示，涉案回答属于即时性创作的文本，诉讼中很难要求原告提供创作底稿、原文件这类创作过程材料；平台既然认定是AI生成，算法工具和运算过程就应由被告合理举证或解释说明。
最终，法院认定被告平台构成违约。
北京互联网法院立案庭（诉讼服务中心）副庭长王彦杰表示，法院认为平台可依合同约定审查、处理涉案内容是否属于AI生成合成内容，但审查和处理结果须有合理依据。算法工具的运算过程与审查结果均由被告掌控，被告应就这一事实合理举证或解释说明；被告未作适度解释说明，对缺乏事实依据的处理应承担违约责任。法院最终判决被告解除对涉案内容的隐藏，并删除后台相应违规处理记录。
这起案件的典型意义，一方面在于明确了平台的解释说明义务，另一方面也提出平台要解决误判之后的救济问题。
高雅称，本案明确了一点：平台用算法识别AI生成内容并采取处理措施时，应对自己的判定依据和结果作出适度解释说明，以用户能理解的方式说明算法运行机制及误判救济措施，不能仅以涉及商业秘密为由拒绝解释，这也提示平台积极履行解释说明义务，保障用户合法权益。
法院还建议平台主动治理。
北京互联网法院党组成员、副院长赵长新表示：建议平台优化完善平台规则，以显著方式提示与各方主体有重大利害关系的内容。
赵长新表示，平台制定和修改规则时应公开征求意见，作出处理措施后应告知理由及依据，并设置便捷的申诉渠道，对申诉事项及时复核、客观公正处理。
法院建议平台对违规行为建立阶梯式处置机制，坚持过罚相当原则，按违规程度采取警示、限制功能、暂停服务等差异化措施；法院还强调，要加强信息内容管理，建立健全内容审核机制。
赵长新称，利用AI等技术手段预防、治理违规信息时，不能以技术中立为由回避审核义务；要压实举证与证据留存责任，诉讼中应对违规事实、预警记录、举报材料、处置流程承担举证责任，从“被动应诉”转向“主动治理”。
审稿丨陈秉科
