大模型训练数据合规标准

模型与算力

帮法务和算法团队把训练语料的来源、授权、脱敏与留痕理成一张可执行的核查清单,避开数据使用的红线。

做模型合规的人常卡在同一处:语料是算法同学爬的,授权是法务事后补的,两边对不上口径。这篇不讲空泛原则,只给一套能落到工单上的动作——从语料入库、授权留痕、个人信息处理到供应商条款比对,逐条说明要查什么、什么情况下这套标准不适用。

做模型合规的团队最常卡在同一个地方:语料是算法同学按需求爬的、买的、导的,授权文件是法务事后补的,两边口径对不上。等法务问「这批数据哪来的、谁能证明能用」,算法侧只能翻出几个脚本和一堆临时目录,谁签的字、按什么标准判的,全凭回忆。这不是态度问题,是流程没搭好。

这篇不讲空泛原则,只给一套能落到工单上的动作。从语料入库、授权留痕、个人信息处理到供应商条款比对,逐条说清要查什么、谁负责、什么情况下这套标准不适用。目标是让法务和算法团队共用一张表,而不是各说各话。按下面这套走一遍,多数项目的底稿就能从「说不清」变成「能拿出来」。

先把责任切开:算法团队管来源,法务管判断

合规扯皮多半是责任边界没切开。算法团队最清楚语料从哪来、怎么采的、采的时候有没有绕开限制;法务最清楚这份来源对应的授权能不能撑住训练用途。把这两件事混成「大家一起负责」,结果就是没人负责。正确切法是:来源事实归算法,可用性判断归法务,两边各交一份东西。

环节算法侧交付法务侧交付
采集/导入来源清单、采集方式、脚本或渠道记录—
入库前数据类型、字段说明、样本是否涉及高风险类型的初判
授权核对授权文件原本或快照授权范围是否覆盖训练的结论
入库后批次编号、版本号判断结论与版本、复核记录
  • 列出语料从采集到入库的每个交接点,明确谁签字、签什么;
  • 算法侧交来源清单与采集方式,法务侧交可用性结论,两者分开存档;
  • 没有交接记录的项目,先补流程再谈合规,否则后面全是扯皮;
  • 交接点数量别贪多,三到四个就够,多了没人执行;
  • 每个交接点设一个默认责任人,不设「共同负责人」

语料按来源分档:哪些能直接用、哪些要单独论证

把所有语料一视同仁,要么效率极低,要么漏掉高风险项。实用做法是按来源分四档:自有业务数据、公开可抓取数据、采购数据、用户上传数据。四档的默认风险和处理动作不同,先分档,再决定哪些要单独论证。分档结论写进底稿,后续换模型、换场景时能复用,不用每次从零讨论。

来源档位默认处理什么情况下要单独论证
自有业务数据可用,但要查是否含个人信息数据来自面向用户的服务时
公开可抓取数据需查目标站点条款与robots约定批量抓取、含用户生成内容时
采购数据逐份比对授权原文授权只写检索、未提训练时
用户上传数据默认高风险,先拦后审几乎每次使用都要单独论证
  • 公开可抓取不等于可训练,目标站点的服务条款和robots约定要逐条看;
  • 采购数据的授权范围经常只覆盖检索,不覆盖训练,逐份比对原文别偷懒;
  • 用户上传数据的授权通常只覆盖「提供本次服务」,扩到训练要另拿同意;
  • 分档不是一次性的,来源渠道变了要重新分档;
  • 把分档结果和依据写在同一张表里,别只留结论

版权核查常见误区是拿语料去查重,看有没有和已有作品高度相似。查重能发现问题,但解决不了授权问题——就算不重复,只要用了受保护作品,仍然需要授权。真正要查的是授权链:这份内容的原始权利人是谁、中间经过几手、当前这一手有没有权利再许可给训练用途。链条断在哪一环,结论就是哪一环不可用。

  • 重点看图书、报刊、代码仓库、图库、音视频这几类高纠纷语料;
  • 授权链要能回答:原始权利人是谁、经过几手、是否允许再许可;
  • 找不到权利人的语料按不可用处理,别赌「没人会来告」;
  • 授权文件里「可商用」「可分发」不等于「可训练」,措辞要抠;
  • 开源许可证要逐条看,部分许可证对训练用途有额外限制

关于训练语料的版权风险类型,站内已有文章展开讲过,这里只讲怎么把结论落成核查动作。具体判断时如果拿不准某类语料的常见处理方式,可以到站内指南中心看对应条目,再结合自己项目的授权原文做决定。

个人信息与敏感信息:先去标识再谈能不能用

对话记录、客服工单、简历、医疗文本是个人信息高风险区。这类语料的处理顺序不能反:先去标识化,再判断能不能用于训练。先判断再处理,很容易在「应该能用」的假设下把原始数据铺开,后面再收就来不及。去标识化本身也有层次,简单打码和真正降低可还原性,效果差很远。

  1. 建敏感字段清单列出手机号、身份证、地址、医疗描述等字段,按业务场景补充,清单本身要有版本号。
  2. 入库前跑扫描用正则和规则扫描跑一遍,命中就拦下,不要设「先入库后清洗」的口子。
  3. 判断可还原性去标识化不等于匿名化,能通过组合字段还原到个人的,仍按个人信息处理。
  4. 跨境单独走涉及跨境传输的语料单独走一条路径,别混在通用流程里,路径要留审批记录。

模型与数据供应商的条款,要看这三处

采购模型服务或数据时,条款里最容易埋坑的三处:授权范围、数据用途、终止后的处理。授权范围要确认是否把「用于模型训练」写进去,还是只写了「提供服务」;数据用途要看你的数据是否会被对方用于改进其模型,以及能不能要求关闭;终止合作后的删除与留存条款要写清,留痕留多久也要落在纸面上。

条款位置要确认的点不适用的情况
授权范围是否明确覆盖训练,还是仅限检索/调用仅做推理不训练时可放宽
数据用途是否用于改进对方模型,能否关闭对方不接触你的数据时可跳过
终止处理删除时限、留存范围、证明方式短期试点项目可按试点条款处理

中转站与聚合平台的条款差异很大,有的写得细、有的几乎没提训练用途。接入前先比对,可到站内平台目录与厂商目录核对各自的条款要点;价格与可用性这类会变的数字,到站内价格追踪页面核对当时的数字,别拿旧截图当依据。

留痕:出事时能拿出来的东西长什么样

留痕的目的不是应付检查,是让几个月后的人能重建当时的判断。最容易失效的留痕是「只存链接」——原文随时会改,改完链接还在,内容已经不是当初那条。正确的做法是存快照,并给每份判断结论配版本号,规则变了能回溯当时为什么这么判。

  • 每个语料批次配一份来源卡:采集时间、方式、授权文件、判断人;
  • 授权文件存快照,不存链接,快照和原文都要留;
  • 判断结论带版本号,规则更新时旧结论不删,标注失效原因;
  • 定期抽查,抽样比例和抽查记录本身就是合规证据;
  • 来源卡模板统一,字段别各写各的,否则汇总时对不上

什么情况下这套流程要收紧或放松

标准流程不是一刀切。内部自用、不对外提供服务的模型,核查颗粒度可以粗一档,重点放在数据来源的真实性;面向公众提供服务、尤其涉及备案的场景,要按最严路径走,因为后续被问到时要能拿出完整链条。判断松紧的依据是「谁可能追问你」和「追问时要拿什么」,不是团队自己的舒适度。

  • 内部自用模型:可简化授权链核查,但个人信息处理不能省;
  • 面向公众服务:按最严路径走,来源卡、授权快照、抽查记录都要齐;
  • 模型开源或对外发布权重:语料来源重新审一遍,不能沿用内部结论;
  • 只做推理不做训练:重点转向输入数据的处理,而非语料授权;
  • 试点项目:可按试点条款处理,但转正式前要补完整核查

上手清单:一周内能做完的事

  1. 第一天:盘语料把现有语料列成表,标出来源与采集方式,先求全不求细。
  2. 第二天:分档按四档分类,挑出高风险项,高风险项单独拉一张清单。
  3. 第三天:找授权对高风险语料逐份找授权原文,找不到的先停用,不要观望。
  4. 第四天:跑扫描跑一遍敏感字段扫描,输出命中清单,命中项逐条给处理动作。
  5. 第五天:定模板把结论写成来源卡模板,定下后续批次的交接动作和责任人。

这套动作跑完一遍,项目至少能做到「问起来有据可查」。后面每次新增语料渠道,按同一套交接点走就行,不用重头讨论。真正难的不是标准本身,是让标准和日常工单绑在一起——来源卡、快照、版本号这三样只要坚持住,多数追问都能接住。

下一步把这份清单落到具体语料之前,先去站内指南中心看训练数据相关的条目,再到厂商目录核对手上供应商的条款要点,两处对完再动手,能少返工一轮。

常见问题

爬公开网页的数据能直接拿来训练吗?

不能直接下结论。公开可访问只说明你能看到,不等于权利人授权你用于训练。要逐站看服务条款和robots约定,转载、汇编类内容还要看原始权利人。落不了地的,按不可用处理,或者只作为检索用途而非训练用途。

去标识化之后还算个人信息吗?

多数情况下算。去标识化是去掉直接标识符,但如果通过时间、地点、行为等字段还能还原到个人,仍按个人信息管理。真正严格的匿名化要求不可复原,实操中很难达到,所以更稳妥的做法是把去标识化当成降风险手段,而不是免责手段。

供应商说数据可以用于训练,我还需要自己查吗?

需要。对方的口径是他们对自己的承诺,你要确认这条承诺覆盖你的使用方式。重点看授权范围是否包含训练、是否可再许可、终止后如何处理。把这些条款抄进自己的底稿,别只留一句「供应商说可以」。

开源模型拿来微调,语料合规责任在谁?

在你。开源的是模型权重和许可证,不包含训练语料的责任转移。你用自己的数据微调,等于新增了一批训练数据,这批数据的合规责任由你承担。模型许可证看的是权重怎么用,语料合规是另一条线,两者别混。

合规底稿要留多久、留多细?

没有统一年限,按你所在行业和业务性质定,公开服务类通常留得更久。颗粒度上,至少要能回答某批语料当时为什么被判为可用、依据是哪份文件。链接会失效,存快照;人会说记不清,存签字。判断标准去站内安全与合规相关页面核对。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。