做模型合规的人常卡在同一处:语料是算法同学爬的,授权是法务事后补的,两边对不上口径。这篇不讲空泛原则,只给一套能落到工单上的动作——从语料入库、授权留痕、个人信息处理到供应商条款比对,逐条说明要查什么、什么情况下这套标准不适用。
做模型合规的团队最常卡在同一个地方:语料是算法同学按需求爬的、买的、导的,授权文件是法务事后补的,两边口径对不上。等法务问「这批数据哪来的、谁能证明能用」,算法侧只能翻出几个脚本和一堆临时目录,谁签的字、按什么标准判的,全凭回忆。这不是态度问题,是流程没搭好。
这篇不讲空泛原则,只给一套能落到工单上的动作。从语料入库、授权留痕、个人信息处理到供应商条款比对,逐条说清要查什么、谁负责、什么情况下这套标准不适用。目标是让法务和算法团队共用一张表,而不是各说各话。按下面这套走一遍,多数项目的底稿就能从「说不清」变成「能拿出来」。
先把责任切开:算法团队管来源,法务管判断
合规扯皮多半是责任边界没切开。算法团队最清楚语料从哪来、怎么采的、采的时候有没有绕开限制;法务最清楚这份来源对应的授权能不能撑住训练用途。把这两件事混成「大家一起负责」,结果就是没人负责。正确切法是:来源事实归算法,可用性判断归法务,两边各交一份东西。
| 环节 | 算法侧交付 | 法务侧交付 |
|---|---|---|
| 采集/导入 | 来源清单、采集方式、脚本或渠道记录 | — |
| 入库前 | 数据类型、字段说明、样本 | 是否涉及高风险类型的初判 |
| 授权核对 | 授权文件原本或快照 | 授权范围是否覆盖训练的结论 |
| 入库后 | 批次编号、版本号 | 判断结论与版本、复核记录 |
- 列出语料从采集到入库的每个交接点,明确谁签字、签什么;
- 算法侧交来源清单与采集方式,法务侧交可用性结论,两者分开存档;
- 没有交接记录的项目,先补流程再谈合规,否则后面全是扯皮;
- 交接点数量别贪多,三到四个就够,多了没人执行;
- 每个交接点设一个默认责任人,不设「共同负责人」
语料按来源分档:哪些能直接用、哪些要单独论证
把所有语料一视同仁,要么效率极低,要么漏掉高风险项。实用做法是按来源分四档:自有业务数据、公开可抓取数据、采购数据、用户上传数据。四档的默认风险和处理动作不同,先分档,再决定哪些要单独论证。分档结论写进底稿,后续换模型、换场景时能复用,不用每次从零讨论。
| 来源档位 | 默认处理 | 什么情况下要单独论证 |
|---|---|---|
| 自有业务数据 | 可用,但要查是否含个人信息 | 数据来自面向用户的服务时 |
| 公开可抓取数据 | 需查目标站点条款与robots约定 | 批量抓取、含用户生成内容时 |
| 采购数据 | 逐份比对授权原文 | 授权只写检索、未提训练时 |
| 用户上传数据 | 默认高风险,先拦后审 | 几乎每次使用都要单独论证 |
- 公开可抓取不等于可训练,目标站点的服务条款和robots约定要逐条看;
- 采购数据的授权范围经常只覆盖检索,不覆盖训练,逐份比对原文别偷懒;
- 用户上传数据的授权通常只覆盖「提供本次服务」,扩到训练要另拿同意;
- 分档不是一次性的,来源渠道变了要重新分档;
- 把分档结果和依据写在同一张表里,别只留结论
版权核查的动作:不是查重,是查授权链
版权核查常见误区是拿语料去查重,看有没有和已有作品高度相似。查重能发现问题,但解决不了授权问题——就算不重复,只要用了受保护作品,仍然需要授权。真正要查的是授权链:这份内容的原始权利人是谁、中间经过几手、当前这一手有没有权利再许可给训练用途。链条断在哪一环,结论就是哪一环不可用。
- 重点看图书、报刊、代码仓库、图库、音视频这几类高纠纷语料;
- 授权链要能回答:原始权利人是谁、经过几手、是否允许再许可;
- 找不到权利人的语料按不可用处理,别赌「没人会来告」;
- 授权文件里「可商用」「可分发」不等于「可训练」,措辞要抠;
- 开源许可证要逐条看,部分许可证对训练用途有额外限制
关于训练语料的版权风险类型,站内已有文章展开讲过,这里只讲怎么把结论落成核查动作。具体判断时如果拿不准某类语料的常见处理方式,可以到站内指南中心看对应条目,再结合自己项目的授权原文做决定。
个人信息与敏感信息:先去标识再谈能不能用
对话记录、客服工单、简历、医疗文本是个人信息高风险区。这类语料的处理顺序不能反:先去标识化,再判断能不能用于训练。先判断再处理,很容易在「应该能用」的假设下把原始数据铺开,后面再收就来不及。去标识化本身也有层次,简单打码和真正降低可还原性,效果差很远。
- 建敏感字段清单列出手机号、身份证、地址、医疗描述等字段,按业务场景补充,清单本身要有版本号。
- 入库前跑扫描用正则和规则扫描跑一遍,命中就拦下,不要设「先入库后清洗」的口子。
- 判断可还原性去标识化不等于匿名化,能通过组合字段还原到个人的,仍按个人信息处理。
- 跨境单独走涉及跨境传输的语料单独走一条路径,别混在通用流程里,路径要留审批记录。
模型与数据供应商的条款,要看这三处
采购模型服务或数据时,条款里最容易埋坑的三处:授权范围、数据用途、终止后的处理。授权范围要确认是否把「用于模型训练」写进去,还是只写了「提供服务」;数据用途要看你的数据是否会被对方用于改进其模型,以及能不能要求关闭;终止合作后的删除与留存条款要写清,留痕留多久也要落在纸面上。
| 条款位置 | 要确认的点 | 不适用的情况 |
|---|---|---|
| 授权范围 | 是否明确覆盖训练,还是仅限检索/调用 | 仅做推理不训练时可放宽 |
| 数据用途 | 是否用于改进对方模型,能否关闭 | 对方不接触你的数据时可跳过 |
| 终止处理 | 删除时限、留存范围、证明方式 | 短期试点项目可按试点条款处理 |
中转站与聚合平台的条款差异很大,有的写得细、有的几乎没提训练用途。接入前先比对,可到站内平台目录与厂商目录核对各自的条款要点;价格与可用性这类会变的数字,到站内价格追踪页面核对当时的数字,别拿旧截图当依据。
留痕:出事时能拿出来的东西长什么样
留痕的目的不是应付检查,是让几个月后的人能重建当时的判断。最容易失效的留痕是「只存链接」——原文随时会改,改完链接还在,内容已经不是当初那条。正确的做法是存快照,并给每份判断结论配版本号,规则变了能回溯当时为什么这么判。
- 每个语料批次配一份来源卡:采集时间、方式、授权文件、判断人;
- 授权文件存快照,不存链接,快照和原文都要留;
- 判断结论带版本号,规则更新时旧结论不删,标注失效原因;
- 定期抽查,抽样比例和抽查记录本身就是合规证据;
- 来源卡模板统一,字段别各写各的,否则汇总时对不上
什么情况下这套流程要收紧或放松
标准流程不是一刀切。内部自用、不对外提供服务的模型,核查颗粒度可以粗一档,重点放在数据来源的真实性;面向公众提供服务、尤其涉及备案的场景,要按最严路径走,因为后续被问到时要能拿出完整链条。判断松紧的依据是「谁可能追问你」和「追问时要拿什么」,不是团队自己的舒适度。
- 内部自用模型:可简化授权链核查,但个人信息处理不能省;
- 面向公众服务:按最严路径走,来源卡、授权快照、抽查记录都要齐;
- 模型开源或对外发布权重:语料来源重新审一遍,不能沿用内部结论;
- 只做推理不做训练:重点转向输入数据的处理,而非语料授权;
- 试点项目:可按试点条款处理,但转正式前要补完整核查
上手清单:一周内能做完的事
- 第一天:盘语料把现有语料列成表,标出来源与采集方式,先求全不求细。
- 第二天:分档按四档分类,挑出高风险项,高风险项单独拉一张清单。
- 第三天:找授权对高风险语料逐份找授权原文,找不到的先停用,不要观望。
- 第四天:跑扫描跑一遍敏感字段扫描,输出命中清单,命中项逐条给处理动作。
- 第五天:定模板把结论写成来源卡模板,定下后续批次的交接动作和责任人。
这套动作跑完一遍,项目至少能做到「问起来有据可查」。后面每次新增语料渠道,按同一套交接点走就行,不用重头讨论。真正难的不是标准本身,是让标准和日常工单绑在一起——来源卡、快照、版本号这三样只要坚持住,多数追问都能接住。
下一步把这份清单落到具体语料之前,先去站内指南中心看训练数据相关的条目,再到厂商目录核对手上供应商的条款要点,两处对完再动手,能少返工一轮。→常见问题
爬公开网页的数据能直接拿来训练吗?
不能直接下结论。公开可访问只说明你能看到,不等于权利人授权你用于训练。要逐站看服务条款和robots约定,转载、汇编类内容还要看原始权利人。落不了地的,按不可用处理,或者只作为检索用途而非训练用途。
去标识化之后还算个人信息吗?
多数情况下算。去标识化是去掉直接标识符,但如果通过时间、地点、行为等字段还能还原到个人,仍按个人信息管理。真正严格的匿名化要求不可复原,实操中很难达到,所以更稳妥的做法是把去标识化当成降风险手段,而不是免责手段。
供应商说数据可以用于训练,我还需要自己查吗?
需要。对方的口径是他们对自己的承诺,你要确认这条承诺覆盖你的使用方式。重点看授权范围是否包含训练、是否可再许可、终止后如何处理。把这些条款抄进自己的底稿,别只留一句「供应商说可以」。
开源模型拿来微调,语料合规责任在谁?
在你。开源的是模型权重和许可证,不包含训练语料的责任转移。你用自己的数据微调,等于新增了一批训练数据,这批数据的合规责任由你承担。模型许可证看的是权重怎么用,语料合规是另一条线,两者别混。
合规底稿要留多久、留多细?
没有统一年限,按你所在行业和业务性质定,公开服务类通常留得更久。颗粒度上,至少要能回答某批语料当时为什么被判为可用、依据是哪份文件。链接会失效,存快照;人会说记不清,存签字。判断标准去站内安全与合规相关页面核对。