做模型训练或在公司里负责数据这块的人,最常卡的不是「要不要合规」,而是「到底合到什么程度算过关」:爬来的网页算不算合法来源,开源数据集能不能直接进训练,用户上传的数据能留多久,标注外包要不要签协议。这篇把监管要求和工程落地拆成可对照的动作,给你一套自查口径,而不是一句「注意合规」。
做模型训练或者在公司里管数据的人,最常卡住的不是「要不要合规」,而是「到底合到什么程度才算过关」。爬来的网页能不能用,开源数据集能不能直接丢进训练,用户对话日志能留多久,标注外包要不要签协议,这些问题没有一个统一答案,但每个都有可对照的判断口径。
这篇不给你一句「注意合规」就完事,而是把监管要求和工程落地拆成能逐条打勾的动作。你可以把它当成一份自查清单,按顺序过一遍,每一条最后会落成「过关/待确认/不能用」三档结论。术语拿不准的时候,去站内 /safety 和 /ai-dict/category/safety 对一下口径,别自己发明说法。
监管到底盯训练数据哪几件事
很多人一提到合规就想到「找个法务签字」,其实监管问询和备案材料里反复出现的就四件事:数据从哪来、有没有拿到授权、里面有没有个人信息、出事能不能说清楚。把这四块混成一团谈,结论永远是「看情况」;拆开之后每一块都能单独判断。
- 来源合法性
- 这份语料是通过什么方式拿到的,抓取、采购、自有、用户提交,方式不同风险不同
- 授权范围
- 拿到的许可允许你干什么,能不能商用、能不能训练、能不能改、能不能再分发
- 个人信息处理
- 语料里有没有能对应到具体人的字段,有的话做过什么处理
- 可追溯留档
- 半年后有人问这份数据凭什么用,你能不能当场拿出证据
国内做算法备案或大模型相关备案时,数据部分通常要交代语料来源构成、授权获取方式、个人信息处理流程和留存机制这几块。具体材料清单各地和各批次会有差异,别照抄网上的模板,去站内 /safety 看当前整理的口径,再对照自己的实际情况填。
语料来源:哪些算能用,哪些得先放一边
语料来源可以粗分五类,每类的前置条件和风险点不一样。常见错误是把「公开可访问」直接等同于「可以随便用来训练」,这两件事在法律上根本不是一回事。
| 来源类型 | 常见风险点 | 进流程前的前置动作 |
|---|---|---|
| 公开网页抓取 | 站点条款禁止、付费墙内容、robots 限制 | 逐站点核对条款与 robots,记录抓取范围和依据 |
| 开源数据集 | 许可证不明确、内含二次分发数据 | 看许可证原文,往上游追一层来源 |
| 采购语料 | 合同授权范围窄于实际用途 | 核对合同里能不能用于训练、能不能商用 |
| 自有业务数据 | 用户是否授权用于模型改进 | 回看用户协议与隐私政策原文 |
| 用户生成内容 | 含有个人信息、对话原文 | 识别脱敏后再考虑是否入训 |
robots 协议、站点服务条款、数据集自带许可证这三者经常互相打架。判断顺序很简单:以更严的那个为准。robots 允许但条款禁止抓取用于训练,那就别用;许可证说可以商用但上游数据来源不明,那就先标成待确认。
- 付费墙后面的内容,默认不用,除非你拿到了明确授权凭证
- 页面或站点有明确禁止抓取、禁止用于训练的声明,直接排除
- 来源不明的打包数据集,尤其是没有原始出处说明的,先放一边
- 社交媒体和论坛内容要特别小心,公开可见不代表可以任意使用
- 已经清洗过的数据集也要看原始来源,中间商不承担你的责任
判断不确定的时候,不要靠「应该没事」放过去,写成「待确认」单独列出来,后续要么补授权,要么替换来源。这一档数据不要计入训练集规模,否则后面返工成本比现在补材料高得多。
授权范围怎么核对:许可证不是看一眼就完事
许可证核对要落到四个具体问题上,任何一个答不上来,这份数据就不能算干净:能不能商用、能不能用于模型训练、要不要署名、衍生物怎么处理。很多人只看了「开源」两个字就放行,后面的坑全在这儿。
| 核对项 | 要确认的内容 | 答不上来时的处理 |
|---|---|---|
| 商用 | 是否允许盈利性使用,包括提供 API 服务 | |
| 训练用途 | 许可证是否明确覆盖模型训练这一场景 | |
| 署名 | 是否要求在使用方标注来源和作者 | |
| 衍生物 | 蒸馏、微调后的模型权重要不要跟着原许可走 |
权重许可和数据许可是两套东西,别混着看。模型权重用的是什么许可,跟你训练它用的语料许可没有必然关系。开源数据集里如果包含从别处二次分发的数据,要往上游再追一层,追不到就标成待确认。
个人信息与敏感数据:训练前的处理动作
训练语料里出现手机号、身份证号、住址、医疗记录这类字段,不要指望模型自己「忘掉」。正确做法是在进训练流程之前就做识别和脱敏,把处理动作固定成标准步骤,而不是靠某个人记得检查。
- 字段识别用规则加模型的方式扫一遍语料,标出手机号、证件号、地址、账号等模式,输出一份命中清单
- 脱敏替换命中字段做替换或掩码处理,替换规则要统一,方便后续复核,不要每个项目一套写法
- 抽样复核从处理后的语料里抽一批人工看,确认脱敏效果,抽多少按数据规模定,但要留复核记录
- 留存处理记录把识别规则、命中数量、处理方式、复核结果记成一份文档,跟这份语料绑定存档
用户上传的内容和对话日志要入训的,先回到用户协议和隐私政策,看有没有拿到「用于模型改进」这类授权。协议里没写清楚的,要么补授权弹窗,要么走脱敏或直接排除,别默认用户同意。
标注与外包环节的合规接口
标注团队是离原始数据最近的一环,也是很多团队最容易漏掉合规动作的地方。人接触到了数据,就要有对应的协议约束,不能只签一份普通劳务合同了事。
- 签数据处理协议,明确数据不能留存、不能转售、不能用于其他项目
- 写清标注产出的数据归属,避免项目结束后扯皮
- 约定项目结束后的销毁要求,并留下销毁凭证
- 接触数据的人员范围要限定,不是整个外包团队都能看
- 境外团队涉及时,数据出境问题单独评估,别和标注质量混在一起谈
销毁凭证这个东西平时没人看,真被问询的时候就是关键材料。形式不用复杂,一份带时间、范围、方式的确认文件就够,关键是能证明这批数据确实清掉了。
留档与可追溯:出事时能拿出什么
留档的目的不是堆文件,而是半年后有人问你「这份数据从哪来、凭什么用」,你能当场拿出可复现的证据。所以结构要简单到没人维护也能跑下去,太复杂的台账最后一定烂尾。
| 留档材料 | 记录内容 | 更新时机 |
|---|---|---|
| 来源清单 | 每条语料的来源、获取方式、获取时间 | |
| 许可证快照 | 许可证原文或截图,标注核对结论 | |
| 脱敏记录 | 识别规则、处理方式、复核结果 | |
| 标注合同与凭证 | 外包协议、销毁凭证、人员范围 |
来源清单建议跟数据集本身绑定,数据集升级或者换源时同步更新,不要放在某个人的个人文档里。许可证快照很重要,因为许可证条款会变,你需要证明的是「当时拿到的时候是这么写的」。
上线前的自查顺序:按这个顺序过一遍
自查顺序错了会反复返工。最常见的错误是先清洗数据再想用途,结果发现这批语料只能内部用,前面做的清洗全白费。正确顺序是先定用途,再定数据范围。
- 定用途先说清楚这个模型是内部实验还是对外提供服务,用途决定后面所有判断的尺度
- 定数据范围按用途圈出需要的语料类型和规模,不属于这个范围的先不碰
- 查来源与许可证逐条核对来源合法性和授权范围,答不上来的标待确认
- 处理个人信息对确定要用的数据做识别、脱敏、复核、留记录
- 补留档把来源清单、许可证快照、脱敏记录、外包凭证整理归档
走完一遍,每个数据集给一个结论:过关、待确认、不能用。待确认的项不要靠默认通过,要么补材料转成过关,要么换来源。所有结论写在一张表里,谁问都能直接调出来。
合规不是证明你没问题,而是被问到时你能说清楚每一步是怎么做的。下一步自查清单里的判断标准会随监管口径和平台政策变化,去站内安全与合规资料页核对当前版本的口径,再对照自己的语料逐条打勾,比自己猜要靠谱。→
常见问题
用公开网页数据训练模型,合不合规?
没有一刀切的答案。要看抓取时有没有违反站点条款、内容里有没有个人信息、以及你打算怎么用这个模型。合规的做法是把来源、授权依据、处理方式都记下来,能说清「为什么这批数据可以用」,而不是靠「网上公开的就能用」这句话。
开源数据集是不是就可以直接拿去训练?
不一定。开源数据集本身可能包含二次分发的内容,许可证也可能限定用途。建议往上游追一层来源,追不动的标成待确认;许可证要看能不能商用、能不能用于训练,这两项不清楚就先别放进正式训练集。
不做对外服务,只内部训练也要合规吗?
要求会松一些,但不是不用管。内部训练同样涉及数据留存、外包标注、个人信息处理这些环节,真出问题时照样要解释。区别主要在对外的备案材料深度,内部至少要有一份能对上号的来源和处理记录。
模型已经把数据训进去了,还能补救吗?
能做的有几步:先确认这批数据能不能用,不能用的评估重训或增量清洗的影响面;同时补齐留档,把处理过程说明白;对外服务的话,看看用户协议和说明里有没有需要补充的内容。不建议默默放着不管。
训练数据合规有没有一个统一的验收标准?
没有放之四海皆准的分数。不同用途、不同行业的尺度不一样,判断依据更接近「能不能逐条说明来源与授权」。落地时建议按用途定范围,再按来源、授权、个人信息、留档四项逐条过,把不能解释的项挑出来处理。