ai合规风险清单包括哪些内容

安全与风控

讲清AI应用团队的合规风险清单该列哪些条目、每条怎么排查、什么情况不适用,给一份可直接照抄的骨架。

团队要上线一个带AI功能的产品,法务问「你们的合规风险清单呢」,手里只有几段零散笔记,不知道拆成几块才不漏。这篇按业务链条把清单拆成五块,每块给出覆盖范围和排查动作,顺带说明哪些情况这份清单不够用、要另找人看。

团队要上线一个带AI功能的产品,法务问「你们的合规风险清单呢」,手里只有几段零散笔记,不知道拆成几块才不漏。这篇按业务链条把清单拆成五块:入口与账号、数据进出、内容与权利、外部依赖、出事之后的留痕上报。每块给出覆盖范围和排查动作,你照着自己的业务勾选就行。

先说清定位:这是一份自查骨架,不是法律意见。它帮你把该问的问题问全、把该留的证据留住,但触发法定评估、审计或备案的情形,得按对应制度单独走。清单要能落地,关键是每条都写清「谁负责、多久复核一次、不合格算不算上线阻塞项」。

第一块:入口与账号侧——谁在用、能用到什么

这一块常被跳过,但出事时最先被追问的就是它。覆盖范围包括账号注册主体是谁、团队里有没有共用Key和私人Key混用、成员离岗后权限是否回收、接进来的第三方中转站有没有登记在册。排查办法是做一张「人—账号—权限—数据范围」对照表,每行写清到期时间和回收责任人,而不是只写部门名。

清单项排查动作不合格表现
账号主体确认注册主体与合同签署方一致用个人账号跑生产流量
权限分配逐个账号核对能访问的模型与数据范围全组共用一把Key
离岗回收设定回收责任人与时限人走了Key还在用
中转站接入接入前登记用途、经手数据谁接的、接了几家说不清

第二块:数据进出——喂进去的和对出来的

这一块看两头:输入侧和输出侧。输入侧查提示词里是否夹带个人信息、客户资料、未公开文档;输出侧查生成结果会不会被直接挂到对外页面。做法是抽一批真实提示词做脱敏演练,看哪些字段本不该发出去,再给输出加一层人工确认或规则拦截。

  • 脱敏演练:从真实调用日志里抽样,逐条判断能否外发
  • 留存口径:核对外部模型与工具是否留存、是否用于训练,口径不清的按「会留存」处理
  • 出域控制:列出所有数据会离开自有环境的环节,标明接收方
  • 输出闸门:对外发布的生成内容必须有人看过或有规则拦过

不适用的情况:全部在自有内网私有化部署、数据不出域的,重点应转向内部权限与日志,而不是传输合规。但「不出域」要拿实际抓包或网络策略证明,不能只凭架构图。

第三块:内容与权利——生成物能不能用、怎么标

  1. 列发布场景把会对外发布生成内容的场景全列出来,每个场景写清发布渠道和受众
  2. 定标识方式逐个确认AI生成标识放在哪、显式还是隐式、配套的免责说明怎么写
  3. 查素材授权涉及他人形象、声音、作品风格的,确认授权来源并留存凭证
  4. 复核风格边界模仿特定创作者风格的用途,单独标出来走一次人工判断

不适用的情况:纯内部分析、不对外发布也不进入产品的生成内容,标识要求可以放宽,但侵权风险不会因此消失,素材授权那一步照做。标识的具体格式要求,到 /guides 的相关指南里核对当时的口径。

第四块:外部依赖——服务商和中间环节

模型服务商、中转站、插件、外包开发方,每一家都可能碰你的数据。做法是每家建一行记录:用途、经手哪些数据类型、有没有书面约定、出问题找谁。中转站这类环节还要额外看可信度,别只看对方给的介绍页。

依赖方要记录什么去哪核对
模型服务商经手数据、留存与训练口径站内官方API价格页与模型资料库
中转站主体信息、历史稳定性、条款站内中转站检测与导航页
插件与工具权限范围、是否回传数据站内工具目录
外包开发方接触范围、保密约定合同与访问日志

价格和额度口径别只信销售口头说法,到 /price-watch 核对当时的数字,条款变化也一并看。不适用的情况:只用一家官方渠道、合同条款已覆盖的,重点变成定期复核条款变更,而不是重新选型。

第五块:出事之后——留痕、上报与复盘

前面四块是预防,这一块是兜底。覆盖范围:谁能看到日志、日志留多久、内容泄露或误发之后的处置路径。落地办法很简单——把三个问题提前写出答案:谁第一时间知道、多久内决定是否上报、证据存在哪。

  • 知情路径:指定一个第一联系人及其备份
  • 上报时限:写清内部升级和对外上报的决策节点
  • 证据留存:日志、提示词、输出结果分别存在哪、谁能取
  • 复盘动作:每次事件后回填清单,标出哪一条没拦住
  • 版本管理:清单本身进版本库,每次上线前勾一遍并记一笔改动

照这份骨架填完,你会发现缺口通常集中在两处:没人对账号回收负责,以及外部依赖没有书面记录。先把这两处补上,比继续扩充条目更有用。

下一步拿站内的中转站检测和官方API价格页,把第四块的依赖记录逐行对一遍;条款、价格和稳定性数据都以页面当时显示的为准,别照搬旧笔记。

常见问题

这份清单可以直接当合规文件交上去吗?

不建议。它是自查底稿,帮你把漏项找出来;对外报送或应对检查要用正式制度和评估报告。清单的作用是让你在被问之前就知道哪块空着。

团队只有三五个人,也要按五块拆吗?

要拆,但每块只留一两行。人少的优势是链路短,把「谁在用什么、数据去哪了、出问题找谁」三件事写清楚,比照抄大公司的长清单更实用。

清单多久更新一次?

换模型、换服务商、加新功能、成员变动这四种情况发生后必须改一次;平时按季度过一遍。数字和条款类的信息别写死在清单里,去站内对应页面看当时的情况。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。