第三方AI工具接入的数据边界怎么定

安全与风控

给企业选型者一套划定外部AI工具数据边界的方法:按数据分级、按工具类型、按链路环节三刀切,附可落地清单与不适用情形。

公司要接一个外部AI工具,法务问「哪些数据能发出去」,业务说「不发就没效果」,你夹在中间不知道线画在哪。这篇不讲大道理,给一套可执行的定界方法:先给数据分级,再对照工具类型和链路环节画红线,最后落成一份能被审计的文档。

公司要接一个外部AI工具,法务问「哪些数据能发出去」,业务说「不发就没效果」,你夹在中间不知道线画在哪。这种事拖不得,因为工具一旦跑起来,再回头讨论边界就变成给已经发生的事找理由。下面这套方法不讲大道理,只给判断标准和动作:先按三个维度把数据分档,再按工具的数据处理位置分类,最后沿链路逐环节找泄露点,落成一份能过审、能被审计的文档。

需要提前说清一点:边界不是「安全部门的事」,也不是一张一次性签完的审批单。它的价值在于,当工具改条款、换子处理方、上新功能,或者出现行业内的泄露新闻时,团队里任何一个人都能拿着这份文档快速判断「还能不能继续用」。所以本文的目标不是给你一个绝对答案,而是给你一套能被复核、能被交接的定界流程。

先定边界,再谈选型

很多团队的顺序是反的:先试用、先谈价、先让业务跑起来,等法务介入时才补一份数据说明。这时候边界已经不是「能不能发」,而是「已经发了怎么办」,讨论会立刻变成责任划分而不是风险控制。正确顺序是先写边界,再拿边界去筛工具:边界说不允许出内网,那候选清单里带云端处理的一律先排除,选型范围自然收窄,反而省事。

  • 边界不清的直接后果不只是罚款,还包括:工具换版本后没人判断能不能继续用、换供应商时没人知道哪些历史数据要迁移或删除、出事后说不清当初授权范围
  • 边界必须在采购动作之前写,采购之后写就成了给已选中的工具补理由,很难保持客观
  • 写成「能发 / 不能发」两栏清单比写成原则更管用,原则谁都会背,清单才能直接对着表格勾
  • 边界里要包含「谁有权改这条线」,否则每个新需求都会来试探一次
  • 预留一个「需审批」的中间档,现实里大部分数据既不是绝对不能发,也不是随手就能发

判断标准:这条线该谁拍板

业务负责人
提出使用场景和必要性,但无权单独决定数据能不能发出去
数据或安全负责人
对分档和工具分类给出结论,是边界的技术裁判
法务或合规
确认对外承诺、合同条款、监管要求有没有冲突,有一票否决权
最终拍板人
在业务和合规冲突时做取舍,并承担这个取舍的后果

第一刀:把你的数据分成三档

分档不要按部门、按系统、按文件格式分,那会分出一堆互相矛盾的标签。按两个维度分最稳:一是可识别性,二是泄露后果。可识别性看的是这份数据单独存在时能不能定位到具体个人或具体客户;后果看的是泄露之后只是尴尬、要赔钱、还是要向监管报告。两个维度交叉,基本就落在三档里。

档位典型特征默认处理原则
一档:可识别到个人或客户能直接或结合其他信息定位到具体的人、具体客户默认不出内网,确需外发走单独审批并留痕
二档:能反推业务看不出具体是谁,但能拼出报价逻辑、客户结构、产品路线按场景判断,能脱敏就脱敏,不能脱敏走审批
三档:公开数据已发布、已对外的材料,任何人拿到都无额外损失可直接使用,重点是别和一二档数据混在一起发

关键点是「拼接升档」。同一份数据换个组合方式,档位可能就变了。比如一张只有姓名的名单,单看可识别性有限;但如果同一张表里还有工号、部门、项目代号,能定位到具体人和具体项目,就该按一档处理。所以分档的对象不是「字段」,而是「实际会被发出去的那份内容」。

  • 分包前先问:这份内容单独发出去,对方能不能反推出客户是谁、价格是多少、接下来要做什么
  • 脱敏要脱到「不可逆」,把姓名替换成编号但保留工号,等于没脱
  • 同一份数据在不同场景档位可能不同,销售场景和测试场景要分开定
  • 给每档配一个默认动作:可直接发、脱敏后可发、必须审批、禁止外发
  • 定期检查有没有「没人认领」的数据躺在共享盘里,这类数据最容易在接入工具时被顺手带出去

第二刀:工具按数据处理位置分类

工具分类不要看它宣传什么,要看它的数据实际经过哪里。可以粗暴分成三类:数据只在你本地或你自己的环境里跑的;数据经过第三方但不落库的;数据会被第三方留存、缓存或用于改进服务的。这三类对数据档位的容忍度完全不同,把工具类和数据档做成矩阵,允许的组合一眼就能看出来。

  1. 第一步:确认处理位置不要读官网首页的宣传语,直接找服务条款和隐私政策里关于数据留存、缓存、二次使用的段落,把原文摘出来存进台账
  2. 第二步:确认版本差异同一家厂商的订阅版和企业版常常落在不同类,个人版功能和企业版功能也可能不同,按你实际会用的那个版本判断
  3. 第三步:确认子处理方看条款里有没有列出转委托或子处理方清单,有清单的记下来,没写清楚的按「会被留存」保守处理
  4. 第四步:填入矩阵把工具类和一档二档三档做成对照,只允许特定组合,其余组合默认拒绝,需要例外时走审批
工具类型一档数据二档数据三档数据
本地或自有环境处理允许,但受内网权限约束允许允许
经第三方但不留存原则上禁止,例外需审批脱敏后可发允许
第三方留存或二次使用禁止原则上禁止,例外需审批允许但避免混入其他数据

工具分类只是给了个总体判断,真正的漏洞通常在链路的某个具体环节。完整链路是:你输入的内容、附件上传、工具侧缓存、调用日志、错误上报、第三方子处理方。其中错误上报和子处理方最容易被忽略,因为出问题时它们不会出现在你的授权清单里,你甚至不知道数据经过了这个环节。

  • 输入内容:提示词里有没有顺手粘贴客户名单、聊天记录、内部文档段落
  • 附件上传:上传的文件是完整版还是脱敏版,表格里有没有隐藏列和批注
  • 工具侧缓存:同一会话里前面发过的内容,后面的回答会不会引用出来
  • 调用日志:日志里记录了哪些字段,谁能看,留存多久,能不能按需删除
  • 错误上报:报错时会把多少上下文传回去,这部分往往不经过你的审批流程
  • 子处理方:模型、存储、日志分析各自又转给了谁,条款里有没有交代

每个环节都问同一组问题:这里的数据谁看得见、留多久、能不能删。三个问题有一个答不上来,这个环节就先按高风险处理,写进禁止场景或加一道审批。别追求一次问全,先把答不上来的列出来,再逐个找供应商要书面答复,答复本身就是你的审计材料。

把结论落成一份能过审的文档

前面的分析如果不落成文档,一个月后就没人记得为什么某个工具被禁。文档不求长,求的是「照着能执行、拿去能过审」。最低限度包含五块内容:数据分档表、允许接入的工具清单、每个工具的处理位置分类、禁止场景清单、复核触发条件。禁止场景要写具体动作,不要写原则。

文档模块写什么验收标准
数据分档表三档的定义和判定例子新人看完能自己判断一份数据属于哪档
工具清单工具名、用途、处理位置分类每个工具都能对应到一条条款原文
禁止场景具体动作,如「不整份上传含客户名单的表格」每一条都能直接对应到某个操作,不含形容词
复核条件什么情况下必须重新评估条件触发时有人负责执行,不是写着好看
  • 禁止场景写动作不写态度:「不把含客户名单的表格整份上传」比「注意保护客户信息」可执行得多
  • 每个工具条目后面附条款原文摘录和获取时间,方便日后比对是否改过
  • 指定唯一的文档维护人,多人维护等于没人维护
  • 文档放在团队能查到的地方,别锁在某个人的电脑里
  • 版本号和时间要留,出现争议时能证明当时的判断依据

什么情况下这套方法不适用

这套方法解决的是「数据要经过第三方」时怎么划线。如果你的场景根本不存在数据外发,硬套这套流程只会增加无效工作量。同样,纯公开数据场景下收益也很低,别把流程做得比业务本身还重。判断原则很简单:只有当数据确实会流向你的控制范围之外,这套方法才有意义。

  • 已做私有化部署、数据完全不出内网:重点变成内网权限和账号管理,不是外发边界
  • 只处理已发布的公开材料:定界收益低,重点是别把一二档数据混进来
  • 强监管行业有更细的行业规范:以行业规范为准,本文方法只做兜底和补充
  • 临时性、一次性的小工具试用:可以简化流程,但试用范围要单独限定,别顺手接入生产数据

边界不是一次性的,多久复核一次

边界会过期,不是因为你的判断错了,而是因为外部条件会变。工具改条款、换子处理方、上新功能,任何一个变化都可能让原来的分类失效。所以复核要分两种:一种按固定节奏,一种由事件触发。复核的目的不一定是收紧,有时只是把某个工具从「禁止」挪到「需审批」,前提是证据变了。

  1. 条款变动时立即复核收到供应商条款更新通知,或自己在站内工具目录里看到变更记录时,当天比对原文,确认处理位置分类有没有变
  2. 无明显变动按季度扫一遍每季度过一遍工具清单,确认每个工具的条款版本、子处理方清单、实际使用范围是否仍与文档一致
  3. 事件驱动快筛行业里出现数据泄露新闻时,拿自己的工具清单对照事故类型做一次快筛,看有没有同类风险
  4. 复核结果只做增量更新多数时候只是把某个工具挪档或补一条禁止场景,不要借机重写整份文档,重写成本高且容易走形

怎么和团队交代这条线

同样的边界,发给业务和发给开发,形式必须不一样。业务要的是「一分钟能查」,开发要的是「工单里的必填项」,法务要的是「有据可查的台账」。把一份长文档群发,结果通常是没人看完,然后继续按老习惯来。要按角色给不同形态的交付物。

  • 给业务:一张对照表,左边是常见数据类型,右边是能发 / 不能发 / 要审批,贴在工作群里随时能查
  • 给开发:把数据分档和工具分类变成接入前必填的字段,不填就走不完流程
  • 给法务:已接入工具台账,每个工具带条款原文和复核记录,出现争议时直接调取
  • 给新人:一页纸的入职说明,讲清哪些动作绝对不要做,具体到操作层面

还要给团队一个反馈通道。业务在实操中遇到对照表没覆盖的情况,要能快速问到人,否则他们会自己猜,猜错一次可能就把一档数据发出去了。反馈通道不必复杂,一个固定的人加一个固定的入口就够,关键是响应要及时。

好的数据边界不是让人不敢做事,而是让人知道做完之后不用回头担心。
下一步把候选工具逐个对照处理位置分类填进矩阵,再把矩阵和你的数据分档表合并成一份文档的雏形;站内工具目录里能看到各工具的基本资料和条款要点,可以边看边填。

常见问题

我们规模不大,也要做这么细的数据分级吗?

不用照抄大厂的分级表。小团队更实用的做法是只分两档:能公开发出去的和不能的,把不能的那档列成具体文件名或字段名。等团队变大、工具变多,再往三档细化。分级的意义在于让每个人判断一致,不在于表格多漂亮。

工具说它不训练、不留存,是不是就可以放心传?

不能只看它怎么说,要看它条款里的留存期限、子处理方名单、以及数据出境相关约定。另外「不用于训练」和「不留存」是两件事,很多工具是后者做不到前者。判断时以书面条款为准,口头承诺和官网宣传语不算依据。

业务非要传敏感数据才有用,怎么办?

先问是数据本身必须传,还是它的形态必须传。多数场景可以用脱敏后的样本、结构化的字段提取、或者把结论性问题代替原始材料。如果确实绕不开,就走审批加留痕,而不是私下传。真要长期用这类数据,该考虑私有化部署而不是继续用外部工具。

边界定好了,怎么发现有人绕过去用?

靠技术手段基本拦不住,尤其是浏览器插件和个人账号。比较实际的办法是把三个东西接起来:账号申请流程、工具台账、以及定期的异常问询。发现有人用了没审批的工具,先搞清楚用了什么数据,再决定是补流程还是收权限。

换了工具供应商,之前的边界要重做吗?

边界本身不用重做,但要重新判定新供应商落在哪一类。常见坑是功能一样但处理位置不一样,比如一个在本地跑、一个要上传。所以定界表要留一列写「处理位置」,换供应商时只需要更新这一列和对应的结论。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。