团队开始用 AI 工具之后,数据流出去的路子一下多了:提示词、上传的附件、日志、第三方插件、中转接口,每条都可能带出内部信息。技术手段能挡一部分,但真正决定边界的是管理原则有没有定清楚、谁签字、出事找谁。这篇按管理者视角,把该优先立的几条原则和对应的检查动作讲一遍,并说明哪些情况下不适用。
团队开始用 AI 工具之后,数据流出去的路子一下多了:提示词、上传的附件、日志、第三方插件、中转接口,每条都可能带出内部信息。技术手段能挡一部分,但真正决定边界的是管理原则有没有定清楚、谁签字、出事找谁。工具是执行层,原则是决策层,两层缺一层都会漏。
这篇按管理者视角,把该优先立的几条原则和对应的检查动作讲一遍。不追求大而全的合规体系,只挑几条能马上落地、且能挡住大部分常见事故的原则;同时说明每条在什么情况下不适用,免得照搬反而拖垮效率。
先分级,再谈能不能发出去
原则很简单:没有分级就没有边界。先把内部资料按公开、内部、敏感、受限四档过一遍,明确哪一档绝对不能进任何外部 AI 工具。只分「机密/非机密」两档通常太粗,实际执行时没人敢判断,最后要么全放行要么全卡死。
| 档位 | 典型内容 | 对外部 AI 工具的态度 |
|---|---|---|
| 公开 | 已发布的产品介绍、公开文档 | 可直接使用 |
| 内部 | 会议纪要、内部流程说明 | 脱敏后可用,需留痕 |
| 敏感 | 客户名单、报价、合同要点 | 默认不发,需单独审批 |
| 受限 | 个人身份信息、口令、密钥、源码核心段 | 禁止外发,任何工具都不行 |
- 让每个业务口自己列出一份「本部门最常发给 AI 的东西」清单,再逐条归到某一档,比自上而下发文更快见效。
- 分档标准要写成可对照的例子,别只写抽象定义,否则一线判断不了。
- 定期抽查实际调用内容和分档是否一致,不一致时先补标注再谈处罚。
最小权限 + 有人签字
原则是:能接触数据的人越少越好,每一次外部调用都要能追到具体的人和事由。key 别共享,账号别多人共用,权限按角色给而不是按方便给。共享一个 key 看着省事,出事时你连是谁发的都不知道,追责和止损都会慢半拍。
- 固定审批表单用什么工具、发哪类数据、发多久、谁批的,四项写全;表单越短越可能被真的填。
- 按角色给权限按岗位而不是按个人给,换人时只换人不换权限结构,减少遗漏。
- 离职与换人回收按清单回收账号与密钥,回收后当场验证旧凭据是否已失效。
- 验证留痕拿一份近期调用记录,看是否能还原出「谁、什么时候、发了什么类别的东西」,还原不出来就说明权限和留痕没到位。
检查点就一个:随便挑一次外部调用,能不能在几分钟内说清责任人。说不清,权限和留痕这两块就还没做到位。工具层的密钥管理和访问控制细节,可以到站内相关工具页面核对当时的做法。
最小必要:能少发就少发,能脱敏就脱敏
原则是完成任务所需的最少信息才发出去。姓名、身份证、手机号、客户名单、合同原文、账号口令这类字段默认不该出现在提示词里。这条不靠自觉,靠模板——给常用场景各准备一版脱敏模板,把真实值换成占位符,让同事直接套用,比反复强调「注意保密」有效得多。
- 最小必要
- 只发完成当前任务必须的信息,多一个字段都算多余
- 脱敏模板
- 把真实值替换成占位符的现成提示词,直接复制使用
- 可还原性
- 判断标准是换成外部人,凭这些字段能不能指到具体某个人
要分清边界:脱敏能降低风险但不等于没风险,拼接多个字段后仍可能被还原出个人身份。所以脱敏只是降低概率,不是拿到免死金牌;真正敏感的业务,仍然应该走本地或私有化部署,而不是指望脱敏。
日志与留存的纪律
原则是两边都要有明文规定:日志里不该出现的,就别让它进去;该留的,留够时间且只给需要的人看。否则要么出了事查不了,要么一泄露就是一大片。日志常常是被忽略的泄露源,因为它看起来「只是记录」。
- 定一份日志字段黑名单,把提示词正文、密钥、完整会话内容列进去,从采集端就拦掉。
- 留存时长按业务和合规要求写死,到期清理,别默认永久保存。
- 日志访问权限单独管理,不要和日常开发账号混在一起。
- 定期抽查日志内容,确认黑名单字段确实没被写进去。
- 问自己一句:如果这份日志被完整泄露,损失大不大?答案偏大就说明策略还得调。
日志脱敏与留存的具体口径会随工具和合规要求变化,可到站内日志脱敏相关页面核对当时的做法与建议,不要照搬旧结论。
先想好出事那 24 小时怎么办
管理原则最后要落到「出事能止血」。谁有权立刻断掉某个工具、谁负责通知、对客户和监管怎么讲,这三件事必须提前定人。真出事时现场是乱的,临时决定往往慢且容易漏掉某一边。
- 写一页应急卡只写三行——第一步停什么、第二步查什么、第三步告诉谁;贴在群里比十页预案更容易被真的用上。
- 指定断停权明确谁可以在不请示的情况下立刻停掉某个外部工具,避免层层上报耽误止血。
- 固定对外口径对客户和监管怎么说提前写好模板,避免临场各说各话。
- 做桌面推演半年一次,拿一个假设场景问相关人「你第一个动作是什么」,答不上来就补培训。
常见问题
这些原则里,哪一条最该先做?
先做分级。分级没定,后面权限、脱敏、日志都无从判断,因为没人知道什么算敏感。分级的粒度按你们业务实际来,不必一上来就做多细,但要有一份写出来的清单,并且让一线同事能对照执行。
只靠技术手段不能解决吗?
技术手段只能覆盖它被配置到的地方。提示词里手动贴进去的内容、同事用私人账号调的工具、截图转发,这些工具管不到。管理原则的作用是把「不确定要不要发」变成「有一套规则可以查」,减少靠个人判断的空间,这才是它的价值。
小团队也要做这么全吗?
不用。五个人以内的团队可以先做三件事:列一份绝对不能外发的资料清单、约定账号和密钥不共用、出事时指定一个人负责止损。等人数和工具数量涨上来,再把审批、日志留存、定期推演补上,顺序比齐全更重要。