如何确保合规使用AI?企业办公场景的自查与操作建议

安全与风控

给企业办公用户一套 AI 合规自查与操作建议:先划数据边界,再定审批、权限、留痕与培训节奏,最后落到可执行清单。

团队里有人把会议纪要、客户名单、合同草稿直接粘进聊天框,你却说不清这条线该怎么划——这不是技术问题,是流程问题。这篇不讲空泛原则,而是给出一条能照着走的路:先盘清哪些数据碰不得,再定谁能用、用什么、怎么留痕,最后把培训、抽查和出事后的处置固定下来,让合规变成日常动作而不是一次性运动。

团队里有人把会议纪要、客户名单、合同草稿直接粘进聊天框,你却说不清这条线该怎么划。这不是技术问题,是流程问题。换工具解决不了,因为风险不在工具本身,而在用法和边界。

这篇给一条能照着走的路:先盘清哪些数据碰不得,再定谁能用、用什么、怎么留痕,最后把培训、抽查和出事后的处置固定下来。目标不是写一份漂亮的制度文档,而是让合规变成日常动作,而不是年底补一次的运动。

先想清楚:合规不是挑一个「安全的工具」

很多团队的第一反应是找一款「合规的 AI 工具」,买完就以为问题解决了。但同一款产品,用来写周报和用来传客户名单,风险差好几个量级。工具本身合规,不代表你的用法合规。

  • 先定场景再定工具,而不是先买工具再回头补规则,否则规则永远追不上实际用法
  • 同一个工具在不同部门的使用风险不一样,销售和市场把材料喂进去的敏感度完全不同
  • 判断标准:这件事换成一个新来的外包同事来做,你会不会放心把材料交给他
  • 如果答案是「不放心」,那这条数据就不该直接进外部 AI

第一步:把公司数据分三层,标出谁都不能碰的那一层

数据分层是所有后续动作的地基。分不清哪类材料敏感,就谈不上谁能用、怎么用。建议按敏感度先粗分三层,再逐项往部门实际材料上套。

层级典型材料默认处理方式
可公开宣传语、公开资料、对外通稿可自由使用外部 AI
内部流程文档、会议纪要、内部方案脱敏后使用,或走内部审批
受限客户信息、合同、财务、未公开代码与个人信息默认不进外部 AI,单独审批并脱敏

落地动作很朴素:拿一张表格,列出本部门最常喂给 AI 的十类材料,逐条打标签。这一步做完,大部分风险已经被挡在门外了。判断标准是每条材料都能明确落到三层中的某一层。

不适用的情况:已经在用私有化部署、数据不出内网时,分层标准可以放宽一些,但仍要防内部越权访问——内部人员能看到的范围,本身也要分级。

第二步:定「允许清单」,并把账号从个人手里收回来

允许清单不是列一堆工具名,而是要写明每个工具的用途边界。比如「仅用于公开资料改写,不得上传含客户名的文档」。清单越具体,员工越好判断,事后也越好追责。

账号归属同样重要。用个人账号处理公司数据,员工离职、账号被封、对账不清都会变成麻烦。要区分个人账号与公司账号,把「谁申请、谁审批、谁持有」写进流程,做到一人一账号,不共用。价格和额度这类数字会变,具体到站内价格追踪页核对当时的数字。

  • 允许清单里每个工具都写一句用途边界,越具体越好用
  • 区分个人账号与公司账号,公司数据只走公司账号
  • 一人一账号,不共用,方便定位问题来源
  • 申请、审批、持有人三栏写清楚,换人时知道找谁
  • 定期回顾清单,把不再使用或已变更条款的工具清出去
下一步站内已有账号与密钥管理口径,先把「谁申请、谁审批、谁持有」这套流程对齐,再往下定权限。

第三步:权限给到刚好够用,别给「方便」

权限管理的原则是够用就好。需要翻译的给翻译类工具,需要写代码的给编程类工具,不必人手一个全能账号。给得越宽,「方便」带来的风险越大,事后也越难定位是谁在用。

能设额度上限就设,能设调用次数就设。这不是抠成本,而是防止一次误操作把预算跑光,同时给事后排查留一条线索——某笔异常调用对应哪个账号,能快速锁到人。

按岗授权
按岗位发权限,不做无差别发放,减少不必要的暴露面
额度上限
设调用次数或用量上限,防误操作,也便于定位使用来源
交接规则
换人、离职、调岗时账号怎么收回、密钥怎么轮换,提前写清楚
定期复核
每隔一段时间核对一次在用的账号,把闲置和多余权限收掉

第四步:喂进去之前先过一遍「脱敏三问」

脱敏不需要复杂技术,靠三个问题就能挡住绝大多数误操作。第一问:里面有真实姓名和联系方式吗?第二问:有能对应到具体客户的编号或项目名吗?第三问:有还没公开的数字或条款吗?任意一条为「是」,就先处理再喂。

  1. 先看正文扫描姓名、电话、客户编号、未公开数字,命中就先标记
  2. 再查附件表格、PDF、聊天截图里的信息往往比正文更敏感,附件单独过一遍
  3. 做替换把真名换代号、金额换区间、公司名换「某公司」,多数办公任务照样能完成
  4. 复核一遍发出去前再看一次,确认替换没有漏掉对应关系

常见做法是替换而不是删除,因为删掉关键信息任务就没法做了。关键是把可识别信息变成不可识别信息,同时保留任务需要的结构。

不适用的情况:如果签了明确的数据处理约定,且工具方承诺不用于训练,可以按约定范围放宽,但要以书面材料为准,不能凭销售口头说法,也不能凭一份通用隐私政策就自己放宽。

第五步:留痕,让每一条敏感数据流向都能倒查

留痕不是为了监控员工,而是出事时能快速判断影响范围——是真发了客户名单,还是只发了一段公开宣传语。这两件事的处置成本差得很远。至少记四样:谁、什么时候、用了哪个工具、处理的是什么级别的材料。

记录项记什么用途
主体账号,而不是「某部门」定位到具体申请人
时间操作发生的时点判断影响窗口
工具用的是哪一个、哪条路径确认数据去了哪
材料级别可公开/内部/受限判断影响范围

记录本身的存放同样要分级。别把「谁上传了什么」的记录放在人人可见的共享盘里,那等于把风险换了个地方。可以参照站内数据链路审计的思路,把从输入到日志这条线走一遍,看有没有意外落到第三方的地方。

第六步:培训只讲三件事,外加一次抽查

培训最容易走偏的地方是讲太多。规则一多,没人记得住,听完就忘。真正要讲清楚的其实就三件事:哪些不能发、发之前问谁、发错了怎么办。

  • 哪些不能发:直接对着数据分层的受限层讲,给具体例子
  • 发之前问谁:给出明确的审批人或审批入口,别让员工自己猜
  • 发错了怎么办:把上报路径写清楚,鼓励主动说,不要先追责
  • 新人和外包入职必讲,老员工每季度用一封五分钟能读完的提醒代替大会

再做一次无预告抽查:随机看几个人的最近使用记录,发现问题先补流程再谈责任。判断标准很简单——抽查时有人能当场答出「客户合同能不能上传」并给出正确理由,培训才算落地;如果大家只会背口号,说明还得再讲一遍。

第七步:把「发错了」之后的动作写成一页纸

出事之后的顺序要固定,越早写清楚,员工越敢主动上报。捂着不说才是最大风险。一页纸就够,不要写成厚厚的手册,因为真出事时没人会翻手册。

  1. 先停止停止继续输入,不要在同一台机器上继续操作,避免扩大影响
  2. 再确认确认到底发了什么、发给了谁、有没有附件和截图
  3. 定级别按严重程度决定是否通知客户、法务或相关部门
  4. 补流程事后补一条流程改进,把这次漏洞堵上,而不是只处理人

如果涉及外部账号,同步参考站内的密钥与账号泄露处置顺序,别在同一台机器上继续操作。应急处置的顺序和账号轮换节奏,可以到站内指南中心核对当时的做法。

不适用的情况:涉及个人信息或受监管数据的泄露,往往有时间要求,必须第一时间交给法务判断,不要自行处理,也不要先内部消化再上报。

常见问题

我们公司规模很小,也要搞这么正式的流程吗?

规模小反而更容易落地。五到十人的团队不需要制度文件,一张写着「哪些材料不能上传、不确定就问负责人」的表格加一次十分钟的说明就够用。重点是先把受限数据的范围说清楚,别等到客户资料已经发出去才回头补规则。

员工用个人账号处理工作内容,公司管得着吗?

管得着,但方式要对。约定的是「工作数据不能进未经批准的工具」,而不是查员工私人账号。可行做法是提供公司账号并把它做得比私人账号更好用,同时明确写清哪些材料禁止外发,剩下的靠抽查和培训,而不是靠翻手机。

已经有人把客户信息发给 AI 了,现在该怎么办?

按顺序走:先确认具体发了什么、发给哪家、是否留存,再判断严重程度决定要不要通知客户或法务,最后补流程。慌着删记录反而会破坏后续判断依据。涉及个人信息或受监管数据的,直接交法务,不要自己判断严重性。

用了私有化部署是不是就没有合规问题了?

数据不出内网确实解决了外发风险的一大半,但不等于全解决。内部越权访问、日志留存、谁有权限看结果这些还是问题。私有部署只是把风险从「发给别人」换成「自己内部怎么管」,规则仍然要写。

怎么判断一家 AI 工具值不值得进允许清单?

看四样:数据用不用来训练、能不能关掉、日志留多久、出事找谁。这些都要书面答复而不是销售口头承诺。到站内安全与合规分区核对检测口径,再拿一个脱敏后的真实小任务实测一次,比看宣传材料有用。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。