财务场景用 AI,最怕的不是它算错,而是你把不该给的凭据、账目、客户信息一起丢进去,或者拿它生成的数字直接入账。这篇不讲概念,只给判断线和可执行动作:哪些环节必须先过检查、哪些输出必须人工复核、出了问题按什么顺序处理。
财务场景用 AI,最怕的往往不是它算错一步,而是你把不该给的凭据、账目、客户信息一起丢进去,或者把它生成的数字直接拿去入账。算错还能改,数据出去了收不回来,账记错了要倒查一大圈。
这篇不讲概念,只给判断线和可执行动作:哪些数据能喂、哪些输出必须人工过一遍、选工具前查什么、真出事按什么顺序处理。正在用或准备上 AI 财务工具的人,可以照着一条条对照。
第一步:先划清什么能喂给 AI 财务工具
最实用的做法是按敏感程度分三档,先给手里的数据贴标签,再决定往哪儿送。分档不用很精细,能挡住大部分低级失误就够了。
| 数据档位 | 典型内容 | 默认处理 |
|---|---|---|
| 凭据类 | 账号密码、支付密钥、银行 U 盾信息、开票系统登录凭据 | 一律不进任何外部 AI 工具 |
| 主体明细类 | 客户与员工的身份证号、银行卡号、手机号、合同明细 | 默认不进;确需处理先脱敏再送 |
| 聚合结果类 | 只到科目层级的汇总数、比率、期间对比 | 相对安全,但仍要看工具留存条款 |
判断某条数据能不能进,看三点就够了:泄露后会不会直接影响某个具体的人或账户;能不能通过公开信息反推出来;工具方有没有明确说明不留存、不用于训练。三条里有一条答不上来,就默认不进。
不适用的情况也要说清:内部私有化部署、且已经做过数据边界审计的环境,可以按内部定级适当放宽。但放宽不等于免检,谁在什么时候送了什么数据,仍然要留痕。
第二步:AI 给出的数字和结论怎么复核
先给输出分个类:算出来的和想出来的。算出来的必须能一路追到原始凭证或表内字段;想出来的(比如「建议这样分摊更合理」)只能当思路参考,不能直接落账。
- 定用途先确认这条输出是给谁看的:内部参考、入账、报税还是对外报告。后三类必须走人工复核,不能例外。
- 核口径复核不是把数重算一遍,而是核对统计口径和取数范围:期间对不对、含不含税、有没有把估算当实测。
- 留版本复核通过后保留原始输出和修改记录,标明谁改的、改了什么,方便日后追溯。
常见翻车点集中在三处:把不同期间的数拼在一起、把估算值当实测值用、把缺失项当零处理。这三类错误在表上看着都很正常,不上心根本发现不了。
第三步:选工具和接第三方前的检查清单
选型阶段多花半天查条款,比上线后补救划算得多。下面几项是必查项,缺一项就要打问号。
- 数据留存与训练条款:数据存多久、会不会用于模型训练,条款里要能找到明确说法
- 导出与删除:能不能把历史数据完整导出,能不能要求删除,删除后多久生效
- 权限最小化:是否支持按角色分权,普通成员能不能看到全量账目
- 日志范围:会话和操作日志会记什么、谁能看、保留多久
- 接入链路:数据从你的电脑到模型服务商中间经过谁,多一层就多一个风险点
接入方式本身就决定风险高低:本地工具、官方 API、中转接口三者的数据链路完全不同,中转要多查一层。拿不准时,先到 指南中心(/guides) 把从提示词到日志的整条链路走一遍再决定,别只看功能演示。
第四步:真出问题了,按这个顺序处理
出事后最常见的错误是顺序颠倒:先忙着查原因、先忙着解释,结果损失还在扩大。正确顺序是先止损、再固定证据、最后才谈责任。
- 止损停用相关凭据、切断接入、冻结涉事账号,先让损失停下来,再考虑别的。
- 固定证据会话记录、账单、操作日志按时间线整理归档,别急着删聊天记录,删了就说不清了。
- 内部同步指定一个人对外口径,避免多头说法;同步内容只讲事实和处理动作,不猜原因。
- 复盘改进查清是哪一环漏了:数据分档没做、复核没走、还是权限开太大,对应补上流程。
处理过程中有个容易忽略的点:涉及第三方(客户、供应商)的,先判断有没有通知义务,别等对方自己发现。这类判断拿不准时,宁可先内部上报,不要压着。
落地清单:每次上线前过一遍
把下面这张表当成上线前的检查单,逐项打勾。任何一项没落实,就先别把真实数据接进去。
- 数据侧
- 分类分级做过没有、敏感字段脱没脱敏、留存期限写没写清
- 流程侧
- 谁审批接入、谁复核输出、异常时报给谁,三条都要落到具体人
- 文档侧
- 有没有一页纸写明「本工具不得用于哪些用途」,出问题时这页纸最有用
- 演练侧
- 有没有模拟过一次数据外泄或错账,知道第一步该干什么
想让这套检查更省事,可以先把工具本身的底细摸一遍:数据链路怎么走、留存条款怎么写,到 工具检测(/tools/speed-test) 按当时的检测项对照着看,比凭印象判断可靠。
财务用 AI 的底线不是「它答得对不对」,而是「你给它的东西收不收得回来、它给的东西你敢不敢签字」。下一步把准备接入的 AI 财务工具拿到站内按数据链路和留存条款逐项核对,确认哪些数据能进、哪些输出必须复核,再决定上线范围。→
常见问题
小团队没有专职合规岗,这套流程能简化吗?
能。把三个动作留住就行:接入前一人签字确认数据范围、输出到对外用途前第二人看一眼、凭据单独保管并定期轮换。其余文档可以从简,但这三条不能省,因为它们对应的是最难挽回的损失。
AI 财务工具算错了,责任算谁的?
先看你有没有尽到复核义务。工具方按服务条款承担它该承担的,但把结果直接用于入账、报税、对外披露的人,通常要为自己的采信负责。所以留痕和复核记录不只是流程,也是出事时区分责任的关键材料。
把数据脱敏后再给 AI 处理,是不是就没风险了?
脱敏降低的是识别风险,不是消除风险。多个字段组合起来仍可能反推到具体对象,而且脱敏后的数据一旦被留存,仍属于需要管理的对象。脱敏是必要动作,但不能当作免检通行证。