搜「ai 安全 技术与实战避坑」的人,多半已经踩过一次坑:Key 贴进了不该贴的地方,提示词里带了不该带的东西,或者某天发现调用量对不上。这类问题麻烦在,模型本身往往没出错,错在它外面那几层。这篇不铺概念,直接按三道关口给判断标准和动作顺序,也写清哪些场景这么查并不适用。
搜「ai 安全 技术与实战避坑」的人,多半已经踩过一次坑。Key 贴进了不该贴的地方,提示词里带了不该带的东西,或者某天发现调用量对不上。这类问题麻烦在于,模型本身往往没出错,错在它外面那几层。
这篇不铺概念,按输入口、权限口、出口三道关口给判断标准和动作顺序,也写清哪些场景这么查并不适用。看完你至少能决定:眼下这一步该不该停。
第一道关口:进模型之前那几行字
先判断这条数据属于哪类:公开资料、内部资料、个人信息、凭据密钥。凭据类和明文个人信息不进提示词。这不是模型能力问题,是链路问题——数据一旦发出去,就归对方存着了。
最常见的误判,是把 Key 和需求一起粘进对话框,让它帮忙看报错。要贴就贴脱敏后的报错片段,把 Key 换成一串占位符,把账号换掉。
- 列出输入清单:谁在什么场景下会把哪类内容贴进去
- 清单之外的用法一律先拦住,再谈例外
- 对外分享截图和日志前,按同一份清单自查一遍
- 新同事入职第一天就把这份清单交给他,别等出事
第二道关口:权限开到哪一格就够
判断标准只有一条:这个 Key 或这个工具账号,能不能只做当前这件事。做不到,说明权限开大了。
排查顺序是先用最小权限跑通一次调用,报错再加,别反过来。反过来加容易多开,事后没人记得为什么开着。我见过一个五人小团队,排障时给测试账号开了全量调用权限,两周后才发现还开着。
| 场景 | 能不能按这套查 | 说明 |
|---|---|---|
| 纯本地私有化部署 | 重心要挪 | 数据不出内网,第一道关口改成看内网账号和导出通道 |
| 安全研究、红队测试 | 不能照这套拦 | 主动试探模型边界要单独划测试环境 |
| 合规正式审计 | 只能当起点 | 速查清单是自查用,正式审计还得按专项要求走 |
第三道关口:出去的东西怎么留痕
出口要管两件事:日志里留了什么,对外发了什么。日志不该出现完整 Key、手机号、身份证这类字段。判断标准很土但管用——拿一份真实日志当陌生人的视角读一遍,能不能凭它拼出一个人或一个账号。
留痕的目的是出事能查,不是攒数据。留存越长,泄露面越大,按需留就行。别把日志当成资产,它同时也是一份负债。
真出事了,先查哪一步
- 先冻结凭据把相关 Key 和账号停用,记录冻结时间和范围
- 再核对用量异常看调用量、延迟、错误率三个指标,能排除掉一大半误判
- 最后才看内容层面确认提示词和输出有没有带出不该带的东西
- 留一条记录什么时候冻结的、冻结了哪几个、谁核对的,事后说明里最有用
顺序别反。先冻结再查,反过来查会浪费掉止损窗口。也别一上来就怀疑模型被降智或被换掉,那是最难证伪的猜测。
这套查法什么时候不适用
纯本地私有化部署、数据不出内网的场景,第一道关口的重心要挪到内网账号和导出通道上。做安全研究、红队测试这类主动试探模型边界的活,不能照这套拦,得单独划测试环境。合规审计要的是证据链,速查清单只能当自查起点,正式审计还得按专项要求走。
说白了,这三道关口是给日常调用场景用的护栏,不是安全体系的全部。它解决的是「别在低级环节上出事」,剩下的专业问题还得找专业流程。
下一步想先看看各家 API 的价格与模型资料,或者对一下中转站的可信度,可以去站内这几页核对当时的数字,再决定要不要收权限。→常见问题
我只用官方 API,不走中转,还需要按这套查吗?
需要,但重心不同。官方渠道省掉的是中间商这一环,省不掉你自己的输入习惯和权限配置。Key 是不是还在代码里硬编码、提示词里有没有明文手机号,这些跟你走不走中转没关系。先把输入口和权限口过一遍,成本很低。
怎么判断一条内容能不能发给模型?
用一句话试:这段内容如果原样出现在别人的屏幕上,我能不能接受。不能接受就先脱敏再发。拿不准的字段直接替换成占位符,不影响模型给出可用回答。判断不了的走人工确认,别自己拍板。
排查该从用量数据看还是从内容看?
先用用量数据。调用量、延迟、错误率这类指标变化快、解释力强,能迅速区分是链路问题还是内容问题。用量正常再去翻会话和日志。顺序反了容易在内容里绕半天,实际问题在额度或限速上。