搜「AI安全防护权限管理避坑」的人,多半已经动过手了:Key 建了、工具接了、权限也配了,但心里没底。这篇不铺概念,直接说清哪三道口子最常被漏掉,每道口子怎么判断配没配对、出问题时按什么顺序查。配置类内容只有适用条件,没有一劳永逸。
搜这个问题的人,通常不是刚听说 AI 安全这回事,而是已经动手配过了:Key 建了几个、工具接上了、权限页面也点过一遍。问题是配完心里没底——到底哪一格填错了会出事,出事之后先看哪儿。这篇不铺概念,把最容易漏的三道口子摆出来,每道给判断标准和排查动作。配置这类东西没有一劳永逸,只有“当前这套还适用”。
先说清楚适用范围:下面讲的是你自己搭或自己管的那部分权限,包括模型 API 的凭据、挂给模型的工具、以及数据进出你系统的路径。如果你只是用别人做好的成品工具、后台全托管,能动的开关有限,重点看第三道口子和最后的排查顺序就行。另外,单人本地调试可以宽松,一旦接进自动化流程或者放到服务器上,标准就得换。
第一道口子:凭据的权限范围到底开到哪
凭据这块最常见的配法,是一个项目一把 Key,全组共用,权限默认拉满。图省事,但出了事没人说得清这把 Key 是谁的、能干什么。先别急着建新的,把手头已有的 Key 列一遍,每把回答三个问题:给谁用、能碰什么、泄露了最坏是什么结果。
判断标准很直接:假设这把 Key 明天出现在公开仓库里,最坏情况是烧钱、读数据、还是能改配置?如果答不上来,就是没配到位。能烧钱和能读数据是两回事,能改配置又是另一层,混在一把 Key 里就等于三层风险叠一起。
- 按业务线或项目拆 Key,一把 Key 只服务一个用途,名字里写清归属
- 记录归属人和用途,别只留一个“test”这种谁都不敢删的名字
- 离职、换项目、交接时同步换 Key,别让旧 Key 继续挂着
- 只读和可写分开,账务类权限单独一把,不和日常调用混用
有个常见误判:觉得 Key 只在内部用、不会被看到,就懒得拆。实际用下来,泄露路径往往不是被黑,而是贴进聊天记录、写进前端代码、或者提交到仓库历史里。拆 Key 的成本很低,回收的成本很高,这笔账不难算。
第二道口子:工具调用和外部动作的闸门
接了工具之后,风险重心就从“模型说了什么”挪到“模型能执行什么”。读文件、发请求、跑命令、写数据库,这些动作各是一道门,得单独授权。很多人只配了模型侧的权限,工具侧沿用默认,等于前门锁了后门开着。
判断方法:把每个工具能做的动作列出来,逐个问“模型如果胡说八道,这个动作会不会真的执行”。会,就必须加确认或者白名单。只读动作可以放行,不可逆动作必须拦一道。
| 动作类型 | 默认处理 | 什么情况下可以放宽 |
|---|---|---|
| 读取文件、查询类 | 放行,但限制目录或数据范围 | 测试环境、公开数据 |
| 发送消息、写数据库 | 加确认或限定目标 | 内部低风险系统,且有日志 |
| 删除、付款、改配置 | 强制人工确认,不进自动流程 | 基本不建议放宽 |
| 调用外部接口 | 白名单域名加频率限制 | 对接方稳定且已评估 |
误判提醒:在提示词里写“不要删除任何文件”就当闸门用了。模型输出本身不可靠,指令侧拦不住执行侧。闸门要放在工具执行那一层,提示词只能算辅助。
- 列工具清单把当前挂给模型的所有工具写出来,标上每个能做的动作,别漏掉间接调用。
- 标不可逆动作删除、发送、付款、改配置单独标红,这些默认不进自动流程。
- 加执行侧拦截在工具调用入口做白名单和确认,验证方式是构造一次越权调用,看是否被拦住。
- 按项目收窄不同项目给不同工具集,验证时确认 A 项目的模型调不到 B 项目的工具。
第三道口子:数据从哪儿出去、留下了什么
权限配好了,还得看数据流向。一次请求从你输入开始,经过模型服务、工具、日志系统,最后落到哪几家、留存多久、谁能看。这条路径说不清,就先别往里贴业务数据。这不是让你别用,是让你先知道东西去哪儿了。
判断标准:能不能完整描述一次请求的输入、处理、日志三个环节各落在哪。说不清就先脱敏再试。客户信息、内部文档按最严格路径走,公开资料和已脱敏的测试数据可以放宽,但放宽的前提是你确认过它真的不敏感。
- 入口做脱敏,手机号、证件号、内部编号这类字段不进提示词
- 日志留存期限和访问人写进配置,别默认全开、默认永久
- 上传文件的临时存储位置和清理策略要明确,测试完记得清
- 对外分享的输出先过一遍,确认没把内部上下文带出去
这块容易被忽略,因为它不在权限页面里,而在数据流里。权限配得再细,提示词里塞了一整份客户名单,前面的功夫也白搭。
出问题时按这个顺序查,别一上来就换模型
发现行为不对,很多人的第一反应是换模型、调提示词。这两步放到最后。先按凭据、工具、数据三层往下查,顺序反了容易边查边扩大暴露面。
- 查凭据看这次调用用的是哪把 Key、权限范围多大,有没有闲置 Key 没回收。
- 查工具翻调用记录,看有没有越权动作被放行,确认拦截规则是否生效。
- 查数据核对日志和出口,看有没有超出预期的数据流出或留存。
- 先收权限再排查确认配置错了先收紧,再回头找原因,别边查边开着口子。
每一层留一个可对照的检查点,比如一次完整调用的记录:用了哪把 Key、调了哪个工具、数据落到哪。事后复盘靠这个,不靠回忆。具体到各家服务当前的权限项和默认值,站内资料库有整理,以你查看当时的页面为准,别凭印象。
下一步三道口子的判断标准拿去对一遍,各家服务的权限项和当前数字到站内资料库核对,别凭记忆配。→常见问题
权限配得越严越好吗?
不是。收得太死会让正常流程天天卡审批,最后大家绕开流程用共享 Key,反而更乱。合理的做法是按动作的可逆性分级:只读放宽,不可逆动作收紧,中间地带加确认。
小团队没有专职安全人员,从哪一步开始?
先把 Key 按用途拆开、把工具的可写动作列出来、把日志留存和访问人写清。这三件事不依赖工具,一个人半天能做完,收益也最直接。做完再考虑上平台化的权限系统。
模型自己会不会绕过权限?
模型不会主动越权,它只是按输入生成文本和工具调用请求。真正决定动作能不能发生的是你那侧的执行逻辑。所以防护重点放在执行前的校验和白名单,而不是靠提示词约束模型。