不少人第一次做 AI Agent,是拿做传统软件的经验往上套:先定数据库、先画页面、先把流程写死。跑起来才发现模型会乱来、结果不稳定、成本按次涨。这篇不讲概念对比,只讲实际动手时最常卡的几处,以及每一步先做什么、什么情况下别这么干。
第一次做 AI Agent,最容易犯的错是拿传统软件那套经验直接往上套:先建表、先画界面、先把流程写死。等跑起来才发现模型有自己的想法,同一句话问两遍给的结果不一样,成本还按调用次数往上走。这不是模型不好用,是规划顺序反了。
下面不聊概念,只讲实际动手时最常卡住的几处。每一处都给一条能判断的标准和一个能马上做的动作。有些场景压根不该做成 Agent,这个也一并说清楚。
先认清哪几处最容易翻车
传统软件是确定输入给确定输出,Agent 的输出天生带随机性。同一段提示词,两次调用可能给你两种格式。麻烦不在结果本身,在于下游有人把它当稳定数据用——直接入库、直接触发付款、直接发给客户。这类地方一旦出岔子,排查起来比普通 bug 费劲得多,因为你复现不了。
所以第一个判断标准很朴素:这条链路里有没有一个环节,需要模型自己决定下一步做什么?有,才值得做 Agent;没有,普通程序加个正则或规则引擎就够了,别为了赶时髦硬上。第二个标准是出错一次的代价。查资料、写草稿,错一次改就是了;改数据库、发消息、扣款,错一次要收拾半天,这种就别让它全自动跑。
| 场景特征 | 建议做法 | 什么情况下不适用 |
|---|---|---|
| 步骤固定、输入规整 | 普通程序写死流程 | 需求以后要频繁变才考虑 Agent |
| 需要理解自然语言、判断意图 | 单次模型调用就够 | 结果要直接入库时必须加校验 |
| 步骤不定、要看中间结果再决定 | 拆成多步 Agent | 对延迟敏感、要求秒回的场景慎用 |
| 涉及写操作或花钱 | 加人工确认再执行 | 内部测试环境可以先放开观察 |
起步顺序:先跑通一次,再谈架构
我见过太多人一上手就搭框架、接数据库、画前端,三天后连「模型到底能不能干这活」都还没验证。顺序反了,后面全是白工。第一步只做最小闭环:一个输入,一次模型调用,一个能打印出来给人看的结果。没有数据库,没有界面,一个脚本就行。
- 跑通最小闭环固定一个输入,调一次模型,把原始返回打印出来。确认它能干活,再看输出格式稳不稳定。
- 故意找茬给空输入、给超长输入、把网络断掉、喂一段让模型返回乱格式的提示词,看你的代码是崩了还是能兜住。每试一种记一笔。
- 再决定拆不拆只有单次调用确实干不完的活,才拆多步或上工具调用。拆得越多,出错的地方越多,维护成本翻着涨。
状态放哪:Agent 不是天生记得住
新手常把对话历史和业务状态混成一坨塞进上下文,短期能跑,改起来要命。对话历史是给模型看的,用来理解刚才聊了什么;业务状态是你自己的数据,订单到哪一步、用户填了哪些字段,这些得落在你自己的存储里,跟模型没有关系。两者混在一起,等你哪天想换个模型或者裁剪历史,牵一发动全身。
每轮往里塞多少历史也得有个上限。长对话不裁剪,迟早把上下文撑爆,表现就是模型开始忘事、答非所问。先简单点做:只带最近若干轮,再加一份滚动摘要。需要跨会话记住的东西,别指望模型自己记,落成一条条可查的记录,下次读出来拼进提示词,比什么都稳。
工具与权限的边界怎么划
给模型配工具,权限能收就收。能只读的就别给写权限,能给固定参数范围的就把范围写在工具定义里,别留一个随便填的字符串。模型乱填参数不是它坏,是你给了它乱填的空间。工具描述也要写明白什么时候该用、什么时候不该用,选错工具多半是描述太含糊。
- 只读优先:查询类工具和写入类工具分开定义,别做成一个万能的
- 参数收窄:枚举、范围、格式都写死在定义里,让模型没有发挥余地
- 高危动作加确认:会改数据、花钱、对外发消息的,执行前停一下等人点确认
- 工具描述写清适用边界:每个工具都补一句「什么情况下别用这个」
- 调用次数设上限:一轮里同一个工具连着调太多次,直接掐断
成本和止损:先设一个你睡得着的上限
按次付费的结构下,一次任务花多少不取决于你,取决于模型自己走几步。所以先别算单价,先把步数上限、单次超时、重试次数定下来。跑批任务更是如此,先小样本跑一遍,看平均走几步、失败率多高,再决定要不要放量。具体的模型价格差异,去 /price-watch 核对当时的数字,别凭印象估。
止损还有个容易被忽略的点:失败任务也在烧钱。模型绕了几圈没得出结论,钱照扣。所以给任务设一个「多久没进展就放弃」的规则,比抠单价有用得多。这条在你做内部工具时可能无所谓,一旦对外提供服务就必须有。
下一步想先知道自己选的模型和通道值不值这个价,可以去站内的价格追踪页看实时对比,再拿一小段真实输入跑一次小样本,比纸上算账靠谱。→常见问题
AI Agent 能不能直接替掉现有的业务系统?
多数情况下不行,也不划算。更现实的做法是在现有系统旁边加一层,让 Agent 负责理解意图和生成结果,真正的写入和校验还是走原来的接口。什么时候不适用:如果这条链路本来就没有确定规则可依,那才需要认真考虑让 Agent 承担更多决策。
小团队要不要一上来就上框架?
可以先不上。先用最直白的调用把一次请求跑通,搞清楚输入输出和失败处理,再决定要不要引入框架。框架解决的是编排和状态管理,如果你连自己需要哪几步都还没数清楚,接进来只是多一层要调试的东西。
怎么判断一个问题该用 Agent 还是写普通代码?
看这一步的输入是不是格式固定、规则能不能穷举。能穷举就写代码,便宜、稳定、好排查。只有遇到需要理解自然语言、需要在多个选项里做取舍、需要根据中间结果换下一步的时候,才值得让模型来决策。