很多人第一次做智能体,是把对话模型塞进一个循环里加几个工具,然后发现它要么不用工具、要么乱调一通,最后还不如直接问。问题往往不在模型,而在没分清这两类东西各自负责什么。这篇给一套对照维度,帮你想清楚手上的任务该用普通对话、还是值得上智能体,以及上了之后先盯哪些环节。
很多人第一次做智能体,是把对话模型塞进一个循环里、再挂几个工具,结果发现它要么不调用工具,要么一通乱调,最后还不如直接把问题丢给对话框。问题往往不在模型本身,而在于没分清这两类东西各自该负责什么。先想清楚手上的任务到底该用普通对话、还是值得上智能体,比急着写循环重要得多。
这篇给一套对照维度:先看能力边界差在哪,再看什么任务根本不该上智能体,最后给真要做的人一个起步顺序和自查清单。全程只讲判断标准和动作,不承诺效果,具体数字一律去站内页面核对当时的数值。
先记住一句话:一个是答题,一个是办事
普通对话模型的形态很单纯:给它一段输入,它出一段输出,这一轮结束任务就结束,中间不改变任何外部状态。智能体则是在模型外面套了一层循环加工具,模型只负责决定下一步做什么,真正动手的环节由代码去执行,执行结果再喂回模型,直到它认为可以收尾。
- 普通对话模型:一次问答交付,输出即终点,不碰你的文件、不发请求、不改系统状态
- 智能体:模型负责决策,代码负责动手,循环多轮直到完成或触到上限
- 判断窍门:这件事如果拆成一次问答就能交付,大概率不需要智能体
- 反过来也一样:任务需要人反复追问、逐步收窄,用对话模型配好提示词更省事,也更好控
能力对照表:从能不能到敢不敢
下面这张表按四个维度对照,重点不是谁更厉害,而是各自的短板在哪、代价由谁承担。看完对照表再回到自己的任务,判断会清楚很多。
| 维度 | 普通对话模型 | 智能体 |
|---|---|---|
| 输入来源 | 只吃你给的内容 | 能自己去查资料、读文件、调接口补信息 |
| 多步执行 | 一轮结束,不会自己重来 | 能拆任务、中途改计划、失败后重试 |
| 状态与记忆 | 靠你把上下文塞进去 | 把中间结果存到外部,跨回合能接上 |
| 成本与风险 | 一次调用的花费,出错面小 | 每步都是一次调用,重试也进账单,动手环节越多出错面越大 |
注意最后一行:智能体的成本不是固定的,它跟你给的工具数量、循环上限、失败重试策略直接相关。想知道不同模型和工具调用当前的计价口径,到 /price-watch 看价格追踪,再去 /models 核对具体模型资料,别拿记忆里的数字做预算。
什么情况下普通对话模型就够了,别硬上智能体
新手最常见的浪费,是把本来一次问答就能搞定的事硬做成智能体,结果多了循环、多了失败分支,交付反而不稳定。以下几类任务,先老老实实用对话模型或脚本,性价比高得多。
- 文案、翻译、总结、解释概念这类一次性产出,加工具只是添乱
- 流程固定、规则明确的活,写死脚本比让模型现场决策稳定得多
- 对结果确定性要求高的场景(对账、批处理、格式转换),模型只用它做其中模糊的那一小段
- 任务依赖大量人工追问、逐步收窄需求的对话式场景,提示词配好比循环好用
不适用的情况也要说清:如果任务开始出现「看情况」「先查一下再说」这种分叉,说明单轮问答已经兜不住,该考虑加工具了。但也不必一步跳到全自动,先做成半自动、每步人工确认,是更稳的过渡。
什么任务值得上智能体:三个信号
判断要不要上智能体,不用纠结概念,看任务本身有没有下面这三个信号。命中两个以上,再考虑投入;只命中一个,先做半自动版本验证一下。
- 信号一:信息要现查
- 答案不在模型参数里,比如读你本地文档、查系统当前状态、拉最新接口返回
- 信号二:步骤数不固定
- 做几步取决于中间结果,写不成一条直线脚本,需要中途判断再决定下一步
- 信号三:要对环境产生动作
- 发消息、改文件、提交工单,而不只是给建议,模型只出主意不落地就不算智能体
反例提醒:步骤固定但很长,并不代表要用智能体。长流程写成脚本照样更可控、更好查。只有当「下一步做什么需要根据中间结果现场判断」时,循环和工具才真正有价值。
真要做,先按这个顺序搭,别一上来做全自动
决定要做之后,最容易犯的错是一上来就做全自动、工具给一大把、没有终止条件。按下面四步走,每步都能验证,出问题也知道停在哪。
- 先列工具清单把任务需要的工具一个个写出来,明确每个工具的输入输出和失败返回,宁可少而准,先给三五个,别一次塞十几个
- 先跑单轮加人工确认每轮执行前让人看一眼模型选的工具和参数,重点看它选得对不对、参数填得准不准,这一步能暴露大部分问题
- 加失败处理和上限设置最多几步、最多几次重试、超了怎么办,防止任务没完成就不停循环、空转烧额度
- 留全量日志把每次调用的入参出参记下来,包括被拒绝和被重试的,出问题才有得查,不然只能看着最终结果猜
怎么选:一张自查清单
把上面的判断收成一张清单,动手前逐条过一遍。任何一条答案偏向「不需要」,就先把简单方案做扎实,再考虑升级。
| 自查问题 | 选是 | 选否 |
|---|---|---|
| 答案是否依赖外部实时信息 | 倾向智能体 | 倾向对话模型 |
| 步骤是否固定可枚举 | 倾向脚本或对话模型 | 可以考虑智能体 |
| 模型选错一步的代价大不大 | 先半自动,人工兜底 | 可逐步放开 |
| 预算是否敏感 | 先用对话模型验证提示词 | 再评估加循环和工具 |
最后两条别忽略:模型和工具的价格随时会变,动手前到 /price-watch 和 /models 核对当时的数字,再决定用哪档模型跑循环。如果你打算接第三方中转,先去 /tools/speed-test 做一次连通与响应检测,确认可用再谈成本。
新手最容易踩的四个坑
这几个坑跟模型好坏关系不大,主要是搭法的问题,提前知道能省很多排查时间。
- 工具给太多:一次塞十几个工具,模型反而挑花眼、乱调,先给三五个最必要的
- 没有终止条件:任务没完成就无限循环,必须设步数上限和超时,超了就交人工
- 拿对话模型的评测结论推智能体效果:单轮答得好,不代表会规划多步、会用工具
- 不记录过程:只留最终结果,出问题只能靠猜,排查成本翻倍
先问这件事一次问答能不能交付,能就别上循环;不能,再问下一步是不是得看中间结果决定。下一步拿你手上正在纠结的那个任务,对着 /guides 里的智能体起步指南和自查清单过一遍,再决定用对话模型还是上智能体,别凭感觉选型。→
常见问题
智能体会比普通对话模型更聪明吗?
不一定。底层往往是同一类模型,差别在于智能体外面多了一层循环和工具,能查资料、能动手。单轮推理质量未必更高,只是可做的事更多,代价是调用次数和出错机会一起变多。
我的任务要不要上智能体,有没有快速判断办法?
先问两件事:答案是否需要现查,步骤是否写不成固定脚本。两个都答是,才值得考虑智能体;只要有一个否,先用对话模型配合提示词验证需求,往往更省事。
做智能体是不是必须换更强的模型?
不是必须,但工具调用和长链路规划对模型要求更高。可以先用现有模型跑通流程,看它在选工具、填参数上错在哪,再决定是换模型还是把工具定义改得更清楚。
智能体成本和对话模型差多少?
没有固定倍数,取决于一次任务调用几次模型、失败重试多少。同样一个问题,对话模型一次调用,智能体可能十几次。具体单价去 看,再按你自己的调用次数估算。
对话模型加个知识库算智能体吗?
一般不算。检索增强是给对话模型补材料,模型仍然只回答一次。加了多步判断、失败重试、对外部系统动手,才更接近智能体的形态。