很多人第一次用智能体,是拿它去做一件本来问一句话就够的事,结果又慢又贵还跑偏。也有人反过来,把需要反复查资料、调工具、校验结果的活硬塞给对话框,来回贴十几次也没干完。这篇不聊概念定义,只讲两者到底差在哪一层,以及怎么用几个具体问题判断自己该用哪个。
很多人第一次碰智能体,是拿它去干一件本来问一句话就够的事:让它整理个标题、改个说法,结果它慢悠悠转了一大圈,还跑偏。反过来也常见——一个得反复查资料、调工具、对结果做校验的活,被硬塞进对话框里,来回贴十几次也没干完。不是模型不够聪明,是用错了层。
这篇不铺垫概念。就讲清楚这两者到底差在哪一层,那层多出来的东西是什么,以及最要紧的:怎么用几个具体问题,五分钟内判断自己这活该用哪个。判断标准我也会说清在什么情况下不成立,别照着套。
差别不在模型,在那一圈循环
普通对话模型干的事很朴素:给一段输入,吐一段输出,结束。上下文里有什么它就只能看什么,看完就完事,不会自己回头再看一眼。你让它写个摘要、翻个意思、解释一段代码,它在这一层里做得很好,也快,也便宜。
智能体多出来的第一样东西,是让模型反复决定「下一步做什么」。每决定一次,就真去执行一下,把结果塞回上下文,再判断下一步。所以同样是那个底座模型,套上循环可能变强,也可能变傻。变傻多半不是因为模型笨,是工具不好用、反馈不清楚,模型拿着糊里糊涂的返回结果硬往下猜。
有个很实用的判断线索:把这个活拆成十来步,让你自己手动做,你会不会中途改主意?比如先查一页资料,发现不对,换个说法再查。会改主意,说明它更像智能体的活;一条道走到黑、压根不用回头,那多半就是对话模型的活。
工具和状态:多出来的两样东西
工具,指模型能调用外部能力:查库、跑代码、读文件、发请求。没有工具,模型只能在脑子里编,编得再顺也是猜的。状态,指它跨轮次记得自己做过什么、去过哪、还剩什么没做完。注意聊天记录不算状态,那只是把说过的话堆在那儿,没人整理。
实际用下来,智能体翻车十次里有九次不是模型不行。要么工具返回的格式模型看不懂,比如给你一段嵌套了三层的 JSON,它把字段名当成了内容;要么报错压根没人处理,接口超时了,模型把空结果当成「查过了,没这条」,接着往下推。这两种坑,换多贵的模型都填不上。
所以上手前先做一次自检:这活需要碰外部数据吗?需要真的执行动作吗?两个都否,那就别上智能体,对话框里问清楚直接要结果更省事。只满足一个,再往下看具体是哪一步必须外部介入。
- 单轮映射
- 一段输入对一段输出,模型只能看见上下文里有的东西
- 循环
- 模型自己决定下一步、执行、看结果、再决定,直到收工
- 工具
- 模型能调用的外部能力,查库、算数、读文件都算
- 状态
- 跨轮次记住进度和已做动作,不是单纯把聊天记录堆着
三个问题,五分钟判断该用哪个
第一个问题:这活做完,有没有客观的对错标准?比如「从这张表里把某几列抽出来」,对错很清楚;「帮我优化一下这段文案」,没有标准。没有标准的时候,智能体的自我检查就是瞎猜,它给自己编一个标准,然后往死里执行,你还得从头看一遍,不如人一眼扫过去。
第二个问题:中间步骤能不能接受失败重试?查资料查错了可以再查,但删数据、发邮件、下单这类一次性动作,交给智能体风险很大,除非中间卡一个人工确认。第三个问题:这活一周做几次?偶尔一次,把提示词写清楚、手动贴一遍,比搭流程快得多;天天重复做,才值得为它配循环和工具。
三个问题都不满足,别装。只满足第一个和第三个,那更像流程自动化,用脚本或者固定工作流就能办,未必需要模型自己做决策。这套判断不适用的情况也有:任务本身还在摸索阶段、边界天天变,那就先手动跑几遍,别急着固化。
| 你的情况 | 倾向选择 | 原因 |
|---|---|---|
| 偶尔一次、标准清楚 | 普通对话 | 手动贴一次更快,搭建成本回不来 |
| 天天重复、标准清楚、要碰外部数据 | 智能体 | 循环加工具能稳定接住重复劳动 |
| 没有对错标准、偏主观 | 普通对话 | 模型自检不可靠,人看一眼更准 |
| 含不可回滚动作 | 先别上,或加人工确认 | 一次失误收不回来 |
| 任务边界天天变 | 先手动跑几遍 | 流程还没定型,固化等于白搭 |
普通对话模型卡住的地方,长什么样
典型症状是反复贴同样的资料。你贴完一份文档问问题,下一轮它又要你把关键段落重贴一遍,聊到第五轮,最早那份资料早就被挤到看不见的地方。这不是它记性差,是它手里只有一个越堆越长的聊天记录,没人替它挑出哪段还有用。
另一个症状是答案永远停在「建议」。你问它这个订单状态是什么,它给你一段「建议你去查一下订单系统」;你问这笔数对不对,它说「建议核对原始凭证」。它没法真的去查那一条记录、跑那一次计算,只能给方向。
还有一类是中途需要人拍板,但模型只能一次性给完整方案。它不会停下来问你「这一步确认了再往下走吗」,于是只能把整条路径一次性猜完,猜错一步后面全歪。碰到这些情况,缺的是循环和工具,换一个更贵的模型解决不了根本问题。
智能体反而更差劲的几种场面
任务边界模糊的时候,智能体会自己造一个标准然后往死里执行。比如「帮我把这段产品文案优化一下」,它可能自己认定「优化=加形容词、加感叹号」,然后一路加到底。你拿到手的东西看着挺热闹,方向完全不是你要的。这种活得先把标准写死,再交给它。
中间有不可回滚动作的时候更危险。删数据、发邮件、下单、改配置,没做人工确认就让它跑,一次失误收不回来。有团队踩过这个坑:让智能体「清理一下测试环境的临时文件」,它把路径理解错了一个层级,删掉了不该删的目录。事后能恢复算运气好。
工具本身不稳定也会拖垮它。接口偶尔超时、偶尔返回空,模型分不清「查了没有」和「查了但没查到」,会把错误当事实继续往下推。最后输出一段看着非常合理、逻辑通顺、但每个事实都错的结果。上下文塞得太满也一样,前面几轮的历史把关键信息挤掉,它会重复做已经做过的步骤,转圈转半天。
- 给不可回滚动作前面加一道人工确认,别省这一步
- 工具返回空结果时,要求模型明确说「没查到」,不许自己补
- 把长任务拆成几段,每段结束把进度写进状态,别全靠上下文硬扛
- 跑之前先限制它能碰的范围,路径、接口、权限都收窄
- 每轮结束让它复述做了哪几步,人扫一眼就能发现转圈
上手前的对照清单
别一上来就搭多工具、多分支的系统。先手写一遍流程,把每一步的输入输出写清楚。写不出来,说明你自己也没想明白这活该怎么干,这时候别指望模型替你补上。写出来之后,标出哪些步骤必须有外部数据、哪些必须执行动作、哪些必须人确认,这三类直接决定了要不要智能体。
- 手写流程拿张纸列出每一步的输入和输出,标出外部数据、执行动作、人工确认三类节点
- 做最小版本只接一个工具,只跑一条路径,别的都砍掉
- 验证稳定性让同一条路径连跑三轮,看结果是否一致,不一致的地方记下来
- 修反馈先修工具返回的格式和报错处理,模型能看懂结果比换模型更有效
- 再谈扩展跑通之后才加第二个工具或分支,每加一个都重新验三轮
这套清单不适用的情况也讲清楚:如果你的任务本身就是探索性的,每次路径都不一样,那把它压成固定流程反而添乱。这种就先手动跑,跑到路径稳定了再固化。
多出来的那一层,钱花在哪
智能体一轮任务可能调用模型很多次,每次都要把前面积累的上下文一起带上。对话是问一次带一次,智能体是走一步带一次,Token 消耗完全不是一个量级。任务越长、工具越多,这个差距越明显。这不是浪费,是循环本身的成本。
工具调用本身可能还有外部费用。搜索接口、第三方 API 按次计费,智能体多跑几轮就多调几次,账单是叠加的。具体单价和额度差异,别凭感觉估,去 /tools/model-cost-calculator 按自己的调用次数算一遍,比拍脑袋靠谱。
还有一层容易被忽略:管理成本。多工具、多状态意味着出问题时排查更难,你得看清它到底在哪一步走歪。任务简单、调用次数少的时候,这层管理成本比省下来的时间还多,那就老老实实用对话框。什么时候不适用这套成本判断?当这活本身出错代价很高,需要过程留痕、可回溯,那多花点钱买可审计性反而值。具体各家模型的计价方式,到 /price-watch 看当时的价格追踪。
下一步想估清楚自己这活到底值不值得上智能体,先按调用次数算一遍账,再决定要不要搭那层循环。→常见问题
智能体是不是就是一个更强的模型?
不是。智能体通常是普通模型加上循环、工具和状态管理。模型本身可能完全一样,差别在于它能不能执行动作、能不能根据执行结果改下一步。所以同一个模型既能做对话,也能做智能体,取决于外面那层怎么搭。
我只想让它帮我查资料写报告,该用哪个?
要看你需不需要它自己去查。如果资料你能一次贴完,普通对话更稳更快。如果资料散在多个来源、需要反复检索和核对,那才值得上智能体,但要接受它可能多跑几步、多花一些调用。
为什么我的智能体老是在同一个地方绕圈?
多半是工具返回的信息它读不懂,或者上一步的结果没被正确写回上下文。先去检查工具返回的格式是不是结构清晰的文本,再看每轮之后有没有把关键进展明确记录下来,通常比换模型有效。
普通对话模型能不能自己拆步骤?
能拆,但拆完只能写在回复里,不会真的去做。这就是它和智能体的分界:想和做之间有没有执行环节。你需要的是它照着拆出来的步骤实际跑一遍,那就得用智能体。
怎么判断该不该给智能体加人工确认?
看两步:这一步出错能不能撤销,以及出错的代价是不是明显大于人工确认的成本。删数据、对外发消息、产生费用这类动作,默认加确认;只读查询和本地计算可以放开。