你大概遇到过这种情况:模型能答问题,但你想让它自己查资料、自己改文件、自己跑完一整条流程时,就发现它只会「说」不会「做」。这时候别人会跟你说「你得用 Agent」。这篇就把 LLM-based Agent 拆开看:它到底比一次问答多了什么,哪几块零件是必须的,什么场景其实用不上它,以及第一次接触时先动手验证哪一步最不容易踩空。
你大概遇到过这种情况:模型能答问题,但你想让它自己查资料、自己改文件、自己跑完一整条流程时,就发现它只会「说」不会「做」。这时候别人会跟你说「你得用 Agent」。这篇就把 LLM-based Agent 拆开看:它到底比一次问答多了什么,哪几块零件是必须的,什么场景其实用不上它,以及第一次接触时先动手验证哪一步最不容易踩空。
先把结论放前面:LLM-based Agent 不是某个具体产品,也不是换个模型就自动变成 Agent。它描述的是一种用法——让语言模型当决策大脑,在一个循环里反复判断「现在该干什么」,直到任务完成或者自己主动停下。理解了这一点,后面看各种框架和产品就不会被名词绕晕。
先说定义:它和一次普通问答差在哪
一句话定义:以 LLM 作为决策核心,运行在一个循环里,根据当前状态决定下一步动作,直到任务完成或主动停止。注意关键词是「循环」和「动作」,不是「回答得更长」。很多人第一次接触会把多轮聊天当成 Agent,其实聊天只是来回对话,没有产生外部动作,也没有根据动作结果去调整下一轮计划。
| 对比项 | 一次普通问答 | LLM-based Agent |
|---|---|---|
| 结束条件 | 模型输出完就结束 | 任务完成或主动停,可能跑很多轮 |
| 外部动作 | 一般不碰外部资源 | 能读写文件、调接口、搜网页 |
| 状态 | 基本只看当前输入 | 记住前面做过什么、结果如何 |
| 失败处理 | 答错就答错 | 可以拿报错当输入,换参数重试 |
边界也要说清楚。只会连续聊天、不接触外部资源的,通常只算对话助手;反过来,一个小脚本套上固定流程,每一步都是写死的 if-else,那也不叫 Agent,因为决策权没交给模型。常见误判是看到「自动跑很多步」就认定是 Agent,其实那可能只是编排好的工作流。
拆开看:跑起来至少要有这四块
把 Agent 拆开,至少四块零件缺一不可。往下每一块都会说清楚它负责什么,以及哪一块最容易先出问题。判断一个现成方案靠不靠谱,也可以照这四块去问对方。
- 模型:负责理解目标、拆解步骤、决定下一步调什么;它的上下文窗口大小和推理稳定性,直接决定能不能撑住长任务,任务一长就开始忘目标往往是这块到极限了
- 工具:把外部能力包装成模型看得懂的说明,比如查天气、搜网页、读文件、发请求;没有工具它只能空想,说不出真实数据
- 记忆与状态:短期就是当前这轮的上下文,长期通常落在外部存储或向量库里,需要时再检索喂回去
- 循环控制:决定继续还是停、最多跑几轮、单步失败了怎么办;这块写不好最常见的结果是停不下来或者提前收工
四块里最容易先坏的其实是循环控制,因为它不显眼。模型和工具都能换,但控制逻辑得自己定。一个实用的自检方法是:把每一步的动作和结果都打日志,跑完一次任务回头看,能不能一眼说清它在第几步做了判断、第几步只是重复。
- 决策大脑
- 模型在每一步根据现状选下一个动作的角色
- 工具说明
- 给模型看的工具用途和参数描述,写得含糊它就乱调
- 短期记忆
- 当前这轮对话里能看到的上下文
- 长期记忆
- 存在外部、需要时检索回来的历史信息
- 循环控制
- 管继续、管停、管重试的那套逻辑
典型场景:什么时候真值得上 Agent
不是所有任务都值得上 Agent。判断顺序建议是:先问「一次问答能不能答完」,能就別上;再问「失败成本高不高」,可回滚的才适合放开手脚自动跑。下面几类是相对匹配的。
- 信息要跨多个来源才能拼出来的活:先搜、再筛、再比对,最后汇总并带上出处
- 动作有先后依赖的活:比如先读文件、再改内容、再跑一遍检查,中间结果决定下一步怎么走
- 重复但每次细节不同的活:工单分流、素材收集、批量资料整理,规则固定但内容天天变
- 需要边做边判断的排查类任务:出错时让它自己换参数再试,而不是直接抛失败
反过来说,如果任务步骤完全固定、每次输入格式都一样,那用编排好的流程更省心。判断标准很简单:把任务写成步骤清单,如果每一步都不需要根据上一步结果做选择,Agent 带来的灵活性就是多余的。
第一次上手:按这个顺序验证,别一上来就造全套
- 只接一个工具,跑通最短链路先确认「模型决定调用 → 拿到结果 → 再回答」这一条能走通,重点看循环和返回格式对不对,这一步不涉及真实业务,坏了也好改
- 把工具报错也喂回模型故意让工具失败一次,看它能不能自己换参数重试;这一步最能暴露循环控制写得好不好,很多方案在这里原地打转
- 再补第二个工具和记忆加上长期记忆之后,观察上下文变长时它会不会忘了最初的目标,忘了说明记忆检索那块要调
- 按对照表收尾验收能停下来、出错能重试、每步动作可追溯,三条都过了再往真实业务上放;有一条不过就先别上
验收的时候不要凭感觉。把日志翻出来对一遍:它一共跑了几轮、每轮调了什么、哪轮开始偏离目标。如果只是想看现成方案的真实表现和可信度,可以去站内的检测与评测页面核对当时的数字,比自己猜要靠谱。
下一步想直接看各家方案的实际表现和可信度,去 station 的评测与导航页对照着挑,省得自己一个个试。→常见问题
LLM-based Agent 和 AI Agent 是一回事吗?
基本可以当成同一件事的不同叫法,前者强调「大脑是大语言模型」。区别在于有些老派 Agent 用的是规则或搜索算法,不需要 LLM;而现在大多数人说 Agent,默认背后就是大模型在决策。判断标准很简单:看它做决策的那一环是不是模型在出主意。
是不是模型越强,Agent 效果就越好?
不一定。模型只决定「想得对不对」,工具说明写得清不清楚、错误怎么回传、循环上限设多少,同样决定成败。常见情况是换个更强的模型,但工具描述含糊、报错直接吞掉,效果反而没提升。先修工程细节,再考虑换模型更划算。
个人开发者有必要自己写 Agent 吗?
看你手头的活重复不重复。如果只是偶尔用一次,直接用现成的对话工具加人工操作更快;如果同一类流程每周都要跑、每次细节不同,那封装成 Agent 才划算。拿不准的话,先手动跑三遍记录下步骤,能列成清单的再考虑自动化。