大模型和智能体原理:第一次动手前,先把这两件事分清楚

入门与上手

用大白话讲清大模型和智能体各自在干什么、边界在哪,给一套能自己动手验证的判断标准和排查顺序。

搜「大模型和智能体原理」的人,多半已经用过聊天框,但说不清为什么同样一句话,有时只是回一段文字,有时会自己去查资料、调工具、改文件。这篇不铺术语,先把大模型和智能体拆成两层看,再给几条能当场动手验证的做法,最后说清哪些场合根本不值得上智能体。

搜「大模型和智能体原理」的人,多半已经在聊天框里试过水,但说不清一件事:同样一句话,有时候它只是回你一段文字,有时候会自己去查资料、调接口、改文件。这两种表现的差别不在「模型聪明了多少」,而在你面前是裸的一层,还是外面又套了一层循环。

这篇不铺术语。先把两层拆开看,再给你几组不用装框架、当场就能跑的小实验,最后说清哪些场合压根不值得上智能体。看完你至少能回答一个问题:我这次的需求,该用一层还是两层。

一句话分家:一个只会接着往下写,一个会先动手再写

大模型的本质朴素得有点扫兴:按上文预测下一个词,一个接一个往下吐。它没有目标,没有记忆,也不会主动做事。你觉得它「记得」上一轮聊过什么,是因为客户端把历史消息又拼进了这次的上文,模型本身每回都是从零开始读。

智能体是在这层外面套了个循环:想一步、调一个工具、看返回、再想下一步,直到任务做完或者撞到上限。所以「大模型会不会用工具」这个问法本身就不太准。工具是外面那层递给它的,不是模型自己长出来的手脚。

大模型
读你给的上文,接着往下写;不查、不存、不主动
智能体
在大模型外面加一层「想—调—看—再想」的循环
工具
外部程序,由外层注册给模型,模型只负责决定调哪个、传什么
中间动作
回答前发生的检索、读文件、执行命令,是判断你在用哪一层的硬证据

判断方法很简单:看它在给出最终答案之前,有没有产生「中间动作」。只回一段文字,就是单次调用;中间发起过检索、读过文件、跑过命令,就是有循环在管事。这个判据比看产品名靠谱得多,同一个界面里两种模式经常并存。

大模型这一层,真正决定效果的是你喂进去的那段上文

很多人第一次调接口会踩一个坑:以为模型有状态,第二轮只发新问题,结果它完全接不上。实际用下来,记忆是客户端的事,不是模型的事。你自己不拼历史,它就真的不知道前面发生过什么。

上下文长度决定它一次能看多少内容,这个数值各模型不一样,而且经常变,别背。要对比就直接去站内的模型资料库看当时的规格:到 /models 核对。温度那类参数影响的是选词的随机程度,不是聪明程度,调高不会让它更懂你,只会让它更飘。

幻觉也不是 bug,是机制的副作用。上文里没给依据,它照样会顺着语言习惯编出一个通顺答案,因为它的训练目标就是「通顺」,不是「正确」。想压住它,办法是把依据塞进上文、把输出格式写死、要求它引用你给的原文,而不是反复叮嘱「不要编」。

智能体这一层,多出来的是一个能停能返的循环

典型结构不复杂:把目标拆成步骤,选一个工具,拿到返回,判断够不够,不够再来一轮。麻烦的地方在于每一环都可能出错。工具描述写得含糊,它就选错工具或者传错参数;这类失败在日志里看着像模型笨,翻回去看接口说明,往往是参数名和类型没交代清楚。

还有一件事得提前想好:停止条件。轮数上限、时间上限、花费上限,至少设一个。不设的话,一个小任务能自己转很久,你还在等它「想明白」。

你看到的现象先查哪里常见原因
回答跑偏、答非所问上下文前后有互相矛盾的要求,或输出格式没写死
工具调不动、报参数错工具定义参数名或类型对不上,必填项漏了
调了工具但结果没用上循环返回内容没回填进下一轮上文
越跑越久越贵轮数与历史每轮把全部历史重发,或没设上限

这张表不是理论,是排查顺序。真出问题时别一上来就换更大的模型,先按列的顺序走一遍,多数问题在前两行就定位了。

五条自查,判断你这次到底该用哪一层

在动手写代码之前,先花两分钟回答下面几条。答完还拿不准该用哪层,说明需求本身没想清,这时候写出来的智能体大概率是白烧调用次数。

  • 任务能不能一次说清、答案能不能一次给完?能,就用单次调用,别加循环。
  • 需不需要查外部资料、读你本地文件、执行命令?不需要,智能体基本用不上。
  • 允许它失败重试几次?一次都不允许的场合,别让它自己转,把判断权收回来。
  • 出错的代价多大?涉及付款、删数据、对外发送,必须留人工确认那一步。
  • 同一条提示词连跑几次结果差很多,先怀疑输出格式和判断标准没写清,而不是急着换模型。

第三条最容易被忽略。很多人默认「智能体能自我纠错」,可纠错得有依据,它拿不到新信息的时候,重试只是换个说法再错一遍。所以重试次数要跟「每轮能不能获得新信息」挂钩,拿不到新信息的循环,转三轮和转十轮没区别。

不装框架也能验证:三组对照实验

不用 LangChain 那类框架,一个聊天框加一个记事本就够了。重点是每次只改一个变量,把输入原文存下来,以后排查有基线。

  1. 实验一:上文的作用同一个问题问两遍,第二遍补上背景、受众、三条例外。对比两版答案的差异,看清楚是哪一句补充改变了输出。
  2. 实验二:有没有中间动作给一道需要两步计算的题,观察它是一次吐答案,还是分出可核对的步骤。分步不代表对,但至少你能查它错在哪一步。
  3. 实验三:把工具说明写模糊故意把工具描述写含糊,看它怎么选、怎么传参。错一次你就知道工具定义该写到什么颗粒度,比读十篇原理文都管用。

三组跑完,你会对「上下文」「中间动作」「工具描述」这三个变量有手感。后面接任何框架,都是这三件事的排列组合,不用重新学。

容易翻车的几处,按这个顺序排查

回答跑偏的时候,先翻上下文里有没有互相打架的要求,再看输出格式有没有写死。这两条占了我见过的大半问题,跟模型大小关系不大。

工具调不动,先确认参数名和类型对不对,再看它有没有真的拿到工具返回的结果。有一种情况很隐蔽:调用成功了,但返回内容没被拼回下一轮上文,于是它「看不见」结果,接着瞎猜。

越跑越贵,先数轮数,再看每轮是不是把全部历史又发了一遍。历史全量重发在长对话里是开销大头,而且会稀释真正重要的那几句。另外,如果你通过中转站接入,接口层的报错先去 /tools/verify 跑一遍,分清是站点的问题还是你参数的问题,别在南辕北辙的地方改半天。

什么情况下先别上智能体

一次性问答、翻译、改写这类任务,单次调用就够了。加循环只增加不确定性和开销,你得到的是一个更慢、更贵、更难复现的同一个答案。

数据不能出内网的场合也要谨慎。工具调用链越长,数据流经的地方越多,越难说清它到底去了哪。团队里没人看得懂日志的,更该先把单次调用跑稳,出了事至少知道从哪查。

预算按次计费、量又大的场景,先算清每轮调用带来的边际收益。第一轮往往拿到八成效果,后面几轮是拿钱换最后那一点准确率。这个账怎么算,到 /official-api 核对当下的价格口径,别凭印象估。

先把一层跑明白,再决定要不要套第二层。大多数「智能体不好用」,其实是单次调用就没调好。
下一步想动手对比的话,先去模型资料库看各模型当前的上下文规格,再到工具目录挑一个能直接试的调用入口,用上面那三组实验跑一遍,比只读原理快得多。

常见问题

大模型和智能体是一回事吗?

不是。大模型负责理解和生成文字,是被动响应的一次计算;智能体是外面加的一层调度逻辑,让模型能反复调用工具、看结果、再继续。同一个模型既可以只回答一句话,也可以被装进智能体里干活。

智能体是不是用了更大的模型?

不一定,两者没有绑定关系。小模型也能做智能体,只是选工具和拆步骤的稳定性差一些。反过来,大模型没有外层循环也成不了智能体。想比较具体模型,去 /models 看规格而不是猜。

为什么同一个问题问两次答案不一样?

生成过程带有随机采样,除非把随机性压到很低。另外如果你用的是网页版,历史对话被拼进上下文,第二次的上文已经和第一次不同了。要复现就固定输入、固定参数、清空历史。

智能体自己调用工具,会不会乱来?

取决于你给的权限和停止条件。只读的工具风险低,能写文件、能发请求的工具必须加确认或白名单。轮数上限和花费上限不设,它可能在一个死循环里耗掉不少额度。

不懂代码能理解这些原理吗?

能,上面那三组对照实验不写一行代码也能做。真正难的不是原理,是判断标准:什么任务适合循环、什么任务一次就够、出错时先查哪一层。这些靠动手试比看文章快。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。