很多人第一次接触这块,会被两个词绕住:人工智能听着像一个大口袋,大模型又好像是新冒出来的东西,到底谁包含谁?更实际的困惑是——以前用规则、传统机器学习也能做的东西,换成大模型值不值。这篇不铺概念史,先把两者的从属关系摆清楚,再讲大模型带来的几类新能力,最后给一套「要不要上、上哪种」的判断动作,让你在具体项目里能自己拍板。
先把话说死:大模型是人工智能里的一个子集
先把关系摆正:人工智能是目标层,意思是让机器去完成那些本来需要人脑才能干的活,比如听懂话、认出图、做判断。大模型只是实现这个目标的一条技术路线,同一条线上还站着规则系统、传统机器学习、专用小模型。所以「是不是 AI」和「是不是大模型」是两个问题,别混着问。
- 目标层
- 我们要机器达到什么能力,比如理解语言、识别图像、辅助决策,这一层只谈需求不谈实现
- 技术路线
- 达到目标的具体办法,规则系统、传统机器学习、专用小模型、大模型都算,各有各的适用场景
- 具体模型
- 路线上落地的那个东西,比如某个团队训出来的一套权重和配套接口,能直接调用
判断一个东西算不算大模型,别看它是不是挂着 AI 的名头,看三点:规模够不够大、通用性够不够宽、是不是一个模型能干多件事。三点都占,才谈得上大模型;只占一两点,那多半是专用小模型或者套了层壳的应用。
| 判断维度 | 问自己什么 | 不满足时通常是什么 |
|---|---|---|
| 规模 | 参数量、训练数据量是不是明显超出传统模型一个量级 | 传统机器学习或专用小模型 |
| 通用性 | 换个领域、换个任务还能不能用,而不是只认一种输入 | 规则系统或单任务专用模型 |
| 多任务 | 同一个模型能不能同时干翻译、摘要、问答这些活 | 多个小模型拼起来的方案 |
- 先定目标:你要机器替你完成哪类任务,写下来,别一上来就选技术路线
- 再看路线:规则能说清的用规则,数据规整且任务单一的用传统机器学习或专用小模型,任务杂、边界模糊的才考虑大模型
- 最后落模型:到站内模型资料库对照规模、通用性和多任务能力,确认它真属于大模型这一档
- 采购和验收时统一口径:把「AI 应用」和「大模型」分开写进需求文档,避免双方各说各话
大模型到底多出了哪些能力
很多人听到「大模型」,脑子里想的是「更聪明的 AI」。更准确的说法是:它把原来「一个任务训一个模型」的做法,换成了「一个模型靠提示词切换任务」。以前要做文本分类、信息抽取、改写、摘要,往往得分开攒数据、分开训、分开部署;现在同一套接口,换个提示词和几个示例,就能先跑起来。能力多出来的地方主要在这,不在「更接近人」这种模糊说法。
| 做法 | 以前怎么做 | 现在怎么做 | 代价 |
|---|---|---|---|
| 多任务覆盖 | 每个任务单独标数据、训模型 | 一个模型 + 不同提示词和示例 | 效果随提示词质量波动,需要试 |
| 自然语言当接口 | 先定特征、写规则或标样本 | 直接把要求和文本一起给模型 | 输出格式要靠约束和校验兜住 |
| 接外部能力 | 流程里硬编码调用逻辑 | 模型决定调用哪个工具、传什么参数 | 工具返回错了,模型可能照单全收 |
| 多步任务 | 人工拆步骤、写死流程 | 用提示词串多步,边看结果边决定下一步 | 步数一多,错一步会往后传 |
注意表里右列不是「白送」。多任务能力的前提是你能把任务讲清楚:输入是什么、输出要什么格式、什么算对什么算错。讲不清楚的任务,换成大模型照样做不好,只是失败得更隐蔽——它会给一个看起来很像对的答案。所以第一件事不是选模型,而是把任务写成一句能被检验的要求。
- 先写清任务说明用一两句话写死输入、输出格式和判断标准,比如「输入一段客服对话,输出 JSON,字段为问题类型和是否需升级」。写完自己拿三条真实样本对一遍,看说明有没有歧义。
- 用提示词做首轮验证同一套提示词跑十几条样本,重点看格式是否稳定、边界样本错在哪。这一步不用调任何参数,先确认任务本身能被自然语言描述清楚。
- 再接工具和多步单步问答稳定后,再把查库、查订单、发通知这类动作交给模型去选。每一步的返回值都要能校验,别让模型自己判断「调用成功了」。
- 划出不能全交给它的环节把对账、计费、合规判定这类环节单独列出来,明确模型只做初筛和解释,最终结论由规则或人确认。这一步要在上线前写进流程,而不是出事后再补。
所以判断「大模型多出了哪些能力」,落到实操就是三句话:能不能用提示词代替重新训练,能不能用自然语言代替特征工程,能不能把单次问答扩成带工具的多步流程。三条都成立,再谈值不值得上;有一条不成立,就老老实实回到规则或专用模型。想对照各家模型的能力说明和接入方式,到 /models站内模型资料库 按自己的任务类型筛一遍,比看宣传语靠谱。
什么情况下不该上大模型
先给个判断口诀:能让规则干的事,别交给模型去猜。规则、正则、枚举映射、固定格式转换这类活,逻辑能写死在代码里的,出错时一行日志就能定位;换成大模型,同样的输入两次给两种结果,排查成本立刻上去。
| 你的情况 | 更合适的做法 | 为什么 |
|---|---|---|
| 输入格式固定、字段位置稳定 | 用规则或解析脚本 | 结果可逐位复现,出错能断点 |
| 输出要严格按模板拼装 | 模板填充+字段校验 | 不依赖模型“记得住”格式 |
| 样本量很小但要高准确率 | 人工复核兜底或小模型+规则 | 大模型在少数样本上难以验证稳定性 |
| 高频调用且有延迟上限 | 先做成本与响应时间估算 | 先上线再算账,最后往往被迫回退 |
- 没有人工复核环节、又要求接近零错误的决策位,先别放模型,哪怕它看起来“更聪明”;
- 把内部资料塞进提示词就想解决知识问题,通常问题在检索和上下文管理,不在模型大小;
- 任务本身只有几十条样本、无法构造验证集时,先积累标注数据,再谈模型选型;
- 有硬性延迟或调用量上限的高频场景,先把单次成本算出来,再决定是否接入。
- 先做规则版原型用脚本把固定格式的输入跑一遍,看准确率和人工返工量,这是后面比较的基线。
- 再估算调用账按预计调用次数和单次上下文长度粗算成本,去 价格与模型资料库(/pricing) 看当时的数字,别用记忆里的旧报价。
- 最后定复核方式如果模型要进决策位,至少设计抽样复核或双轨运行期,否则出错时没有止损手段。
还有一种常见误判:资料问答效果差,第一反应是换更大的模型。多数时候是切分粒度、召回排序、上下文超长截断的问题。先去 指南中心(/guides) 按检索与上下文管理的路径排查一遍,比换模型便宜得多。需要判断中转站是否稳定支撑高频调用时,到 中转站可信度检测(/relay-check) 做核对。
怎么选:一套能照着走的判断顺序
选型别从「哪个模型最强」开始,那样基本选不出来。换成按顺序排除的思路:先把任务说清楚,再把不能碰的线画出来,接着看还剩哪些路能走,然后小样本试跑,最后留好换模型的余地。顺序错了,后面全是白费功夫。
- 先定任务类型分三类:生成类(写文案、改稿、出摘要)、理解抽取类(分类、打标、从合同里抽字段)、流程类(要好几轮调用工具、查库、再决策)。生成类看表达自然度和风格可控性;抽取类看格式稳定和字段不漏;流程类看能不能稳定按步骤走、出错能不能接住。分不清就先按流程类对待,要求最严。
- 再定约束列出四条硬线:延迟能不能忍、单次成本上限多少、错了的后果有多重、数据能不能出内网。延迟敏感和错不起的场景,候选会一下少很多;数据不能出内网的,网页订阅和外部 API 直接出局。这一步是排除法,不是打分。
- 按约束筛形态网页订阅、官方 API、中转站、本地部署四条路,对着上一步的硬线逐条划掉。剩下的可能不止一条,先别急着定。
- 小样本试跑拿 20 到 30 条你自己的真实输入,同时喂给两三个候选,重点看两件事:同一输入多跑几次结果是否一致,以及人工返工的比例。单次输出很漂亮但三次三个样子的,实际用起来很累。返工率高于手动做的,直接否掉。
- 留退路把 prompt、温度等参数、模型名都写进配置文件,代码里只读配置不写死。这样换模型是改一行配置,不是翻代码。试跑阶段就按这个结构搭,别等上线再补。
| 判断项 | 问自己什么 | 答错方向的后果 |
|---|---|---|
| 任务类型 | 是生成、抽取,还是要多步调用工具 | 用生成类的标准去选流程类,上线就翻车 |
| 约束 | 延迟、单次成本、容错、数据出不出内网 | 先选了再发现不合规,前面的试跑全白做 |
| 形态 | 四条路里哪条被硬线划掉 | 为了省钱走中转站,结果关键业务不敢用 |
| 试跑 | 稳定性和返工率能不能接受 | 被单次惊艳骗了,长期效率没提升 |
| 退路 | 换模型要改几处 | 锁死在一家,后面想换成本很高 |
- 任务类型分不清时,按最严的流程类来选,宁可多花点力气
- 约束里「数据不能出内网」是一票否决项,先问清再谈别的
- 形态筛选是减法,不是找最优,能划掉的就划掉
- 试跑别用示例数据,用你手上真实的脏数据,20 到 30 条够看出问题
- 返工率比单次效果更能说明问题,记一下人工改了几处
- 配置化从第一天就做,别指望以后重构
新手第一周的执行清单
第一周别急着研究模型参数和各家差别,先找一个你每天或每周都要重复做、且每次结果差不多的小活:整理会议记录、把客户反馈归类、按固定格式写周报,都算。挑最复杂的那个反而容易卡住,因为变量太多,出问题时你分不清是模型不行还是任务本身没定义清楚。
- 第 1 天:定任务写下这个重复任务现在怎么做、一周做几次、每次花多久。如果一件事你自己都没法用三句话说清步骤,先换一个,别硬上。
- 第 2 天:定输入输出格式先用一张纸写出「我给它什么、它必须还我什么」,比如输入一段原文,输出固定三列:问题类型、原文摘句、建议动作。格式定了再写提示词,顺序别反。
- 第 3-5 天:跑真实样本拿五到十条真实数据跑,不许自己编例子。每条都存下输入、输出和你的判断(可用 / 不可用),存一个表格里就行。
- 第 6-7 天:攒失败再改失败例子不到十条就先别改提示词,继续攒。攒够后按「格式没守、信息漏了、理解偏了」分三类,只改对应那一处,改完再跑同一批样本对比。
| 做法 | 什么时候适用 | 什么情况下不适用 |
|---|---|---|
| 先挑最简单的重复任务 | 第一次接触,需要快速建立手感 | 任务本身依赖大量判断,简单任务练不出经验 |
| 先定死输入输出格式 | 输出要进表格、要给人看、要接后续流程 | 纯探索性提问,本来就没固定答案 |
| 攒十条失败再改 | 想搞清问题是提示词还是任务定义 | 上线时间紧,只能先补规则兜底 |
| 调措辞反复试 | 格式已稳定,只是语气或细节不满意 | 失败原因是信息缺失或格式没约束 |
- 每次失败都留原文,别只记「效果不好」这种结论
- 同一批样本改完要重跑,否则分不清是改好了还是换题了
- 任务定义、输入输出格式、提示词分三个文件或三块放,改哪块一目了然
- 涉及花钱和额度的事,去 aitest123.com/pricing 看当时的数字,别信别处截图
- 一周结束写三行总结:哪类失败最多、下次先改哪、这个任务值不值得继续用
常见问题
大模型和人工智能是一回事吗?
不是。人工智能是大范围,指让机器完成需要智能的任务;大模型是其中一条技术路线,靠海量数据和参数规模换通用性。同一个需求可以只用规则或传统机器学习解决,也可以上大模型,选哪种看任务约束,不是越新越好。
大模型比传统 AI 强在哪?不适用在哪?
强在通用和不挑任务:自然语言直接当接口,分类、抽取、改写、摘要不用逐项训练。不适用在要求逐位可复现、零容错、高频低延迟的场景,这类活儿规则和小模型更稳,大模型适合当辅助而不是最终判定。
小团队要不要一开始就接 API?
先看有没有稳定的重复任务和明确的输入输出格式。有的话从网页版试起,验证值得再走 API;没有的话先别接,接口接进来只是把不会用的问题换了个入口。真要接,先把 prompt 和模型名做成配置,后面换模型少改代码。