选型会上最常见的争执是:通用大模型什么都能聊,垂类模型在某个领域更听话,到底该押哪一个。真上线才发现,通用模型答得像那么回事但细节不敢用,垂类模型遇到边界外的问法又直接崩。这篇不站队,只把两者的差别拆成能对照的几条,给一套先判任务、再判数据的落地顺序。
选型会上最容易吵起来的一句话是:通用大模型什么都能聊,垂类模型在某个领域更听话,到底押哪一个。真上线才发现,通用模型答得像那么回事但细节不敢用,垂类模型遇到边界外的问法又直接崩。两边都不是银弹,问题在于很多人把这件事当成「谁更专业」的口水战,而不是当成一个可以拆开对照的工程问题。
这篇不站队,只做一件事:把两者的差别拆成能力边界和落地成本两条线,讲清差在哪、为什么会差,最后给一套先判任务、再判数据的落地顺序。看完你至少能回答三个问题:我这件事该用哪边、我有没有条件用垂类、两边都过的时候怎么混搭。
差别不是「专不专业」,而是训练起点不同
很多讨论一上来就说垂类模型更专业,这个说法不准确,也没法指导选型。真正的差别在训练起点:通用大模型是在海量杂数据上做预训练,目标是覆盖面,什么都见过一点;垂类模型多数是拿一个通用底座继续喂领域数据做微调或继续预训练,目标是在一条窄路上提高命中率。起点不同,后面的所有表现差异都是从这里长出来的。
- 通用大模型
- 见得多但浅,擅长把陌生问题接住并给出可用的起步答案,代价是细节经常不能直接用
- 垂类模型
- 在特定领域更深更听话,但知识面窄,遇到边界外的问法容易越界瞎答
- 继续预训练
- 在已有底座上继续喂领域语料,让模型熟悉该领域的表达和术语体系
- 微调
- 用带标注的问答对教模型按固定口径回答,改的是行为习惯而不是知识广度
能力边界:先看任务落在哪一侧
判断能力边界不要靠感觉,靠给任务打分。拿一张纸,把你要做的每类任务列出来,按三列打分:输入是否结构化、答案是否有唯一正确解、错了代价多大。三项都偏严的任务,比如按固定规则审核材料、按标准口径回答问题,更适合垂类模型;三项都偏松的任务,通用模型先跑起来更划算。
| 任务特征 | 更偏哪一侧 | 理由 |
|---|---|---|
| 输入结构化、答案唯一、错了代价大 | 垂类模型 | 需要稳定命中和固定口径,容错空间小 |
| 跨领域组合、需要多步推理 | 通用模型加工具链路 | 垂类模型往往只覆盖其中一段,接不住全链路 |
| 开放生成、答案没有标准解 | 通用模型 | 垂类模型会把输出框死,反而降低可用性 |
| 领域内深水区、需要专业术语准确 | 垂类模型优先,通用模型兜底 | 术语和规则是垂类模型的主场 |
还有一步比看任何榜单都直接:准备二十条故意跑偏的问题,也就是你业务邻域里那些似是而非的问法,看模型是拒答、瞎答还是绕回自己的领域。拒答说明边界清楚,瞎答说明危险,绕回来说明它知道自己在哪。这一步十分钟就能做完,但能筛掉很多看起来很美的东西。
垂类模型的核心资产是数据,不是模型本身
很多人以为买了或训了一个垂类模型就有了壁垒,其实模型本身不是资产,数据才是。垂类模型的价值全部来自你喂进去的领域语料和问答对,模型只是把这些数据固化成行为习惯的容器。所以选型前先自查:你手里有没有成规模的、清洗过的、带标注的领域语料。没有的话,垂类模型的优势基本落不了地。
- 数据量够但质量差,微调出来的模型会比通用模型更自信地答错,这是最常见的翻车方式
- 领域语料要能整理成「问题—标准答案」结构,整不出来的原始文档直接喂效果有限
- 标注口径要统一,同一个问题两个标注员给出不同答案,模型学到的就是混乱
- 数据要有版本管理,业务口径变了要能追溯是哪批数据导致的偏差
- 抽一百条历史记录从工单、客服记录或审核记录里随机抽一百条,看能不能整理成问答对结构
- 算可结构化比例统计能整理成「问题—标准答案」的比例,低于一半说明数据基础还不够
- 找标注人确认有没有懂业务的人能持续做标注和校对,没有人就先把这件事放一放
- 做小样本验证先用几百条高质量数据试一次微调,看效果是否明显优于通用模型加提示词,再决定要不要扩大投入
成本结构不一样:一个是按量,一个是按次投入
这两者的成本形态完全不同,拿同一个口径去比会得出错误结论。通用大模型走 API 是按用量付费,边际成本低、试错便宜,今天想试明天就能接;垂类模型要付数据整理、微调训练、评测调优的一次性成本,之后还要持续维护。前者像水电费,后者像装修费,不能混着算。
还有一点容易被忽略:垂类模型不是训完就结束。业务口径变了、法规变了、产品线扩了,都得重新喂数据重新评。这部分要当成长期运营预算,而不是项目尾款。具体的 API 单价和训练花销到 与 核对当时的数字,别拿几个月前的旧账做决策,价格和供给都在动。
| 成本项 | 通用大模型 | 垂类模型 |
|---|---|---|
| 初期投入 | 低,接 API 即可 | 高,含数据整理与训练 |
| 使用成本 | 按用量走,随调用量增长 | 单次推理可能更低,但有固定维护成本 |
| 试错成本 | 低,随时换模型换提示词 | 高,换一次要重新训和评 |
| 长期成本 | 随业务量线性变化 | 需要持续的数据与评测人力 |
幻觉形态不同,兜底手段也不同
两边都会编,但编的方式不一样,这一点直接决定了你怎么兜底。通用模型的幻觉偏「编得像」,一段话说得通顺流畅,外行看着挺对,内行一眼能看出不对;垂类模型的幻觉偏「在专业名词上极其笃定地错」,句式专业、术语准确,但推理链条或数字是错的。后者对业务更危险,因为没有专业背景的人根本看不出来。
- 通用模型优先用检索增强把事实来源兜住,答案里带出处,人工能核
- 垂类模型更适合加规则校验和置信度阈值,超过阈值直接转人工,不猜
- 专业名词答得准不等于懂这个行业,名词大多是大模型本来就见过的,要测推理链条
- 强监管场景里模型只是链路一环,合规审查和人工复核省不掉
上线前怎么评:用自己的题,不看公开榜
公开榜单可以看,但只能当背景,不能当决策依据。原因很简单:榜单的题不是你的题,榜单的口径不是你的口径。真正能决定上不上线的,是你自己建的两套题。一套是领域内标准问题,测命中率;一套是邻域干扰问题,测不乱答。两套题都要让通用模型和垂类模型跑同一批,做对照。
- 建领域内标准题从真实业务里挑常见且有标准答案的问题,每题写清参考答案,数量至少几十条
- 建邻域干扰题专门挑似是而非、容易越界的问法,看模型是拒答还是瞎答
- 定评分口径答案可直接采用、需要改几个字、需要整个重写,三档打分,别用感觉差不多这种口径
- 双模型对照跑同一批题让两边都跑一遍,记录每档的分布,再看哪边在你的业务上更稳
- 看公开榜只做校正公开榜单的阅读方法参考 与 ,但结论必须来自你自己的题集
评分口径写死这件事很关键。没有固定口径,评测就会变成各说各话,有人说好有人说差,最后靠谁嗓门大决定。写死的口径还有一个好处:后续换了模型版本或者更新了提示词,可以用同一套题复测,看是进步还是退步。
一个可以照着走的判断顺序
前面几条拆完,最后落到一个可以照着走的顺序上。顺序很重要,顺序反了就会先买工具再找场景,这是最贵的走法。正确的顺序是:先判任务,再判数据,最后判维护能力。
- 第一步判任务答案是否有唯一正确解、错了代价多大,答案偏唯一且代价大的走垂类方向,偏开放的先上通用模型
- 第二步判数据有没有成规模、清洗过、带标注的领域语料,没有就先别谈垂类模型
- 第三步判维护有没有人能持续更新数据和复测,没有的话垂类模型会很快过时
- 都不满足时先跑通流程三步里任何一步过不去,就先上通用模型加提示词加检索,把业务流程跑通再说
两边都过的场景,可以走混搭,而不是按公司二选一。常见的做法是通用模型做入口和意图识别,判断用户问的是哪一类问题,再路由到垂类模型做深水区的专业环节。按环节分工,比按模型分工更贴合实际业务,也更容易做灰度。候选的垂类模型可以到 核对清单。
几个高频误判,提前打个预防针
最后列几个在选型会上经常听到的判断,它们听起来有道理,但经不起推敲。提前打个预防针,能省掉一轮返工。
| 常见说法 | 为什么不成立 | 怎么纠正 |
|---|---|---|
| 领域词答得准就是懂这个行业 | 名词大多是大模型本来就见过的,不等于推理链条对 | 用邻域干扰题测推理,别只看术语 |
| 参数越大越专业 | 大模型在细分规则上反而不如小模型听话 | 到 对照能力和适用场景,再看自己的题集结果 |
| 先买垂类模型再想场景 | 最贵的顺序,数据和场景没有就买了个容器 | 先有场景和数据,再决定要不要垂类 |
| 上了模型就能省人工 | 强监管行业模型只是链路一环 | 合规审查和人工复核省不掉,别把模型当合规方案 |
还有一个误判值得单独说:把垂类模型当成一次性项目。它更像一个需要持续喂养的系统,数据过期、口径变化、法规更新都会让它退化。决策时把维护成本和维护人一起写进方案,比只看训练那一刻的效果靠谱得多。
下一步把候选的中转接入渠道和模型清单先对一遍,别在一开始就锁死某一家。到 看各家服务与可信度记录,再到 做横向对照,把你自己的二十条干扰题跑一遍,答案会比任何榜单都清楚。→常见问题
垂类模型是不是一定比通用大模型准?
只在它被训练覆盖的那条窄路上更准,而且前提是你的数据确实喂进去了。一旦问题跑出覆盖范围,它常常比通用模型更敢瞎答,因为它学会了这个领域的说话方式。所以评测时必须专门设计邻域干扰问题。
没有自己的数据,还能用垂类模型吗?
可以先用现成的垂类模型或带行业提示词的通用模型试水,但这时候你买的是别人的领域先验,不是自己的竞争力。想形成壁垒,还是得把业务里的问答、工单、规范整理成可训练的结构化数据。
能不能通用模型和垂类模型一起用?
这是多数企业的实际做法。通用模型做入口、意图识别和开放对话,垂类模型只压在最需要专业判断的那一段。关键是按环节分工,而不是让两个模型抢同一件事,否则出错时你分不清该找谁。
垂类模型上线后还需要持续投入吗?
要。业务口径、法规、产品线都会变,模型不会自动跟着变。比较现实的做法是设一个固定节奏的数据回流与重评机制,把重训和新题测试排进常规排期,而不是等出问题再补。
预算有限,先投哪一边?
先投通用模型调用和评测题集建设。题集是最保值的资产,后面无论换哪个模型都要用;而垂类模型的训练投入如果场景还没验证,很容易变成沉没成本。