看模型名时总跟着一串 7B、70B,加上 mini、turbo 之类的后缀,很容易以为数字越大越强。这篇只解决一件事:让你看到 B 就知道它在说什么,并且能判断这个数字对你的任务有没有参考价值。读完你能自己看懂模型名里的规模信息,也知道该去站内哪个页面核对具体型号。
看模型名时总跟着一串 7B、70B,加上 mini、turbo 之类的后缀,很容易以为数字越大越强。其实这串数字只说了一件事:模型内部有多少个可调参数。这篇只解决这一个问题——让你看到 B 就知道它在说什么,并且能判断这个数字对你的任务到底有没有参考价值。
读完你能自己读懂模型名里的规模信息,知道哪些结论可以从参数量直接推、哪些必须去查实测结果。至于各家具体有哪些型号、当期规格和价格,那属于会变的信息,得去站内页面核对,文章里不写死。
B 到底是什么单位
B 是 billion 的缩写,表示模型内部可调参数的个数,1B 大约是十亿个。它既不是字节,也不是显存占用,更不是训练数据量。这三样经常被混着说,但完全是不同维度的东西:参数量描述模型结构有多大,文件大小描述存下来占多少磁盘,显存描述跑起来占多少显卡内存。
- 参数
- 模型在训练中被反复调整的那堆数字,训练结束后固定下来,构成模型的「体重」
- 参数量
- 这些数字的总个数,用 B(十亿)作单位标注在模型名里
- 量化
- 把参数用更低精度存储,让文件变小、跑起来更省资源,但参数量本身没变
- 上下文长度
- 一次能读进去多少内容,和参数量是两回事,别混着比较
所以看到模型名带 B,先把它当成一个粗略标签,而不是设备需求单。同一个名字下往往还有不同版本和不同量化档位,实际文件大小和参数量不是一回事。要估算自己的机器能不能跑,去看站内的部署测算页面,那里会结合量化档位和上下文长度给参考。
7B、70B 之间的差距怎么理解
参数量差一个数量级,通常意味着模型能容纳更复杂的模式、覆盖更广的知识,但代价是推理更慢、对显存和算力要求更高。这不是线性关系,也不是「大就一定好」,而是一种能力区间和部署成本的交换。
| 规模档位 | 典型特征 | 什么情况下适用 |
|---|---|---|
| 小档 | 响应快、部署便宜、容易微调 | 分类、结构化抽取、改写、固定格式转换 |
| 中档 | 能力与成本折中 | 客服问答、摘要、一般文本生成 |
| 大档 | 复杂推理与开放问答更稳 | 多步推理、长文档综合、难例兜底 |
小模型不是「笨」,是在特定任务上更容易被训好、响应更快、部署更便宜;大模型在开放问答和复杂推理上更稳。同一个家族里,小档常被定位成便宜快、大档定位成质量优先,但不同厂商之间不能只比数字——训练数据和对齐方式的影响往往更大。
- 窄任务优先试小模型:结构化抽取、分类、改写,小模型经常够用
- 多步推理、长文档综合更吃规模,这类任务可以优先考虑大档
- 同家族内比档位有意义,跨厂商只比数字意义有限
- 最终以真实任务样本上的表现为准,别用参数量替实测
规模数字能说明什么、不能说明什么
参数量能说明的是:大致的能力区间、部署门槛的量级、同家族内的档位排序。它不能说明的是:具体任务上的好坏、中文表现如何、指令跟随稳不稳定。后面这几样要靠实测和榜单,而不是靠模型名里的数字。
参数也不是唯一变量。训练数据质量、上下文长度、是否经过专门的后训练,都会让一个更小的模型在某个任务上反超更大的模型。所以遇到「参数量更大所以更值得选」这种说法,要打个问号。
- 能推的:能力区间、部署门槛量级、同家族档位排序
- 不能推的:具体任务效果、中文表现、指令跟随稳定性
- 容易被忽略的变量:训练数据质量、上下文长度、后训练方式
- 正确做法:把参数量当筛选条件之一,不当结论
新手怎么用这个信息做选择
选型的顺序很关键:先定任务,再看模型。把任务写成一句可验收的说明,比如「从客服对话里抽出订单号和问题类型」,然后拿两三个不同规模的候选各跑一遍真实样本,看谁先达标。
- 写清任务用一句可验收的话描述输入和输出,避免「帮我处理文本」这种模糊说法
- 小模型先行先用最小档跑一批真实样本,看正确率能不能接受
- 测延迟在同一批样本上看响应时间,判断用户能不能等
- 估成本把单次请求的消耗乘上预估调用量,看长期能不能承受;具体单价到站内价格页核对
- 按任务分流简单任务给小模型,难任务再升级到大档,不要把所有请求绑死在最大的模型上
这个顺序的好处是,你多半会发现不少任务根本用不上大档。反过来,如果某个任务小模型怎么调都不达标,那再上大档也更有依据,而不是一开始就买最贵的。
参数量只是入场券,能不能干好活要看真实任务上的表现。下一步想确认某个具体型号的规模和规格,去站内模型库核对当期信息;想比较不同档位在真实任务上的表现,可以配合评测榜单页面一起看。→
常见问题
B 越大是不是就越聪明?
不一定。参数量只是能力的一个近似指标,训练数据、后训练方式和上下文长度影响同样大。同一个家族里大档通常更强,但跨厂商、跨代比较时数字没有可比性。判断标准是自己的任务跑出来的结果,而不是名字里的数字。
7B 和 70B 我该选哪个?
看任务和预算。窄任务、要快、要便宜,先试小档;开放问答、多步推理、长文档综合这类更吃规模的活,再上大档。最稳的做法是同一批真实样本两边各跑一次,对比正确率和响应速度,而不是凭数字决定。
参数量和我付的钱有直接关系吗?
没有直接换算关系。你付的是调用量或订阅费用,跟背后的参数规模不挂钩,具体单价和计费口径要看站内价格与模型资料页面当时的数字。参数规模只影响部署方成本,透过定价间接反映出来。