大模型参数量描述中常用的单位b指的是什么

翻模型规格表时，最显眼的就是那个「7B」「70B」，可这个 B 到底指什么、和文件体积、显存占用是什么关系，多数人其实是靠猜的。厂商把 B 写得越大越唬人，但真到选型那一步，光看 B 会判断错。这篇把 B 的定义、常见换算口径，以及它和量化档位、显存估算的对应关系拆开讲，看完你能自己算一遍，而不是被数字牵着走。

翻模型规格表时,最显眼的就是那个「7B」「70B」,厂商也爱把它写大写粗。可这个 B 到底指什么、和下载下来的文件体积、跑起来要占的显存是什么关系,多数新手其实是靠猜的。猜错的直接后果是:下载前以为能跑,下载后发现显存不够,或者按参数量横向比两个模型,得出完全反着的结论。

这篇把 B 的定义、常用换算口径,以及它跟量化档位、显存估算的对应关系拆开讲。目标不是背一个数字,而是让你拿到一张规格表时,知道该按什么顺序逐项核对,算出自己的结论。看完至少能自己走一遍,而不是被那个大写字母牵着走。

B 是 Billion 的缩写,指的是参数量不是别的

B 来自英文 Billion,就是十亿。写 7B,意思是这个模型大约有七十亿个可训练参数,和字节(Byte)、比特(bit)没有任何关系。参数是模型权重里保存的那些数字,推理时被反复读取和参与计算,所以参数量大致决定了模型「有多大」,但不直接等于文件占多大、跑起来吃多少显存。

• B 是十亿,不是字节:看到 7B 先翻译成「七十亿个参数」,别下意识当成七十亿字节
• 参数要按精度折算字节:一个参数在常见精度下占若干字节,参数量乘上去才约等于权重体积
• 规格表里不带 B 的数字可能是文件大小:同一列里出现 MB、GB 时,先分清那是参数量还是下载体积
• 不同表的 B 口径可能不同:有的指总参数,有的指单次激活的参数,先看表头注释再比

换算别只背倍数,记住三个能对的上的口径

B 和 M(百万)之间是十进制关系,1B 等于 1000M,不是 1024。所以一个标成 7000M 的模型,和标成 7B 的模型参数量其实是一档,只是标注单位不同。想把它们放一起比,先把单位统一,否则一千倍的错觉会让判断彻底跑偏。

参数量到文件体积,关键变量是权重精度。同样参数量,低精度量化后文件能小好几倍,所以两个都写 7B 的模型,下载体积可能差一大截,能不能塞进显存也完全不同。具体倍数别背,各家量化方案不完全一样,到站内换算工具按当时的系数算一次最稳。

1. 统一单位先把所有候选模型的参数量都换算成 B,剔除单位口径不一致的,避免拿 7000M 和 7B 当两档比。
2. 确认激活参数如果是混合架构,看清标的是总参数还是单次激活参数,这两个数在规格表里常常只差一行注释。
3. 折算权重体积按该模型提供的量化档位,到站内换算工具把参数量折算成权重体积,得到一个基线。
4. 加上运行时开销到部署相关页面按你的上下文长度和并发数,在基线之上加 KV 缓存和框架开销,才是真实显存需求。

看规格表时该盯哪几列

规格表不是从头读到尾,而是有固定顺序。顺序错了,你就会先被最大的那个数字带走,后面越看越乱。建议按「参数量 → 精度与量化 → 上下文与框架支持」这三步走,每一步都能筛掉一批不合适的选择。

• 第一步看参数量,同时确认是总参数还是激活参数,混合架构里这两个数差距很大,混用会算错体积
• 第二步看权重精度和量化档位,这两项决定实际占用,精度口径不同的模型不能直接横向比
• 第三步看上下文长度和推理框架支持情况,长度直接放大缓存开销,框架不支持则再小也跑不起来
• 第四步回看评测与实测,参数量相近的两个模型效果可能差很远,判断依据是任务实测不是数字大小

做完这四步,手上应该剩下少数几个候选。这时再去站内模型库逐项核对字段,比一开始就盯着参数量排序靠谱得多。规格表里的数字会随版本更新,所以核对时以站内当时显示的为准,别用记忆里的旧值。

新手最容易搞错的几件事

这几个误区很常见,而且都会直接导致选型选错。它们的共同点是:把某一个数字当成了唯一标准,忽略了口径和场景。

想避开这些坑,一个简单办法是:任何时候看到 B,都追问三句——这是总参还是激活参、权重是什么精度、跑起来算不算上下文和并发。三句都答得上,这个数字才算真的读懂了。

参数量只说明模型有多大,不说明它在你这件事上做得多好,也不说明你的机器跑不跑得动。