大模型的多少B参数是怎么算出来的,步骤和注意事项(B 到底指什么:先把单位对齐)

模型与算力

讲清大模型参数量里的 B 指什么、数字从哪来,教你看到不同口径时怎么对齐、怎么用这个数字做显存估算。

刷模型库时总看到「某模型 70B」「某模型 8B」,换个页面同一系列数字又对不上,这时候很容易拿参数当唯一标准去选模型。这篇把 B 的含义、参数从哪算出来、不同统计口径的差别讲清楚,再给一套核对步骤,让你看到参数数字时知道它能说明什么、不能说明什么。

刷模型库时总看到「某模型 70B」「某模型 8B」,换个页面同一系列数字又对不上,这时候很容易把参数当唯一标准去选模型。其实 B 只是规模量级,不是精确到个位数的称号,来源和统计口径也各有差别。

这篇把 B 的含义、参数从哪算出来、不同口径的差别讲清楚,再给一套核对步骤。看完你至少能做到两件事:看到参数数字知道它能说明什么、不能说明什么,以及拿它去估显存时不会差出好几倍。

B 到底指什么:先把单位对齐

B 是 billion 的缩写,指十亿级参数个数,本质是规模量级而不是精确数字。写成 7B 时,实际可能是六点几到七点几之间,四舍五入之后才变成整数。所以拿它做横向比较时,差个零点几 B 基本没有意义,别在这上面纠结。

参数
模型里可学习的权重和偏置,注意力层、前馈层、嵌入层各占一部分
总参数
所有层加起来的参数数,通常就是模型名里标的那个数
激活参数
混合专家类模型单次推理真正参与计算的参数,往往远小于总参数
量化
把权重从高精度压到低精度,减少显存占用,但参数个数不变

同一个模型在不同页面数字不同,常见原因就三个:四舍五入到整数 B、只算主干不算嵌入层、或者标的是激活参数而非总参数。想先确认单位,到 /ai-dict/category/basics 和 /ai-dict/category/tech 把术语口径对齐再往下看。

参数从哪数出来:三种常见来源

来源可信度要注意什么
模型仓库配置文件高层数、隐藏维度、词表大小都在里面,按公式能推出主干参数量
论文或模型卡高看作者有没有把嵌入层、多模态编码器算进去
第三方汇总站与社区表格中方便但不保证和官方一致,冲突时以官方为准
  1. 打开配置文件在模型仓库里找到 config 类文件,记下层数、隐藏维度、注意力头数、词表大小这几项
  2. 按层拆开数注意力层和前馈层按维度公式估,嵌入层按词表大小乘隐藏维度算,最后相加
  3. 和模型卡对照把算出来的数和官方报的数比一下,差得多就回头检查是不是漏了编码器或位置编码
  4. 换算成显存需求权重按参数量乘每参数字节数估算,再加激活和缓存,到 /compute/sizing 按实际模型算一遍

推理时真正吃显存的是权重加激活加缓存,参数量只是第一层输入。同参数量的模型,换个上下文长度或并发数,显存占用能差出一大截。所以别拿参数直接当显存结论,具体换算走 /models/deploy 和 /compute/sizing 按模型算一遍更靠谱。

看到参数数字时的核对清单

  • 先确认是总参数还是激活参数,混合专家类模型这两个数差距很大,直接决定显存和速度能不能对上
  • 再确认统计范围:纯文本模型还是带视觉、语音编码器的多模态模型,后者常含额外编码器
  • 最后看版本和量化:量化不改变参数量但会改变显存占用,别把「低比特版」误读成「参数变少了」
  • 信息找不齐时,到 /models 查模型库、/ai-dict 查词条,两边对不上就以配置文件为准并记录差异

补充一点:如果你是从中转站页面看到的模型名称,名称里的参数标注未必和官方一致。遇到对不上的情况,先去官方仓库核对,再回到 /sites 看对应中转站的说明,别直接拿页面上的数字做预算。

什么情况下参数量不能用来下判断

训练数据质量、数据配比、后训练方式对效果的影响,经常比参数规模更大。同参数量的两个模型,一个在中文长文档上表现好,另一个在代码上表现好,这很正常。参数只适合做粗略筛选,不适合当效果结论。

任务匹配度要优先于参数量:代码、法律、长文档这类活,先看榜单和实测结果,参数只用来筛掉明显跑不动的选项。榜单怎么读、不同评测口径怎么区分,去看 /benchmarks 与 /glossary,那里的方法说明比单看一个数字有用得多。

参数量告诉你模型有多大,不告诉你模型有多好用;前者能算,后者要试。
下一步把你手头要用的模型参数口径核对一遍,再拿真实配置去算显存和成本,数字以页面当时显示为准。

常见问题

B 前面那个数字越大约好吗?

不一定。参数量大通常意味着更强的上限,但也带来更高显存和更慢速度,而且效果还受训练数据和后训练影响。选型时把它当粗筛条件,先用任务和预算缩小范围,再看实测结果,别直接按数字排序下单。

同一个模型在别处看到参数不一样,该信哪个?

优先信官方模型卡和仓库配置文件,其次才看第三方汇总。对不上时先查是不是总参数与激活参数的区别,再看有没有把嵌入层或编码器算进去,还可能是四舍五入到整数 B 造成的差异,记下口径比争谁对更有用。

参数量的数字能直接拿来算显存吗?

只能做粗估。显存还取决于精度、量化档位、上下文长度、并发数和框架开销。拿参数量当起点,再套量化档位和上下文算一遍更靠谱,具体算法可以用站内部署测算页面按目标模型走一遍流程。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。