模型训练算力与成本

因为每个估算都建立在一组自己的假设上：① GPU 小时单价不同（本目录里 DeepSeek V3 按约 $2/GPU 小时计、Llama 3.1 405B 的 60M 美元也是按 $2/GPU 小时反推，而 H100 / H800 / B200 的真实租金差别很大）；② 计入范围不同（只算预训练、还是含上下文扩展与后训练；含不含失败的实验与数据成本）；③ 美元口径不同（有些是当年价，有些按 2023 年不变价折算）；④ 硬件采购与租用、云厂商折扣也不同。所以「A 比 B 便宜」这类结论只在同来源、同口径下成立；跨行比较请只当量级参考。

训练算力（training compute）指整次训练累计的浮点运算量，常见差异来自三点：① 计算方式——厂商披露的集群规模 × 训练时长 × 硬件利用率换算，与第三方按「6 × 参数量 × 训练 tokens」这类经验公式估算，结果可能差数倍；② 统计范围——只算预训练，还是把多阶段（mid-training、长上下文扩展、后训练、强化学习、多次重跑）都算进去；③ 模型结构——MoE 的总参数量和激活参数量差距极大，按总参数估会明显高估。这里展示的是上游数据集里的单一数值，不叠加也不换口径，看到「同代模型差一个数量级」时先怀疑口径而不是能力。

因为大部分厂商不披露。在 3636 个模型里只有 1411 个能算出可比的 FLOP；成本目录 15 条里只有 3 条有金额、1 条是厂商披露。OpenAI、Anthropic、Google 的旗舰模型普遍只给「用了什么硬件」，不给参数量、卡数与时长（例如 GPT-5.5、Claude Opus 4.7、Gemini 2.5 Pro 在本目录里都是「未披露」）。缺失即缺失，不做推测填充。

不等于。训练算力只反映投入规模，同样的算力下，数据质量、数据配比、后训练与推理侧投入（思维链长度、工具、测试时计算）对最终能力的贡献往往更大。看本页的用法是：① 判断某家公司是不是在「前沿算力档」；② 对比同代模型之间的投入量级；③ 结合 模型智商榜 的能力分与 价格变动追踪 的价格，算「每单位智能的成本」。单独的 FLOP 排名不是能力排名。

两者一起看才有意义：参数量决定模型容量，训练 tokens 决定喂进去多少信息，业界常用「tokens / 参数量」倍数判断是否欠训练。注意 MoE 模型要区分总参数与激活参数（例如 LongCat-2.0 是 1,600B 总参 / 48B 激活，DeepSeek V4 Pro 是 1,600B 总参 / 49B 激活），激活参数才接近实际计算量。本页参数量列直接给上游数值，MoE 模型的取值是否含全部专家，上游未逐条标注，使用时请对照原始来源。