大模型训练占算力市场的多少比例?用数据看清真实占比

模型与算力

讲清大模型训练在整个算力盘子里到底占多大一块,给出拆占比的口径、数据去哪查、以及常见误读的排除方法。

很多人一听说「算力紧张」,第一反应是训练大模型烧掉的卡。但你要真去估算自己该租卡还是调 API、要判断行情涨跌,就得先弄清训练到底占多少、推理又占多少。这篇不给一个写死的百分比,而是给你一套拆口径的方法、去哪查当时的数字,以及哪些说法一听就该打问号。

很多人一听说「算力紧张」,第一反应是训练大模型烧掉的那批卡。但你要真去决定自己该租卡还是调 API、要判断行情涨跌,只盯着训练看是不够的。训练和推理的账完全不一样:训练是集中、一次性的峰值,推理是天天跑、量大且分散的持续负载。

这篇不给一个写死的百分比,因为那个数字本来就随口径变。给你的是拆口径的方法、去哪查当时的数字、以及哪些说法一听就该打问号。你先学会问「这个占比是按什么口径算的」,再看数字本身。

为什么「训练占多少」没有一个标准答案

「训练占算力市场多大比例」这句话本身就缺主语。只算对外出租的 GPU 租金、算整个数据中心营收、还是算含电费和折旧的 TCO,三种口径能差出一大截。统计范围也一样:有的把自建集群按折旧折算进去,有的只统计对外卖出去的那部分产能。

常见口径统计了什么容易在哪儿失真
GPU 租金口径只算对外出租的算力租金自建自用的大厂集群完全没进分母
数据中心营收口径机房、带宽、配套服务全算和「模型训练」的关联被摊薄,占比看起来偏小
含电费与折旧的 TCO硬件寿命、电力、运维全折算各家折旧年限不一致,横向比不可比
推理占用口径日常调用产生的持续负载长尾且分散,很难被单独统计出来

所以正确姿势是:看到任何一个占比数字,先找它旁边有没有写口径。没写口径的,当参考可以,当决策依据不行。具体当时各家披露了哪些数字,到 /usage 真实用量榜和 /compute 算力总览交叉看一眼,比记一个孤立百分比靠谱。

把算力市场拆成三块:训练、微调、推理

要理解结构,最实用的做法是把算力需求分成三块分别看。它们的特点是反着来的:训练集中、单次贵、用完就结束;推理分散、单次便宜、但天天在跑。混在一起谈,占比永远说不清。

训练
从零预训练或大规模继续训练,集中、一次性的峰值需求,跑完一波就回落
微调
量级比训练小得多,但客户多、频次高,常被顺手算进「训练」里一起说
推理
日常调用产生的持续负载,长尾但总量巨大,判断行情时最容易被低估
  • 要估算自己该租卡还是调 API,先分清你的负载是「跑一次」还是「天天跑」
  • 要对比不同厂商的报价,先确认它报的是训练卡时还是推理卡时,二者计价逻辑不同
  • 要看行情趋势,重点看推理这块的增速,它通常比训练更平滑、更能反映真实需求
  • 要把占比讲给别人听,先说明你分母里包不包括微调和自建集群

一个 5 人小团队如果只是做应用,它的账单几乎全在推理侧;只有当你自己从零训一个模型,训练才会变成你成本的大头。这也是为什么行业整体的训练占比和单个团队的训练占比,往往差得很远。

当时的数字去哪看,怎么对得上口径

别记博主口播的数字,那种数字通常没有口径标注,也没有时间戳。正确做法是到站内对应页面看当时的数字,并核对页面写明的统计范围。

你想看的东西去哪看核对什么
算力总览与租用价格/compute页面标注的统计范围和更新说明
训练一项的算力账怎么估/compute/training-cost估算假设里含不含电费、折旧
训练与推理的公开用量口径/inference 与 /usage两边口径是否一致、时间窗口是否对齐
租金走势与涨跌/compute/price-index看趋势方向,别看单个点位
  1. 先定口径写下你要回答的问题属于哪一种:只算 GPU 租金、算数据中心营收、还是算含电费的 TCO。口径不定,后面全是白算。
  2. 再去对数字到上表对应页面取当时的数字,同时看页面自己写的统计范围,两边口径对不上的就标注出来,别硬凑在一起。
  3. 交叉验证至少用两个来源对照。发现差异先别急着选一个,先找差异原因,常见原因是统计窗口或范围不同。
  4. 留时间戳记录你去查的时点,行情类数字变化快,没有时点的结论过一阵就没法复核。

四个常见误读,遇到就先打个问号

市面上关于训练算力占比的说法,很多是把局部当成整体。下面这几类说法最常见,遇到就先去核对口径,而不是直接接受结论。

  • 把某一家厂商的采购量当成全市场占比:单一公司的资本开支不等于行业结构,分母根本不一样
  • 把「训练贵」当成「训练占比大」:单价高不等于总量占多数,便宜的推理块数多起来总量照样更大
  • 拿某次发布的峰值需求代表全年平均:训练是一次性冲刺,推理是天天跑,峰值和均值不是一回事
  • 用发布时间很旧的报告结论套现在的市场:结构变化快,旧结论可以当参考,不能当现状

什么情况下这些判断不适用?如果你只关心自己那套集群的分工,行业整体占比其实没多大参考价值,直接算自己的训练和推理负载就行。反过来,如果你是做容量规划或者判断行情,那行业结构就必须看,而且要看带口径的版本。

还有个容易忽略的点:推理需求增长时,短期看不出训练占比变化,因为训练也在同步扩张。所以别拿一两期的数据就下结论说训练占多少,至少看一个能反映趋势的时间窗口。想省事,就到 /compute 和 /usage 看当时的数字和趋势,自己拼一个能说清口径的图,比转发一个没出处的百分比有用得多。

下一步把你手头那份「训练占多少」的说法拿出来,对着口径表核一遍,再去站内页面取当时的数字对照。

常见问题

训练真的比推理更烧算力吗?

不能一概而论。预训练单次投入确实大、集中度高,但推理是每天都在跑的持续负载,累计下来体量很大。判断的时候要区分「单次峰值」和「年度总量」两个口径,别看了一个数字就下结论;具体对比可以到站内算力页面按当时的租金和用量对一遍。

我想估自己该租卡还是调 API,跟这个占比有关系吗?

关系不大,别被带偏。你的决策取决于自己的任务量、并发和是否要自持数据,不是行业结构。行业占比只用来判断租卡价格的长期走向和供给松紧。真要算账,去站内算力与用量相关页面按自己的调用量走一遍。

网上的占比数字互相矛盾,该信哪个?

先看口径再看数字:问清是 GPU 租金口径还是含电费口径、算不算微调、统不统计自建集群。口径对不上就没法比。找不到口径说明的数字,宁可不用。站内的算力与比价页面都标了统计范围,可以直接对照。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。