很多人一听说「算力紧张」,第一反应是训练大模型烧掉的卡。但你要真去估算自己该租卡还是调 API、要判断行情涨跌,就得先弄清训练到底占多少、推理又占多少。这篇不给一个写死的百分比,而是给你一套拆口径的方法、去哪查当时的数字,以及哪些说法一听就该打问号。
很多人一听说「算力紧张」,第一反应是训练大模型烧掉的那批卡。但你要真去决定自己该租卡还是调 API、要判断行情涨跌,只盯着训练看是不够的。训练和推理的账完全不一样:训练是集中、一次性的峰值,推理是天天跑、量大且分散的持续负载。
这篇不给一个写死的百分比,因为那个数字本来就随口径变。给你的是拆口径的方法、去哪查当时的数字、以及哪些说法一听就该打问号。你先学会问「这个占比是按什么口径算的」,再看数字本身。
为什么「训练占多少」没有一个标准答案
「训练占算力市场多大比例」这句话本身就缺主语。只算对外出租的 GPU 租金、算整个数据中心营收、还是算含电费和折旧的 TCO,三种口径能差出一大截。统计范围也一样:有的把自建集群按折旧折算进去,有的只统计对外卖出去的那部分产能。
| 常见口径 | 统计了什么 | 容易在哪儿失真 |
|---|---|---|
| GPU 租金口径 | 只算对外出租的算力租金 | 自建自用的大厂集群完全没进分母 |
| 数据中心营收口径 | 机房、带宽、配套服务全算 | 和「模型训练」的关联被摊薄,占比看起来偏小 |
| 含电费与折旧的 TCO | 硬件寿命、电力、运维全折算 | 各家折旧年限不一致,横向比不可比 |
| 推理占用口径 | 日常调用产生的持续负载 | 长尾且分散,很难被单独统计出来 |
所以正确姿势是:看到任何一个占比数字,先找它旁边有没有写口径。没写口径的,当参考可以,当决策依据不行。具体当时各家披露了哪些数字,到 /usage 真实用量榜和 /compute 算力总览交叉看一眼,比记一个孤立百分比靠谱。
把算力市场拆成三块:训练、微调、推理
要理解结构,最实用的做法是把算力需求分成三块分别看。它们的特点是反着来的:训练集中、单次贵、用完就结束;推理分散、单次便宜、但天天在跑。混在一起谈,占比永远说不清。
- 训练
- 从零预训练或大规模继续训练,集中、一次性的峰值需求,跑完一波就回落
- 微调
- 量级比训练小得多,但客户多、频次高,常被顺手算进「训练」里一起说
- 推理
- 日常调用产生的持续负载,长尾但总量巨大,判断行情时最容易被低估
- 要估算自己该租卡还是调 API,先分清你的负载是「跑一次」还是「天天跑」
- 要对比不同厂商的报价,先确认它报的是训练卡时还是推理卡时,二者计价逻辑不同
- 要看行情趋势,重点看推理这块的增速,它通常比训练更平滑、更能反映真实需求
- 要把占比讲给别人听,先说明你分母里包不包括微调和自建集群
一个 5 人小团队如果只是做应用,它的账单几乎全在推理侧;只有当你自己从零训一个模型,训练才会变成你成本的大头。这也是为什么行业整体的训练占比和单个团队的训练占比,往往差得很远。
当时的数字去哪看,怎么对得上口径
别记博主口播的数字,那种数字通常没有口径标注,也没有时间戳。正确做法是到站内对应页面看当时的数字,并核对页面写明的统计范围。
| 你想看的东西 | 去哪看 | 核对什么 |
|---|---|---|
| 算力总览与租用价格 | /compute | 页面标注的统计范围和更新说明 |
| 训练一项的算力账怎么估 | /compute/training-cost | 估算假设里含不含电费、折旧 |
| 训练与推理的公开用量口径 | /inference 与 /usage | 两边口径是否一致、时间窗口是否对齐 |
| 租金走势与涨跌 | /compute/price-index | 看趋势方向,别看单个点位 |
- 先定口径写下你要回答的问题属于哪一种:只算 GPU 租金、算数据中心营收、还是算含电费的 TCO。口径不定,后面全是白算。
- 再去对数字到上表对应页面取当时的数字,同时看页面自己写的统计范围,两边口径对不上的就标注出来,别硬凑在一起。
- 交叉验证至少用两个来源对照。发现差异先别急着选一个,先找差异原因,常见原因是统计窗口或范围不同。
- 留时间戳记录你去查的时点,行情类数字变化快,没有时点的结论过一阵就没法复核。
四个常见误读,遇到就先打个问号
市面上关于训练算力占比的说法,很多是把局部当成整体。下面这几类说法最常见,遇到就先去核对口径,而不是直接接受结论。
- 把某一家厂商的采购量当成全市场占比:单一公司的资本开支不等于行业结构,分母根本不一样
- 把「训练贵」当成「训练占比大」:单价高不等于总量占多数,便宜的推理块数多起来总量照样更大
- 拿某次发布的峰值需求代表全年平均:训练是一次性冲刺,推理是天天跑,峰值和均值不是一回事
- 用发布时间很旧的报告结论套现在的市场:结构变化快,旧结论可以当参考,不能当现状
什么情况下这些判断不适用?如果你只关心自己那套集群的分工,行业整体占比其实没多大参考价值,直接算自己的训练和推理负载就行。反过来,如果你是做容量规划或者判断行情,那行业结构就必须看,而且要看带口径的版本。
还有个容易忽略的点:推理需求增长时,短期看不出训练占比变化,因为训练也在同步扩张。所以别拿一两期的数据就下结论说训练占多少,至少看一个能反映趋势的时间窗口。想省事,就到 /compute 和 /usage 看当时的数字和趋势,自己拼一个能说清口径的图,比转发一个没出处的百分比有用得多。
下一步把你手头那份「训练占多少」的说法拿出来,对着口径表核一遍,再去站内页面取当时的数字对照。→常见问题
训练真的比推理更烧算力吗?
不能一概而论。预训练单次投入确实大、集中度高,但推理是每天都在跑的持续负载,累计下来体量很大。判断的时候要区分「单次峰值」和「年度总量」两个口径,别看了一个数字就下结论;具体对比可以到站内算力页面按当时的租金和用量对一遍。
我想估自己该租卡还是调 API,跟这个占比有关系吗?
关系不大,别被带偏。你的决策取决于自己的任务量、并发和是否要自持数据,不是行业结构。行业占比只用来判断租卡价格的长期走向和供给松紧。真要算账,去站内算力与用量相关页面按自己的调用量走一遍。
网上的占比数字互相矛盾,该信哪个?
先看口径再看数字:问清是 GPU 租金口径还是含电费口径、算不算微调、统不统计自建集群。口径对不上就没法比。找不到口径说明的数字,宁可不用。站内的算力与比价页面都标了统计范围,可以直接对照。