大模型训练一次多少钱

老板问一句「训一个我们自己的模型要多少钱」，多数技术负责人答不上来，只能说「很贵」。这篇不谈玄学，把训练一次的开销拆成算力、数据、人力、试错四块，讲清每块随什么变化、怎么按自己的模型规模粗算，以及哪些环节最容易被低估。看完能自己搭一张预算表，也能判断供应商报的价是否离谱。

先掰开：一次训练的钱到底花在哪四块

很多人问「训练一次多少钱」，下意识只想到 GPU 租金。真把账单摊开，会发现它至少是四块拼起来的：算力、数据、人、配套基建。四块的量级不是平均分布，通常算力占大头，但人力在某些团队里能反超。这一节先把结构拆清楚，具体数字去站内模型资料库对应页面看当时的报价。

一次性投入

卡到位、集群搭好、基础数据首轮清洗，这类做完就沉淀下来，下次不用从零再来

反复发生

调参不收敛、数据配比推翻、训练中途崩了重跑，钱是照付的，且和失败次数成正比

隐蔽成本

人力试错和存储网络最不容易被算进预算，但它们不会因为你看不见就消失

小团队和大厂，结构完全不一样

同样一句「训练一次」，5 人小团队和大厂的账本长得不像。小团队通常租算力、买现成或用开源数据、靠少数几个人硬扛，人力占总支出比重反而更重，因为每个人的时间都直接压在关键路径上。大厂自有集群、有专职数据团队和平台工程，算力和基建折算下来占比更高，人力被摊薄。所以照搬别人的成本比例没意义。

• 自有卡还是租卡：自有要摊折旧和运维，租卡看实时报价，去站内价格追踪页核对当时的行情
• 数据能不能复用：能复用的只算首轮成本，不能复用的每次都要重新掏钱
• 失败几次要认：预算里要预留重跑次数，别把一次成功的账当常态
• 人是不是全职：兼职和全职的时间成本要分开算，别混在一起估

什么情况下还要再加两块

上面四块是通用结构，但有几种情况清单得往下加。一是数据涉及个人信息、版权或行业监管，要多出合规评估、脱敏处理和法务时间，这块省不掉；二是任务本身没有现成数据，需要人工标注，标注外包的预算和周期都要单独立项；三是团队跨地区协作，数据出境和传输成本也会冒出来。判断标准很简单：只要你的数据不是自己完全掌控、且能直接拿来用，就先去站内指南中心看对应的合规与标注说明再动手。

算力是大头：它由模型规模、数据量和训练轮次共同决定

训练账单基本由四个变量牵动：参数量、训练 token 数、卡的数量、单卡每小时的成本。前两个决定总计算量，后两个决定你把这些计算量摊在多少张卡上、每张卡多贵。很多人只盯着「我有几张卡」，其实卡数只影响你要等多久，不改变总工作量；真正把账单抬起来的是参数量乘以 token 数得出的那个总训练量。

为什么说总训练量比卡数更能决定账单？因为总工作量近似等于参数量乘以 token 数的若干倍，这是个乘积。多加卡只是把这个固定工作量切得更碎、并行跑完，单卡时长缩短，但卡时总数（卡数×小时）不会因此减少，甚至还因为通信开销变多。换句话说，堆卡买的是时间，不是折扣。想省钱要动的是参数量和 token 数，而不是卡的数量。

三段训练，钱量级差得很远

• 预训练：从随机权重开始，token 量最大、卡时最多，是整条链上最贵的一段，通常只有少数团队会碰。
• 继续预训练：在已有基座上加领域数据，token 量小一到几个数量级，成本主要是数据清理加一段中等规模的算力。
• 微调：数据量最小，单卡或少量卡就能跑，成本往往落在数据标注和反复试错上，而不是算力本身。

这三段的钱不在一个量级，所以问「训练一次多少钱」之前，先要问清楚自己要做的是哪一段。多数业务方其实只需要后两段，却按预训练的预算在做规划，这是最常见的浪费。

到什么规模就该放弃自研

1. 先算总量用参数量乘以预计 token 数，估出总计算量级，再折算成卡时。这一步不用精确，能判断量级即可。
2. 再算次数问自己这套训练要不要反复跑。如果结论是要跑很多轮才能收敛，自训的成本会被次数直接放大。
3. 对比替代方案把自训预算和「直接用现成基座做继续预训练/微调」的成本放一起比，后者通常在数据可控的前提下就够用。
4. 找判断线当数据规模、算力预算、迭代次数三者中任何一个明显不够时，就该转向微调而非自训；具体阈值到 指南中心（/guides/） 按当前行情核对，不要拿旧数字下决心。

还有一点容易忽略：卡单价不是固定的。同一批卡在不同供应商、不同计费方式下差别很大，而且训练中断重跑会把已花的时间作废。所以做预算时要留出失败重跑的比例，具体单价和可用性到 价格追踪（/pricing/） 看当时的数字，别用记忆里的旧价。

数据这块最容易漏算：采买、清洗、标注、去重

数据这块最容易在预算表里被压成一行「数据费」，结果到中期发现它是唯一会随规模线性膨胀、又不听技术优化的项。同样是训练一次，自有数据、公开语料、采购语料三条路，花的不只是钱，还有时间和法务风险，得分开算。

• 自有数据：先做盘点比先写清洗脚本更重要，摸清哪些字段可用、哪些必须脱敏，再决定清洗预算。
• 公开语料：把去重和过滤放在入库前做，别等训练前临时清洗，返工成本翻倍。
• 采购语料：谈合同时把训练用途、是否可蒸馏、是否可对外发布模型这几件事写清楚。
• 无论哪种来源，都要留一版可复现的数据快照，方便回溯问题。

清洗与去重吃的是人天，不是一句话

清洗和去重很少是跑一个脚本就完事。规则要人写、抽样要人看、边界样本要人拍板，尤其去重阈值定在哪，直接影响保留量和后续算力。这部分人天不上预算表，最后就会以「模型怎么训都不收敛」的形式暴露出来。

1. 定规则先抽几百条样本，人工标出要留、要删、要改的边界情况，形成书面规则。
2. 小批验证拿一小批数据跑完整流程，看保留率和噪声比例，确认规则不会误杀关键样本。
3. 全量执行按验证过的规则跑全量，同时记录每步的输入输出条数，方便对账。
4. 抽样复核每轮抽检一批，检查是否出现新的脏数据模式，规则该补就补。

质量差会反噬算力预算的方式很直接：脏数据比例高，模型要更多步才能学到同样的模式，训练时长和显存占用一起上去，等于用算力替数据质量买单。反过来，数据清洗做过头、把有效信号也删掉，模型学不到东西，同样要加训。所以清洗的目标是稳定，不是越干净越好。

按条计费的标注任务怎么估

标注类任务按条结算时，别只乘单价。先算清楚单条平均耗时、返工率、质检抽检比例，再把这三项叠上去才是真实成本。任务越主观，返工率越高，估的时候要把返工当常态而不是例外。

单条耗时

含读题、判断、填写，取多次抽样的中位数而不是最快值。

返工率

第一次质检不通过需要重做的比例，主观任务通常明显高于客观任务。

质检比例

抽检覆盖率，覆盖越高人力成本越高，但漏检风险越低。

口径统一成本

标注指南的编写和培训，属于一次性投入但必须计入。

估算顺序建议是：先小批试标，用实际耗时和返工率反推总工作量，再折算人天或按条费用。直接拿一个拍脑袋的单价乘以总条数，结果通常偏乐观。具体到不同任务的参考区间，可以到站内的数据与标注成本页面核对当时的数字。

授权与版权：什么时候必须先做合规评估

数据授权和版权边界是隐性成本里最容易爆的一环，平时不花钱，出问题时可能是重训、下架甚至更麻烦的后果。判断要不要先做合规评估，看用途和来源两个维度，而不是看数据量大小。

• 来源含用户生成内容、第三方平台抓取、外部采购但授权范围模糊时，先做合规评估。
• 模型要对外发布或商用，涉及数据可追溯性和再分发限制，先做合规评估。
• 打算用数据做蒸馏、微调或二次分发，超出原始授权用途，先做合规评估。
• 数据来自公开但带使用条款的站点，逐批确认条款，不能默认「公开即可用」。
• 来源清晰、授权明确且仅内部实验使用，可以简化流程，但仍要留档。

把这四块——采买、清洗、标注、去重——分开列预算科目，谁花多少一目了然。数据预算的绝对值可以去站内价格与成本资料库看当时的数字，重点是自己那套数据来源对应的结构，比抄一个总数有用得多。

自建卡还是租卡：两种口径怎么对齐再比

比「自己买卡还是租卡」之前，先承认一件事：这两种账本用的不是同一套计价单位，直接拿月租除以小时单价必然算歪。租卡按小时结算，你付的是「占用时长」；自建要先摊设备折旧，再加电费、机架、网络、运维人工，你付的是「时间流逝」。前者随用随停，后者从开机那天起就在烧钱，哪怕一张卡都没跑起来。

租赁口径

按小时或按卡时计费，闲置照样扣钱，成本随任务量线性变化

自建口径

一次性采购分摊到折旧周期，再加持续的电费、机架、网络和人力，闲置只损失折旧那部分

对齐的锚点

统一换成「每有效训练卡时成本」：分母是真正在算的卡时，不是机器开着的卡时

利用率是这个对比里最容易被忽略的变量。租卡闲置也计费，所以租卡的实际单价 = 挂牌小时价 ÷ 利用率；自建闲置只是浪费折旧，不是额外掏钱，但折旧不会因为你不用就停下。一句话：租赁的浪费是明账，自建的浪费是暗账。想清楚自己机器每天真正在算的比例，才能把两个口径拉到同一根尺子上。

• 任务间断性强、今天跑三轮明天停一周、还在反复调数据配方：闲置率天然偏高，租赁更划算，因为你能随时退订。
• 任务已经跑顺、长期稳定吃满整机、还对数据合规和网络延迟有硬要求：自建折旧更容易摊薄，值得认真算。
• 团队里没人专职管机器，排障、驱动、掉卡都要占工程师时间：这段人力成本要计入自建口径，不然账是假的。
• 短期冲一轮实验、之后可能换方向：优先租，别让固定资产锁死你的试错空间。
• 长期训练且任务节奏可预测：两边都算三年总账，再看哪个口径下每有效卡时更低。

1. 第一步：定统一分母把两边都换算成「每有效训练卡时」。分母只统计真正在跑的卡时，不含排队、调试、等数据的时间。
2. 第二步：估自己的利用率翻最近一段时间的任务记录，算真实在算的时长占机器开机时长的比例。估不准就取偏保守的值。
3. 第三步：搭三年总账把租赁按预估卡时逐月累加，自建按折旧周期加电费运维逐月累加，两边都乘上同一套利用率假设，再对比每有效卡时。
4. 第四步：做敏感性检查把利用率上下各浮动一档，看结论会不会翻转。翻转说明你现在还不该下重注，先租着观察。

试错与重跑：预算里必须留的那块缓冲

很多人问训练一次多少钱，脑子里想的是一条直线：跑一遍、出结果、结账。真开跑才知道，预算表上最容易被低估的不是算力单价，而是「同一件事要跑几遍」。中断几乎必然发生，问题是发生在第几步、你要不要从零再来。

所以第二件事是把预算单位从「单次报价」换成「训练轮次」。单次报价只覆盖最理想的那一遍，而你要付的是「跑到能交付为止」的总量。按轮次做预算，谈判和排期都会更贴近现实：先估一个基线轮次成本，再乘以一个经验轮次数区间，区间来自任务的成熟度，不是拍脑袋。

• 基线单轮成本：到 站内价格页核对当前各家官方 API 与算力报价，算出「跑满一遍」的量级
• 预期轮次：从需求清晰度、数据干净度、团队对这套流程的熟悉度三个角度各打一档
• 缓冲池：单独列一行，不混进单轮成本里，方便事后复盘到底哪一轮是浪费
• 复盘口径：记录每轮中断的原因分类，下一轮的缓冲比例就有依据，而不是年年拍同一个数

检查点（checkpoint）与续训策略，直接决定「重跑」是重跑一段还是重跑全程。保存频率太稀，中断后回退得远，白烧的算力多；太密，写入和存储本身又是开销。稳妥做法是让保存间隔和「一次中断平均要回退多久」匹配，并把最近几个检查点分层保留：近的留密、远的留疏。

检查点间隔

决定中断后最多回退多少步，是缓冲比例最直接的调节旋钮

分层保留

近处保留密一些便于续训，远处只留少量用于回溯对比

续训验证

恢复后先小步跑一段确认 loss 曲线接得上，再放全速，避免二次中断

可复现记录

把数据版本、配置、随机种子一起存档，否则续训等于换了个实验

1. 先算单轮基线到 站内价格页核对当时的报价与算力口径，算出跑满一遍的量级，只记公式不记绝对值，价格会变，公式不会。
2. 给任务定档对照上表挑一档，写下一句话理由。理由写不出来，说明该按更保守的一档走。
3. 把缓冲单列预算表里单独一行「重跑与试错」，不要摊进单轮成本，否则你会看不出钱花在哪。
4. 设回退上限约定「回退超过多少就停下来复盘」，避免一路重跑把缓冲吃光还不知道问题在哪。
5. 赛后回填跑完把实际用掉的轮次和中断原因填回表里，下一轮预算就有真实基数。

训练预算不是给一次成功准备的，是给「跑到能交付」准备的。

动手估一遍：从模型规模到预算表的六步顺序

估算这件事最怕一上来就问「一张卡多少钱」。顺序错了，后面全白算。先定目标，再一层层往下乘，最后得到的才是一张能拿去开会讨论的预算表。下面这套六步顺序，任何规模都适用，区别只在每步取的数不一样。

1. 第一步：先定训练类型问清楚这次是预训练、继续训练还是只做微调。预训练要从头跑完整个语料，卡时最大；继续训练只跑增量数据，量级明显下降；微调通常只动一小部分参数，卡时又低一个档。类型没定，后面四步全是空谈。
2. 第二步：估训练量用参数量乘以训练 token 数，再乘一个经验系数，得到总计算量。参数量按你要的模型规模算，token 数按语料实际大小算。具体系数和对照口径到站内模型资料库看当前说法，别用记忆里的数。
3. 第三步：折算卡时把总计算量除以单卡实际吞吐，再除以卡数，得到大致卡时。吞吐要按你实际会买的卡型和框架效率打折扣，不能按峰值算。卡型对照去站内模型资料库查当下的参数。
4. 第四步：乘单价用卡时乘以当时的卡时单价或云上实例单价，得到硬成本主体。单价随时间波动，去站内价格追踪页看当期数字，不要抄旧文章。
5. 第五步：加数据与人力数据清洗、标注、去重、存储和网络，加上算法、工程、运维的人月成本，往往能占到总盘子的不小一块。这部分容易被忽略，但漏了预算就不完整。
6. 第六步：加缓冲在合计数上再留一段冗余，覆盖返工、调参试错和排队等待。缓冲比例按团队成熟度定，新手团队留宽一点。

上表的关键不是数字，而是把每一项标成硬成本还是可砍项。硬成本砍不动，讨论时直接摆事实；可砍项才是谈判空间。任何一项的当期单价，都去站内价格追踪页核对，别拿记忆里的数当依据。

三种典型团队的账：什么时候不该自己训

先划一条线：如果团队的目标只是复现公开榜单上的效果，别折腾自训。榜单通常已经被大量团队刷过，复现收益低，反而消耗人力。这时候更值得做的是把评测、监控和工具链搭起来，把有限的工程时间放在业务数据闭环上。具体数字差异去站内资料库页面核对当次记录。

• 5 人以内、没有专职算法同学：优先检索增强加小规模微调，自训往后排
• 数据散落在多个系统、无统一清洗口径：先治理数据，别急着开训
• 已有可用算力但缺标注和评测能力：算力越便宜，数据短板越致命
• 目标只是让回答更贴合自己业务：先试提示词和检索，再考虑微调
• 目标是对标公开榜单效果：通常不值得自训，投入产出比很难看

检索增强

把外部资料实时喂给模型，改动小、迭代快，适合知识型垂直场景

蒸馏

让大模型教小模型，适合已有稳定教师模型和大量无标注数据的团队

继续预训练

在已有权重上继续吃行业语料，适合数据资产厚、算力预算稳的团队

机会成本

自有算力不是免费，它挤占的是别的训练和线上推理的配额

已有算力资源的团队最容易算错账：把机器折旧忽略掉，就觉得自训成本只是电费。实际上还要算上占用的工程排期、数据标注、评测调参和上线后的推理扩容。先按「这批机器如果拿去做别的任务能带来什么」列个对照，再决定训不训。

1. 先定评测口径明确用什么指标判断「训了以后更值」，没有口径就不要启动训练
2. 再估数据准备量把清洗、标注、去重、脱敏的工作拆出来，估算人力周数
3. 把替代方案跑一遍提示词、检索增强、微调各做一版小规模对比，用统一评测看差距
4. 算机会成本把占用的算力和人力折算成原本可承接的其他任务，作为隐性成本

交付前的预算清单与砍价顺序

训练预算最容易崩的地方不是算力单价，而是漏项。等你把六项都填进同一张表，会发现「贵」往往贵在没提前算进去的那几项。下面这张清单可以直接抄，每一项后面留一列「谁负责确认」，空着的那一格就是你还没对齐口径的地方。

• 把「单次训练成本」和「总预算」分成两个数，别用一个数糊过去；
• 缓冲单独成行，并写明触发条件，比如连续两次不收敛就启用；
• 每一项都要有负责人和确认口径，否则最后对账一定吵架；
• 算力报价按站内价格追踪页当时的数字核对，别用几个月前的截图；
• 回归验证的轮次要提前定，临时加轮次等于临时加钱。

1. 第一步：砍规模先动参数量、上下文长度、并行卡数这类结构参数。砍之前确认下游任务还够用，砍完用小规模试跑验证效果没塌。
2. 第二步：砍次数减少全量重训轮次，改成小步试跑加一次正式训练。验证方式是看试跑曲线和正式训练是否同向。
3. 第三步：才考虑数据质量只有前两步都砍完还不够，才回头动数据。动的时候优先减重复样本和低信息量样本，不要先减标注覆盖度。
4. 第四步：锁定口径再签字把最终表发给财务和业务方各确认一遍，重点对齐「什么算一次训练」和「缓冲什么时候启用」。

砍预算的先后顺序基本是固定的：先砍规模，再砍次数，最后才碰数据质量。反过来操作，短期数字好看，后面重训的概率明显上升。哪些项不建议动？缓冲、合规、回归验证这三项，省下来的钱一般会在返工时还回去。预算表定稿后，找算法负责人、数据负责人和财务各对一次口径，重点确认「一次训练」怎么定义、缓冲什么时候触发。具体单价和系数到站内价格追踪与模型资料库页面核对当时的数字，别用旧数推算。