搜「微调训练多少钱」的人,多半已经拿到一张报价单:写着一个每卡每小时的价,或者一个「打包价」。问题是你没法判断这个数划不划算,因为报价只覆盖了其中一小块。这篇不讲具体数字,讲怎么把那笔钱拆开算、哪几项容易被漏掉、什么情况下这笔钱根本不值得花。
搜「大模型微调和训练收费标准」的人,多半手里已经攥着一张报价单了。上面写着一个每卡每小时的价,或者干脆给个「打包价」。麻烦在于你没法判断这数划不划算——因为报价只覆盖了整笔账里的一小块,剩下的部分要么没写,要么藏在备注里。这篇不给你具体数字,讲怎么把这笔钱拆开算、哪几项最容易被漏掉、以及什么情况下这笔钱压根不该花。
先说一个常被混着看的点:微调和训练,报出来的价经常长得一样,但吃的资源完全不是一回事。微调吃显存和数据干净程度,训练吃卡时和数据规模。你拿着「每卡每小时」的价去比两家,很可能比的只是算力租金那一截,数据清洗、评测、交付全没算进去。所以第一步不是比价,是问清对方报的是哪一段。
微调和训练压根不是一笔账
拿到报价先别急着算总价,先看计费单位。微调常见的报法是「按数据量」或者「按轮次打包」,训练更常见的是「按卡时」。单位不一样,横向比价基本没意义。有个做客服机器人的 5 人小团队就栽在这上面:拿微调的打包价去比训练平台的卡时单价,觉得后者便宜,结果数据准备和评测另算,最后总支出反而更高。
- 微调:问清是按数据条数、按训练轮次还是按最终交付的模型个数计费,超出的部分怎么加
- 训练:问清卡型号、卡数、是否独占,共享卡低价不能直接跟独占价比
- 数据:清洗、标注、脱敏是不是含在报价里,还是按人天另结
- 评测:跑验证集要不要另开推理算力,这部分常常单列
- 交付:权重文件、推理服务部署、后续更新算不算在总价内
判断标准其实很简单:让对方把报价拆成「算力、数据、人力」三栏,哪栏空着就追问哪栏。三栏都写得清清楚楚的报价,才有比较的基础。只有一行单价的,先当作不完整报价看。
漏算的三处:排错、重跑、环境
头一版跑不通,太正常了。学习率填错一位、数据格式差一个字段、显存不够 batch size 调小重来——这些烧掉的卡时一样计费。报价单不会替你预留这块,但预算里必须留。我的建议是按「能跑通的次数」而不是「跑一次的时长」来估,第一次大概率不是最后一次。
数据这头更磨人。换一版清洗规则往往意味着整个训练重跑,人天成本比卡时贵得多。还有容易被忽略的环境项:checkpoint 存哪、存多久、权重文件怎么传回来,这些存储和传输费用在有些平台是单独列的。跑评测又得另开一份推理算力,别以为训练完就结束了。
拿到报价后先核这几格
| 核对项 | 要问清什么 | 不核对的风险 |
|---|---|---|
| 卡与时长 | 卡型号、卡数、时长、是否独占 | 共享卡低价被当成独占价来比 |
| 超时与中断 | 任务被抢占后重新排队还是按原时长结算 | 中途中断的费用变成糊涂账 |
| 数据归属 | 清洗后的数据、训练出的权重归谁 | 换供应商时资产带不走 |
| 验证方式 | 能否先用你自己的小样本跑一轮 | 样例集好看,真实数据拉胯 |
表格里最该盯的是最后一行。让对方用你自己的数据、自己的评测标准先跑一轮小规模验证,别用他们准备好的样例集——样例集是挑过的,说明不了你的场景。这一轮花不了多少,但能提前暴露数据质量和参数配置的问题。具体到某家平台的卡时单价和套餐,站内价格追踪页有持续记录,到 /price-watch 核对当时的数字,别拿旧报价做决策。
- 拆报价要求对方按算力、数据、人力三栏列明,缺哪栏追问哪栏,口头承诺写进合同附件
- 跑小样用自己的一小批真实数据跑一轮,看输出质量、耗时和实际计费,对照报价单核一遍
- 留余量按排错重跑的概率上浮预算,把存储、传输、评测的单项费用也加进去再算总账
有些活不该走微调这条路
如果目标只是让模型答得符合格式、带上固定话术、按模板输出,提示词加上检索往往就够用。这两种手段成本低、改起来快,先把它们试到底再谈微调,能省掉一大笔试错钱。反过来,业务规则天天变、样本还在收集的阶段,微调出来的模型很快过期,钱花得冤。
还有一个硬标准:微调之后得能用评测证明它比原来好。评测集怎么定、指标看哪个,在动手前就写下来。如果连「好多少算好」都说不清,这笔钱买的就是心理安慰。不确定要不要走这条路,可以先去站内指南中心看同类场景的判断框架,再到 /tools/speed-test 用你自己的样本跑一轮对比,有了基线再决定。
下一步报价单上的单价只是起点,算总账得把算力、数据、人力三栏和自己的重跑概率一起放进去。站内价格追踪页持续记录各家的卡时与套餐变化,到 /price-watch 核对当时的数字,再拿本文的核对表去跟供应商谈。→常见问题
微调按卡时收费,那是不是选最便宜的卡就行?
不行。显存不够就得上量化或者切分,跑得慢反而更贵;还要看这台卡能不能独占,共享卡排队时间也会算进你的项目周期。先按自己的模型规模去算需要多大显存,再比单价。
训练和微调的报价能直接横向比吗?
基本不能。一个是全量参数训练,一个是小参数量适配,卡时消耗差着量级,报价单上的单价也不含同样的东西。要比就比同一个目标下「跑完这一轮总共花多少」。
预算有限时先砍哪一块?
先砍规模,别砍验证。把训练轮次和数据量压下来试跑,但评测环节要留着,否则你不知道省掉的这部分有没有把效果也一起省没了。