微调 一次 要 多少 钱

成本与用量

把一次微调的钱拆成数据、算力、托管、人力四块,给出估算顺序与省钱路径,并说明哪些情况下这笔账不成立。

打算做微调的团队常卡在同一个问题:问供应商报价,对方要你先说清数据量和训练轮数,而这两项自己也还没定;于是报价迟迟拿不到,预算只能拍脑袋。这篇不给你一个固定数字,而是给一套估算顺序:先分清钱花在哪几块,再按哪几项参数去站内页面查当时的数字,最后列出能动手砍掉的几项。

打算做微调的团队常卡在同一个问题:问供应商报价,对方要你先说清数据量和训练轮数,而这两项自己也还没定;于是报价迟迟拿不到,预算只能拍脑袋。真实情况是,没人能一口报出「一次微调多少钱」,因为这笔钱取决于你选的路子,而不是某个固定价目。

这篇不给固定数字,给一套估算顺序:先分清钱花在哪几块,再按哪几项参数去站内页面查当时的数字,最后列出能动手砍掉的几项。按这个顺序走,你半小时内能拉出一张自己团队可用的预算表,而不是等对方报价。

一次微调的钱由哪几块拼成

先把账分成四块看:训练算力、数据准备与标注、训练完之后的托管推理、以及自己人投入的工时。前三块在站内能查到公开口径,第四块最容易被漏掉,但它往往决定这个项目到底值不值得做。

成本块由什么决定怎么查当时的数字
训练算力底模规格、数据量、轮数、卡型与卡数共同决定时长到 /gpu 算力总览与 GPU 租用比价页按当天租金算
数据准备与标注是否已有干净数据、要不要人工标注、要不要合规审核按团队自己的工时单价折算,无公开价可查
托管推理部署后每日请求量与上下文长度到 /price-watch 看各家推理单价的当日口径
自家工时调试、试跑、评测、上线维护按人头乘投入天数,容易被低估

除了四块主账,还有三块附加账经常被忽略:反复试跑失败重来、试完不用的模型占着存储与端点、上线后每次调用还要付推理钱。前两项是沉默成本,第三项是长期支出。

按哪几个参数去查当时的数字

不要先看价再倒推参数,那样只会越看越乱。正确的顺序是:先把下面四个参数填成一张表,再拿这张表去站内逐个页面核对当天的数字。

  • 训练侧四参数:底模规格、训练数据量、训练轮数、卡型与卡数,这四个决定训练时长,时长再乘当时的租金
  • 推理侧两参数:部署后每日请求量、上下文长度,换算方式可对照站内的 token 单价换算工具
  • 价格会动,所以不要照抄任何一篇文章里的金额,到站内官方 API 价格页、算力总览与 GPU 租用比价页看当天口径
  • 查的时候顺手记下查询时间,同一份预算表隔两周就该重算一次

把参数和价格分开记录,好处是供应商报价回来时你能立刻判断贵在哪一项:是数据量开太大,还是卡型选高了,还是推理单价本身偏高。没有这张表,你只能被动接受报价。

能砍的几刀,按代价从低到高排

  1. 先砍训练规模,不砍底模减小数据量、降低轮数,先做小样本试跑验证方向对不对,再决定要不要全量训。验证方式:看小样本跑出来的效果是否接近预期,不接近就先改数据而不是加卡。
  2. 换托管方式训练时租按量的卡,训练完切到托管推理或走按量 API,比一直独占一张卡便宜。可对照站内微调与托管推理哪家划算那页的口径做比较。
  3. 换更上游的做法能用提示工程、检索增强或少量示例解决的任务,先别上微调。确实需要稳定风格或固定格式输出时再上,判断标准是:改了三次提示词仍然不稳定。
  4. 最后才动数据质量与评测这两项砍了,训出来的模型没法判断好坏,重训一次的成本比省下的多。所以它们排在最后,不是最先。

砍的顺序很重要。很多团队一上来就省评测环节,结果训了三版都不知道哪版能用,反而最贵。按上面的顺序走,每一刀都能说清省了多少、代价是什么。

这套估算什么时候不适用

上面这套算法默认你的任务是「通用数据、可租算力、上线调用量中等」。下面三种情况里,它算出来的数字参考价值有限,得换算法。

  • 数据需要大量人工标注或涉及合规审核时,人力成本会盖过算力成本,这时算力报价再低也没意义,应先把标注和审核的工时估出来
  • 需要私有化部署或独占算力时,成本从按次变成按月甚至按年,得按买卡还是租卡的几年账来算,不能只看单次训练费
  • 底模不开源或供应商不提供微调接口时,这条路本身走不通,应改看站内微调服务商目录里能接的渠道

另外,如果这次微调的目标只是验证一个想法,那预算重点应该放在最小可行的试跑上,而不是按上线标准做全量估算。目标不同,账的口径也不同。

下一步先把你自己的四个训练参数和两个推理参数填成一张表,再带着这张表去站内逐个页面核对当天的数字,比直接问报价快得多。

常见问题

我只有几千条样本,估算该从哪一步开始?

先别算总价,先算训练时长。拿几百条做一次小样本试跑,记录跑完一轮花掉的时间,再按比例放大到全量数据,这一步能把估算误差压到可接受范围,之后再去查当时的算力租金。样本量小的项目,数据准备工时常比算力贵。

训练那笔钱是一次性的,为什么账单上还有后续费用?

训练只是一次性投入。模型上线后每次请求都要走推理计价,而且微调模型的推理单价通常不跟随底模的降价同步调整。所以要分别估训练那一次和上线后每月两笔账,第二笔往往是长期支出,别只按训练报价做预算。

预算有限,先省哪一块最不容易出问题?

先省训练侧的可变部分:减少轮数、先用小样本验证、训练完及时释放算力。数据质量和上线前的评测不建议省,这部分省下来的钱通常会在重训或线上出问题时加倍还回去。具体档次差异可以到站内官方 API 价格页与算力相关页面核一遍当前口径。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。