微调大模型需要花多少钱

模型与算力

把微调大模型的成本拆成数据、算力、存储、人力四块,给出按规模估预算的顺序和该去站内哪页核对当时的数字。

想微调一个模型,问十个人能报出十个价:有人报几百块云卡租金,有人报几十万人力。差在哪儿?多半是没把范围说清——是改个 LoRA 适配层,还是全参重训;数据是现成的还是从零标。这篇不给你一个「多少钱」的答案,而是给一套拆账顺序,让你按自己的场景把预算区间算出来,再去站内页面核对当天真实的租金和接口价。

想微调一个模型,问十个人能报出十个价:有人报几百块云卡租金,有人报几十万人力。差在哪儿?多半是没把范围说清——是改个适配层,还是全参重训;数据是现成的还是从零标。

这篇不给你一个「多少钱」的答案,而是给一套拆账顺序。让你按自己的场景把预算区间算出来,再去站内页面核对当天真实的租金和接口价。

先分清四笔钱:微调从来不只是算力费

最常见的误判是把微调等同于「租几张卡的钱」。实际账单往往由四块拼成,任何一块没算,最后都会超支。建议先按下面四块各写一个区间,再合并。

数据成本
标注、清洗、脱敏的人力,通常是最容易低估的一块,自采数据的团队尤其要算进去
算力成本
训练卡时、试错轮次、失败重跑,别按一次跑通估,按三到五倍估
存储与流量
数据集、checkpoint、多轮实验的中间产物会持续占盘,长期挂着就是月费
工程与人力
环境调试、评估集搭建、上线对接,小团队这块经常比卡钱还贵

按改动幅度分档:适配层、全参、从基座重训差别很大

改动档位资源量级感觉适合什么情况
只加适配层(LoRA 这类)单卡或两卡级别租用就能起步改输出格式、口径、任务行为,预算敏感场景的默认选择
全参微调随参数量和精度上涨,通常要上多卡甚至多机确实需要模型整体吸收新分布,成本量级跳一档
继续预训练 / 从基座重训已属训练范畴,不能按微调口径估预算和排期要单独做,去看训练专题更合适

判断自己属于哪一档,看你要改的是「任务行为」还是「领域知识分布」。只改输出格式和口径的,多数不需要往上跳档。

  • 只加适配层:显存和时长需求最低,是最容易先跑通的一档
  • 全参微调:显存需求明显上涨,别用适配层的预算去套
  • 从基座重训:这已经不是微调,预算不能按微调口径估
  • 拿不准时,先按最低一档做一版,用评估集决定要不要升档

估算动手顺序:从显存倒推卡数与天数

  1. 先算显存拿模型参数量、训练精度、批大小去站内的部署测算页对一遍,得出最少卡数和能否单机。
  2. 卡数换成时长按你的数据条数和轮次估总训练小时,再乘上试错系数。
  3. 小时数换成钱去算力比价页换算,注意区分按量、包日、包月,短任务按量往往更省。
  4. 补数据与人力加上前面两块的区间,得出总预算;如果发现人力占了大头,说明该先优化的是流程不是卡。

具体单价随时在变,别用记忆里的数字,直接到 价格追踪(/price-watch) 和 测速与实测(/tools/speed-test) 核对当天真实数据再算。

把预算压下来的几个可执行动作

  • 用小模型加高质量数据,先跑通效果再决定要不要换大模型,别一上来就上最大的
  • 缩短序列长度、清理样本里的冗余文本,训练成本对 token 数是敏感的
  • 固定随机种子和评估集,减少「感觉没变好」导致的无效重跑
  • 先租后买:短期实验用租卡,确认要长期反复训练了再买卡,买卡还要算电费和折旧
  • 别在训练阶段堆太多轮次,过拟合后用评估集挑 checkpoint,比继续训练更省

这几条里,收益最大的通常是数据质量,而不是换个更便宜的卡。同一份预算下,清洗一遍样本的效果经常比多租一档卡更明显。

下一步把自己的档位、卡数、小时数写下来,再去站内核对当天的租金和接口价,你就能得到一个属于自己场景的预算区间,而不是别人嘴里的那个数。

常见问题

只想让模型按我们的格式输出,微调值得吗?

多数情况不值得先上微调。格式类需求用提示词加少量示例就能覆盖,稳定性和改起来的速度都更好。微调的性价比通常出现在标注数据量大、格式复杂、或者延迟敏感不方便塞长提示词的场景,先花半天试提示词,不行再回来算微调账。

预算有限,先砍哪一块?

先砍算力,再砍数据规模。算力可以通过换更小的模型、缩短序列、减少试错轮次压下来;数据可以从「全量覆盖」改成「挑最典型的几百到几千条」,先验证方向对不对。人力不要砍评估环节,评估集不搭好,后面所有的训练都说不清有没有变好。

算完发现卡钱能接受,但总账超了,问题通常在哪?

大概率在数据和工程两块。数据清洗与标注的人力、评估集搭建、上线后的接口改造,这些不在租卡账单里,但会真实占用工时。建议把总预算按算力、数据、工程三份分开记,算完看哪份占比异常高,再决定是缩范围还是换方案。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。