想微调一个模型,问十个人能报出十个价:有人报几百块云卡租金,有人报几十万人力。差在哪儿?多半是没把范围说清——是改个 LoRA 适配层,还是全参重训;数据是现成的还是从零标。这篇不给你一个「多少钱」的答案,而是给一套拆账顺序,让你按自己的场景把预算区间算出来,再去站内页面核对当天真实的租金和接口价。
想微调一个模型,问十个人能报出十个价:有人报几百块云卡租金,有人报几十万人力。差在哪儿?多半是没把范围说清——是改个适配层,还是全参重训;数据是现成的还是从零标。
这篇不给你一个「多少钱」的答案,而是给一套拆账顺序。让你按自己的场景把预算区间算出来,再去站内页面核对当天真实的租金和接口价。
先分清四笔钱:微调从来不只是算力费
最常见的误判是把微调等同于「租几张卡的钱」。实际账单往往由四块拼成,任何一块没算,最后都会超支。建议先按下面四块各写一个区间,再合并。
- 数据成本
- 标注、清洗、脱敏的人力,通常是最容易低估的一块,自采数据的团队尤其要算进去
- 算力成本
- 训练卡时、试错轮次、失败重跑,别按一次跑通估,按三到五倍估
- 存储与流量
- 数据集、checkpoint、多轮实验的中间产物会持续占盘,长期挂着就是月费
- 工程与人力
- 环境调试、评估集搭建、上线对接,小团队这块经常比卡钱还贵
按改动幅度分档:适配层、全参、从基座重训差别很大
| 改动档位 | 资源量级感觉 | 适合什么情况 |
|---|---|---|
| 只加适配层(LoRA 这类) | 单卡或两卡级别租用就能起步 | 改输出格式、口径、任务行为,预算敏感场景的默认选择 |
| 全参微调 | 随参数量和精度上涨,通常要上多卡甚至多机 | 确实需要模型整体吸收新分布,成本量级跳一档 |
| 继续预训练 / 从基座重训 | 已属训练范畴,不能按微调口径估 | 预算和排期要单独做,去看训练专题更合适 |
判断自己属于哪一档,看你要改的是「任务行为」还是「领域知识分布」。只改输出格式和口径的,多数不需要往上跳档。
- 只加适配层:显存和时长需求最低,是最容易先跑通的一档
- 全参微调:显存需求明显上涨,别用适配层的预算去套
- 从基座重训:这已经不是微调,预算不能按微调口径估
- 拿不准时,先按最低一档做一版,用评估集决定要不要升档
估算动手顺序:从显存倒推卡数与天数
- 先算显存拿模型参数量、训练精度、批大小去站内的部署测算页对一遍,得出最少卡数和能否单机。
- 卡数换成时长按你的数据条数和轮次估总训练小时,再乘上试错系数。
- 小时数换成钱去算力比价页换算,注意区分按量、包日、包月,短任务按量往往更省。
- 补数据与人力加上前面两块的区间,得出总预算;如果发现人力占了大头,说明该先优化的是流程不是卡。
具体单价随时在变,别用记忆里的数字,直接到 价格追踪(/price-watch) 和 测速与实测(/tools/speed-test) 核对当天真实数据再算。
把预算压下来的几个可执行动作
- 用小模型加高质量数据,先跑通效果再决定要不要换大模型,别一上来就上最大的
- 缩短序列长度、清理样本里的冗余文本,训练成本对 token 数是敏感的
- 固定随机种子和评估集,减少「感觉没变好」导致的无效重跑
- 先租后买:短期实验用租卡,确认要长期反复训练了再买卡,买卡还要算电费和折旧
- 别在训练阶段堆太多轮次,过拟合后用评估集挑 checkpoint,比继续训练更省
这几条里,收益最大的通常是数据质量,而不是换个更便宜的卡。同一份预算下,清洗一遍样本的效果经常比多租一档卡更明显。
下一步把自己的档位、卡数、小时数写下来,再去站内核对当天的租金和接口价,你就能得到一个属于自己场景的预算区间,而不是别人嘴里的那个数。→常见问题
只想让模型按我们的格式输出,微调值得吗?
多数情况不值得先上微调。格式类需求用提示词加少量示例就能覆盖,稳定性和改起来的速度都更好。微调的性价比通常出现在标注数据量大、格式复杂、或者延迟敏感不方便塞长提示词的场景,先花半天试提示词,不行再回来算微调账。
预算有限,先砍哪一块?
先砍算力,再砍数据规模。算力可以通过换更小的模型、缩短序列、减少试错轮次压下来;数据可以从「全量覆盖」改成「挑最典型的几百到几千条」,先验证方向对不对。人力不要砍评估环节,评估集不搭好,后面所有的训练都说不清有没有变好。
算完发现卡钱能接受,但总账超了,问题通常在哪?
大概率在数据和工程两块。数据清洗与标注的人力、评估集搭建、上线后的接口改造,这些不在租卡账单里,但会真实占用工时。建议把总预算按算力、数据、工程三份分开记,算完看哪份占比异常高,再决定是缩范围还是换方案。