微调需要多少钱？模型微调的成本构成与预算估算思路

想微调一个模型，报价从几千到几十万都有，差的往往不是模型本身，而是你把哪些东西算进了成本。这篇不给你一个死数字，而是给一套拆账思路：哪些是一次性投入，哪些是按次计的算力钱，哪些是看不见的试错和维护开销，以及先做哪一步、什么情况下这条路其实不值得走。

微调报价从很低的四位数到很高的六位数都有人报，差距经常不在模型本身，而在你打算把哪些开销算进去。同样一个任务，有人只算了租卡的机时，有人把标注、重跑、上线后的调用费全算上，两条账自然对不上。

这篇不给你一个可以直接抄的数字，而是给一套拆账顺序：先认清钱花在哪四块，再按任务定规模，然后把微调和提示词、检索这些替代路线摆在一起比，最后看哪些环节最容易把预算撑爆。凡是需要具体数字的地方，都去站内对应页面看当时的行情。

微调的钱花在哪四块

先把开销分门别类，是避免估算跑偏的第一步。微调不是一项费用，而是四类性质完全不同的支出：数据、算力、试错、长期维护。前两块看得见，后两块最容易漏算，而漏掉的部分往往才是真正把账撑大的那部分。

数据准备

清洗、脱敏、构造指令对和标注的人力成本，通常比算力更贵，建议先估人工工时再折算卡时

算力

训练本身、反复重跑、配套的推理评测三部分，租卡按小时算，托管微调按训练 token 算，口径不同不能直接比

试错

数据配比不对、超参没调好导致的重跑，经验上要单独预留几轮重跑额度，不能按一次成功来报预算

长期项

上线后的托管推理、评测回归、基座换代后的重新微调，属于持续支出而不是一次性投入

把四块写成一张表之后你会发现，真正决定总盘子大小的通常不是模型精度，而是数据要从头造还是能复用、上线后调用量大不大。这两点想清楚，再去站内算力与模型资料库核对当时的单卡时价和托管计费口径，估算才不会悬空。

估算顺序：先定任务，再定规模

很多人估预算的顺序是反的：先看哪张卡便宜、哪家托管便宜，再回头想任务怎么做。正确的顺序是先定任务边界，再定数据规模，最后才选基座和算力档位。顺序错了，后面每一步都在为前面的草率买单。

1. 把任务写成可验收的标准先判断这是格式、口吻这类表达问题，还是需要注入新知识的问题。表达类问题提示词或检索往往更划算，知识类才更可能值得微调。验收标准要能写成一条条可以人工判定的规则。
2. 定样本量级小样本就能跑通的固定格式任务，和需要上万条覆盖多场景的任务，算力差距可以差一个量级。先估需要多少条有效样本，再乘上单条标注工时，得到数据侧的量级。
3. 再选基座和算力档位带着任务和数据量去选，而不是反过来。到站内模型资料库和算力页面核对当时的可用档位与计费方式，算出训练一轮的大致区间，再乘上你预留的重跑轮次。
4. 每一步设一个止损点每一阶段都定一个「到此为止」的判断标准，比如数据准备超预算就退回提示词方案、训练效果好但推理太贵就减小模型。超标就停，不要默认继续加钱。

还有一个常被忽略的判断点：如果任务要求会随业务频繁变化，微调就得跟着重训，数据维护成本会被严重低估。这类场景更适合用检索加提示词的方式，改的是知识库而不是模型权重。

和替代路线放在一起比

微调不是必选项，而是一条候选路线。把提示词方案、检索增强方案、微调方案三列并排，比的是「达到同一验收标准所需的总投入」，而不是单次报价。很多人只看单次训练便宜就上，结果上线后的调用费和重训费把总账拉高。

• 数据频繁变化：微调要跟着重训，维护成本容易被低估，优先考虑检索方案
• 只是想把输出格式固定下来：微调优势明显，但先确认提示词方案是不是真的做不到
• 需要注入大量事实知识：微调不是首选，检索更可控也更好更新
• 推理用量很大：训练只是一次性支出，上线后每次调用都要花钱，用量大的场景要提前把这笔算进去
• 拿不准：先用小样本做一次对照实验，再决定要不要上量

算力口径千万别混。租卡是按小时计费，托管微调是按训练 token 计费，推理是按调用量计费，三种单位必须在同一张表里换算成同一个维度再看结论。站内价格追踪页会把这几类计费口径分开列，去那里核对当时的数字比翻各家文档快。

最容易把预算撑爆的几件事

预算超支很少是因为单价突然涨了，几乎都是几个固定环节没管住。下面这几件事按出现频率排序，前期花半天时间做小样本对照，往往能省掉后面几轮重跑的钱。

• 样本质量差：脏数据进去，重跑次数直接翻倍。先做几十条的小样本对照，确认标准一致再上量
• 算力空转：租了卡在等数据、等评审，按小时计费时这部分时间照扣，排期要排在数据准备好之后
• 没有评测集：改完不知道有没有变好，只能反复试，每试一次都是钱，评测集要和训练集一起准备
• 忽略推理侧：训练一次性支出，上线后每次调用都要花钱，用量大的场景要提前把推理成本算进去
• 没算版本更替：基座换代后可能要重新微调，预算里留一笔再说

微调预算里最贵的两样东西往往不写在报价单上：返工的标注和空转的卡时。

如果做完上面这些拆账和对照，发现达到验收标准所需总投入明显高于提示词或检索方案，那这条路当下就不值得走。这不是失败，而是把预算花在了该花的地方。反过来，如果任务稳定、格式要求强、数据又能复用，微调的一次性投入是可以摊薄的。