机器学习深度学习和大模型多少钱?预算里最容易被忽略的三块

办公与行业

把机器学习和深度学习、大模型的费用拆成算力、调用和人力三块,给出按项目阶段估算的顺序,以及问价前该准备的信息。

搜「机器学习深度学习和大模型多少钱」,出来的多半是某个训练任务的报价单,看完还是不知道自己这个项目要准备多少。问题不在数字,在于没先分清钱花在哪一层:买卡自己训、按量调接口、还是买现成订阅,三者的计价单位根本不是一回事。这篇按项目阶段拆一遍,给一套能自己动手算的估算顺序。

搜「机器学习深度学习和大模型多少钱」,出来的多半是某次训练任务的报价单,看完还是不知道自己这个项目要准备多少。问题不在数字本身,在于没先分清钱花在哪一层。买卡自己训、按量调接口、买厂商订阅,这三者的计价单位根本不是一回事,混在一起问,得到的答案必然对不上。

这篇不给你一个总数,而是按项目阶段把账拆开:算力、调用、人力三块各自怎么估,先算哪一块后算哪一块,去问价之前手里该准备什么。中间会指出几个特别容易漏的口子,最后给一份能照着走的清单。数字部分一律留白,具体到站内对应页面核对当时的口径。

先分清你问的是哪一层钱

同一个项目名,两个人报出来的价差一大截,八成不是谁在坑谁,是问的人和回答的人默认的不是同一层。有人说的是一张卡跑多久,有人说的是一百万 token 多少钱,还有人说的是一个席位一个月。这三件事没法直接比大小。动手算之前,先在心里回答一句:模型是你自己训的,还是别人训好你调用的?这句定完,后面的口径才谈得上。

花钱方式计价单位适合什么阶段容易漏掉的部分
租卡自己训卡时,再乘卡数和轮次有数据、有明确任务、要自己掌控模型存储、网络、空闲等待的卡时
按量调 APItoken,输入输出常分开算验证期、流量波动大、不想养团队长上下文、重试、缓存未命中的额外量
买订阅或套餐席位每月,或打包额度团队日常用、需求稳定、追求省事超量部分怎么计、额度月底清零规则

判断自己落在哪一层,有个土办法:把你要做的功能用一句话说给同事听,如果他反问「那模型是你们自己练的吗」,说明这层还没定。这时候去做预算表基本是白做,先把调用方式定了再说。

自己训的那部分,钱主要压在算力上

训练侧要算的从来不是一次报价,而是卡时乘卡数再乘轮次。同一张卡在不同平台的租金差别明显,包月和按小时也不是一个算法。更麻烦的是微调和全量训练是两笔完全不同的账,多数团队的活其实落在微调或者干脆调接口这一侧,却按全量训练的规格去做预算,钱自然对不上。

做法是先到站内的算力页面看规格与租用价格口径,把候选卡的单价拉出来,再拿总成本页把买和租按三年周期对一遍。买卡不只看卡价,机柜、电力、运维、折旧都要摊进去;租卡则要把闲置时间算成成本,而不是当成免费。

  • 先把任务拆成「必须训」和「调一下就行」两类,后者直接跳过算力估算
  • 按卡时×卡数×轮次列草稿,轮次先按保守值填,跑通再回头修正
  • 把数据准备期单独算进去,这段时间卡是空转的
  • 买和租各出一版三年账,到 /compute/tco 对照口径核对当时数字
  • 算完回头问一句:这个预算里闲置卡时占了多少,超过两成就要重新排期

调接口的钱按 token 走,变量比你想象的多

按量调用的账看起来简单,实际坑不少。输入和输出经常分开计价,长上下文有另外一套口径,缓存命中与否单价也不同,有些平台对批量调用还有单独的价格。这些如果只问一个「每百万 token 多少钱」,乘出来的月账单会偏得离谱。所以逐条问清计价维度,再往里代自己的量。

估算顺序建议反过来走:先拿站内的工具把「一次请求大概多少钱」换算出来,再乘日均请求数得到月量级。别一上来就谈年度框架,量级都没摸清,框架价签了也是白签。工具入口在 /tools/token-price-calculator 和 /tools/model-cost-calculator,把提示词长度、输出长度、日均调用次数填进去,结果只是参考,但足以判断量级。

  1. 量一下真实输入从现有业务里抽几条典型请求,数一下平均字符数和最长的几条,别用理想的短句做样本。
  2. 定输出长度上限输出长度对成本影响很大,先设一个上限,再看业务能不能接受,不能接受就调提示词约束。
  3. 套进计算器换算把输入输出长度和日均次数填进 /tools/token-price-calculator,得出一次请求的量级。
  4. 乘出月量级再乘单价到模型价格页核对当时单价,注意输入输出是否分开、缓存是否另算。
  5. 留出重试和失败的余量网络失败、格式不合规重试都会产生真实调用,估算时加一档余量,别按理想值报。

真正容易超支的是人,不是卡

数据清洗和标注往往比训练本身更耗时,这部分没有单价表,只能按人天排。我见过一个小团队的做法是把预算大部分压在算力上,结果卡租回来闲置了两三周,就等数据整理完能用。卡的钱按小时在走,人的进度却按周在推,两头节奏没对齐,超支几乎是必然的。

排期时先问一句「数据什么时候能到、能用」,再倒推租卡的时间点。这个顺序换一下,能省掉不少空转。另外评估和验收也是人力,模型上线后要有人盯效果、改提示词、处理badcase,这部分经常在预算里被当成零。

去问价之前,把这几件事写清楚

供应商给的报价准不准,很大程度取决于你给的信息全不全。同样一句「我们要做个问答」,给的信息越具体,回来的报价越接近真实。去问价前先写一页纸,把这几项填上:输入是什么形态、大概多长,输出要多长,能接受开源模型还是必须用某家闭源模型,日均调用量级,有没有数据不出内网的要求。

填完这页纸,先用站内的总成本页和训练成本页的口径自己算一遍草稿,问供应商时对照着核。对方给的数字和你算的差在哪一项,往往就能看出他的假设和你的假设哪里不一样,这比直接砍价有用。

什么情况下这套算法不好使

有强合规或数据不出内网要求时,公有云上的租卡和 API 报价基本不适用,得按私有化部署重算,硬件采购、机房、运维人力都要另算一套。这种情况下去比公有云单价没有意义。

需求还在验证阶段、连要不要用模型都没定时,先做小规模试验比做预算表更有用。花几天跑个原型,比花两周做一张精确到小数点的表更能帮你决策。还有对延迟极其敏感的场景,成本之外要预留冗余和测速,这部分钱不在任何单价里,得单独列。

一份可以照着走的估算清单

下面这份清单按顺序走,每一步都有个明确的产出物,走完手里应该有一页能拿出去对的草稿,而不是一个拍脑袋的总数。

  1. 定阶段写下项目处在试验、上线还是扩容阶段,阶段不同算法不同,试验期别做年度预算。
  2. 定调用方式明确是自训、微调、调 API 还是买订阅,到对应站内页面拿当时的计价口径。
  3. 算月量级按请求量或卡时算出一个月的大致规模,先看量级对不对,再看单价。
  4. 加人力和数据时间把数据准备和验收的人力排进去,倒推算力租用的起始时间。
  5. 对照核价拿草稿去问价,逐项核对差异,差在哪一项就回去改哪一项的假设。
预算做得准不准,多半不取决于你问了多少家,而取决于你问之前把「哪一层、多大量、谁来干」这三件事写清楚了没有。
下一步想先摸清自己项目的量级,可以到工具页用计算器把一次请求的成本换算出来,再去价格追踪页对当时的行情,两份数字放在一起看,比单看报价单靠谱。

常见问题

我只想估个大概,最省事的做法是什么?

先判断你是调接口还是自己训。调接口就估日均请求数和单次 token 量,用站点里的换算工具乘一遍;自己训就先看卡时口径。前者几分钟能出量级,后者要先排数据时间。

为什么别人报的价和我自己算的差很多?

八成是计价单位不一样,一个按卡时一个按 token,或者一个含数据标注一个不含。对不上就先问对方报价覆盖到哪一步,再把自己的清单拆成同样的颗粒度比。

开源模型是不是一定便宜?

不一定。开源省的是模型调用费,但租卡、部署、运维和调优都要自己出。小量请求直接调接口往往更省,量大了再算自托管这笔账,到 /inference 对一遍托管价格再决定。

订阅制和按量计费怎么选?

看使用是否稳定。用量平稳且集中在固定几个人身上,订阅好算;用量忽高忽低或者要接进产品给外部用户用,按量计费不容易浪费。两边都能先按一个月的实际用量折算再比。

预算批下来了但项目变了,怎么办?

把预算拆成算力、调用、人力三块分别管,哪块变了单独调。合在一个总数里最容易被一次性花光,到月中发现数据还没清完,卡已经在计费了。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。