机器学习深度学习和大模型多少钱?预算总超支的钱花在这几处

办公与行业

拆开机器学习、深度学习和大模型三类花费,给出按用途估算预算和判断该不该花的方法,避免把训练、推理和工具订阅的钱算重或算漏。

搜「机器学习深度学习和大模型多少钱」的人,多半是要给一个具体项目报预算,或者在几个方案之间比价。麻烦在于这三件事的计费口径根本不一样:机器学习常常是人和工具的钱,深度学习烧的是算力,大模型多数时候按调用量走。这篇按用途把花费分块拆开,给一份能自己填的估算顺序,也说明什么情况下这些算法不适用。

先认清这三笔钱不是一回事

很多人问「机器学习多少钱」,其实问的是三件不同的事。机器学习项目的账单大头常在数据:清洗、去重、标注、复核,还有把数据整理成能训练的样子所花的人力。算力当然要钱,但经常不是第一项。你拿一个「机器学习项目预算」去比价,对面报出来的数可能只算了 GPU 租用,数据团队几个月的工时压根没进去。

深度学习把成本重心挪到了算力上,但训练、微调、推理这三条线得拆开算。训练是一次性投入,跑完就结束;微调是在已有模型上改,次数多、单次小;推理是上线后天天在烧的钱,最容易被漏掉。只盯着训练那一下,上线三个月才发现推理账单比训练还高,这种事不稀奇。

类别主要花在哪常见漏算项
机器学习数据清洗、标注、特征工程、人力标注返工、数据存储与流转
深度学习训练算力、微调算力、推理算力推理常驻成本、实验失败重跑
大模型按 token 计费的 API 调用、订阅制工具订阅与 API 两笔混成一个数

大模型这块还有个小坑:订阅制工具和 API 调用是两笔账。团队里几个人买了订阅,同时后端又在按 token 调接口,月底只看到一个总数,就说不清钱花在哪。分开记,才知道是人在用还是在跑业务。至于单价,站内价格页的数字一直在动,去 /pricing 看当时的口径更靠谱,别拿旧截图当依据。

  • 先问清楚报价覆盖的是哪一类:机器学习、深度学习还是大模型调用
  • 深度学习报价要追问训练、微调、推理是否分开列
  • 大模型要区分订阅费和 API 调用费,别合成一个数
  • 确认数据标注和人力是否计入,这部分经常被单独拿出来
  • 拿到报价先看漏项,再看数字,口径不一致的报价没法直接比

从用途倒推:你要的是训练、微调还是只调用

问「机器学习深度学习和大模型多少钱」,最容易踩的坑是先打开报价页,把一串数字加总,再倒推自己能做什么。顺序反了。同一句「我要用大模型」,接进客服系统跑问答,和拿自有工单数据改模型脾气,再到自己从头训一个模型,花钱的地方根本不是一回事,量级能差好几个数量级。

先把自己归到哪一类,再去站内按对应口径查当时的数字,预算才不容易虚高。下面这张对照表就是用来分类的,别急着看价格,先看你的需求落在哪一行。

你的实际需求典型动作钱主要花在哪预算里要不要留算力
把模型接进业务,做问答、摘要、分类调 API 或走中转,写提示词、拼上下文按调用量计费,外加少量调试和重试基本不用,除非你要自建推理服务
有自有数据,想让模型按你的规范说话、走你的格式准备数据、跑微调、评估效果微调训练那一段的算力,加上后续调用要,但只占一小块,别按从头训练估
任务很特殊,公开模型和微调都盖不住从零训练或继续预训练大规模算力、数据清洗、反复实验要,而且是大头,先算清楚再动手

只是调用的话,很多团队会把它想复杂。接进业务跑问答和摘要,本质上是在为「输入输出多少字」付费,不训练就不产生训练算力账单。真正吃掉预算的往往是周边:反复调试时把长文档整篇塞进去、没做缓存、失败重试没上限。这些都不是算力费,是调用费失控。所以这一类的预算重点该放在调用量和上下文长度上,去站内价格页核对当时的单价,再乘你估的月调用量,别一上来就按训练卡时估。

有自有数据、要改模型行为,先看微调。微调比从头训练便宜得多,这是常识,但便宜在哪要说清楚:它复用已有模型的底子,你只补数据和对齐那一段。这一步真正花的钱常常不在训练本身,而在数据准备——标注、清洗、去重、格式统一,人力时间比算力贵。所以微调预算里要单独列一块数据成本,否则算出来的数会偏乐观。

从头训练只在这两件事同时成立时才值得考虑:数据量足够大到能撑起训练,任务独特性高到公开模型和微调都解决不了。少一个都别急着上,钱花了效果未必好,还容易卡在调参和算力排队上。我见过小团队一上来就按训练估预算,结果做完发现自己的场景微调就够,前面那笔算力估算白做了。

  1. 先写清用途用一句话描述:模型要做什么、输入是什么、输出给谁看。写不出来说明还没想清楚,先别查价。
  2. 对照上表归类落在第一行就是调用为主;要改行为、有自有数据就考虑微调;两样都不满足再谈从头训练。
  3. 按口径查数调用类去站内价格页看单价和计费方式;微调类把数据准备的人力单独列一行;训练类先估数据量和算力需求再查。
  4. 回头验算把查到的数字代回你的月用量,看总预算是否和业务规模匹配,明显偏高多半是归错类了。

一份能自己填的估算顺序

预算超支,十次里有八次不是单价贵,是量没数清。开口就问「大模型一个月多少钱」,等于问出租车司机「从这儿到机场多少钱」——不告诉他堵不堵、走不走高速,报出来的数只能当段子听。这一节给一个能自己填的顺序,从上到下走一遍,数字就落地了。

第一步别急着看报价单,先把手头业务翻译成量。每天大概多少次请求、每次对话多长、输出多长、是不是带长文档、要不要并发峰值。写不准也没关系,写个区间,比如「平常一天几百次,活动期翻几倍」,比一句「用得不多」有用得多。训练或微调这边同理,先写数据量级和要跑几轮,不是先问卡多少钱一小时。

  1. 把调用量或数据量写成数字区间拿一张纸,列请求次数、单次输入长度、单次输出长度、峰值倍数四栏,每栏填低值和高值。填不出来就去翻现有日志或产品需求文档,别拍脑袋。
  2. 把量代进算价工具看量级把上面四栏的数字输入 /tools/model-cost-calculator,得到的是调用侧的花费区间。这一步的目的是确认「大概是百元级还是万元级」,不追求精确到个位。
  3. 要训练或微调就单独算算力需要自己跑训练、微调、批量推理的,去 /compute/tco 和 /compute/training 对照租卡和自建两条路。别只看单卡时价,把利用率、闲置时间、运维人力一起摆进去比。
  4. 把隐性开销单列一行工具订阅、向量库和对象存储、标注和清洗的人力、评测和监控的投入,全部分开写,不要塞进「其他」里。这一行往往是最终超支的主因。
  5. 留一笔试错余量前期做技术评估、方案返工、效果不达标重来,几乎一定发生。按前面几项加总留出余量,具体比例去站内指南页看当时的建议值,别照抄别人的经验。
预算项怎么估最容易错在哪
调用侧花费请求次数 × 单次输入输出长度 × 峰值系数只算平均值,忘了活动期和重试次数
算力花费训练或微调的总卡时,含排队和重跑按满负荷估,实际利用率低
存储与检索数据量增长曲线,按半年到一年看只算当下存量,不算增量
人力与工具标注、清洗、评测、订阅费单列混进杂项,最后没人认领

顺序走完,你会得到一张带区间的表,而不是一个孤零零的数字。这张表的用处不是拿去报销,是拿去和业务方对齐:哪些量能砍、哪些峰值能错开、哪些评估能省。价格会变,量相对稳,把量握住,后面换模型、换服务商都不至于推倒重来。需要核对当时的各项数字,到 /tools/model-cost-calculator 和 /compute/tco 看最新一版。

超支多半出在这几处

预算表上写的数,和月底实际扣的钱对不上,十有八九不是单价算错了,而是用量算错了。下面这几种情况我见得最多,每一种都能让一份看着挺合理的预算表变成一张超支通知单。

调用量按峰值估、按均值付

很多团队排预算时,脑子里想的是「我们大概每天几千次调用」,听着不多。可实际账单是按月累计的,而且月份之间落差能拉到好几倍:上线那周冲高、节假日回落、某个功能一上量就翻番。只盯着一个平均数去填预算,落到某个月就是明摆着的窟窿。这事儿解决办法不复杂,别拍脑袋,去翻真实日志。

  1. 导出近几个月的调用日志从网关或应用侧把请求记录拉出来,至少覆盖两个完整自然月,字段要带时间戳、模型、输入输出 token 数。
  2. 按天和按小时各聚合一次按天看月度波动,按小时看峰值集中在哪个时段,两个视角都要,只看月度均值会漏掉突发量。
  3. 用真实 token 数而不是请求数回算请求次数乘以每次的输入输出长度才是钱,光数请求数会低估长文本场景的开销。
  4. 把波动区间写进预算预算里给出一个区间和峰值月份的上限,而不是单一数字,再留一档应急额度。

上下文长度没人管,整篇文档往里塞

这个坑特别隐蔽。同一个请求,回一句短问题和喂进去一份几十页的材料,输入 token 差着量级。有人图省事,把整篇文档、整段历史对话原样拼进 prompt,跑起来是能出结果,可账单上的输入部分涨得比谁都快。判断方法很直接:翻日志看输入 token 的分布,如果平均值被少数超长请求拉得很高,那就该动手了。

现象多半的原因先查哪里
输入 token 远高于输出整篇文档、全量历史记录直接塞进上下文日志里按请求看输入长度分布
个别请求特别贵没有截断,长文档原样传入找出输入最长的那些请求的调用位置
账单涨了但请求数没涨单次上下文变长,或换了更贵的模型对比同一功能的模型配置和提示词长度

要提醒一句:上下文压缩、分块检索这些手段不是所有场景都适用。需要完整上下文才能答对的问答、或者材料本身就很短的场景,硬拆反而掉质量。先确认业务上真需要长上下文,再决定怎么削。

工具订阅功能重叠,一件事付两份钱

这类超支不体现在 API 账单上,藏在各种月度订阅里。写代码的、做设计的、跑数据的、管项目的,各买各的,最后发现两个工具干的是同一件事:一个做文档协作,一个做知识库,功能大半重合。5 人小团队最容易这样,人少反而没人统筹。做法是把所有订阅列一张表,按「这个工具主要解决什么问题」归类,同一类留一个主力就行。

  • 把所有在付的订阅列全,包括个人名义买的、报销过的,别漏
  • 每项写清楚主要用途和实际每周用几次
  • 同一用途出现两个以上工具的,挑一个留下,另一个先停
  • 新订阅进来前,先问一句现有工具能不能顶上
  • 每季度重看一次,工具会变,需求也会变

还有一种情况是订阅了但根本没用起来。买的时候觉得迟早用得上,结果三个月没打开过。这类支出单看不多,攒起来就是实打实的浪费。

训练跑完才发现数据没洗,重跑等于预算翻倍

训练和微调的开销有个特点:贵在一次性,错一次就得重来。最常见的重来理由是数据没清洗干净,跑完发现标签乱、重复样本多、格式不统一,只能修完数据再跑一遍,等于把这份预算花了两回。防这个的办法不是训练时更小心,而是把检查放在训练之前,做成固定动作。

  1. 先跑小样本试训拿一小部分数据先跑通流程,验证数据格式、标签、评估指标都正常,再上全量。
  2. 数据检查清单化重复率、缺失值、标签分布、格式一致性,逐项打勾,不通过不进训练。
  3. 把评估脚本提前写好训练跑完立刻能出评估结果,不然跑完才发现有问题,时间和钱都搭进去了。

这里的判断标准也很实在:如果一份数据你没法在训练前说清楚它「干净」在哪,那就别急着开跑。训练本身不贵,贵的是重来。想对照不同方案的实际开销区间,可以到 站内价格页(/pricing) 看当时的数字,再拿自己日志里的真实用量去套。

具体数字去哪核对,别信截图

最怕的情况是:你拿着一张三个月前的截图去批预算,财务点头了,真到付款那天发现对不上。不是谁算错了,是口径早就换了。这一节只讲一件事——每个数字该回哪个页面核对,别靠转发来的图片。

顺序上我建议先分清三类开销:按量调用的单价、订阅套餐的固定支出、算力租用的浮动成本。三类数字变化频率完全不同,混在一个表里比,永远比不出结论。

花在哪去哪个页面核对看什么口径
厂商 API 按量计费/official-api 及对应厂商页输入输出分开计价还是一口价,缓存、批处理有没有单独档
订阅与套餐/plans、/coding-plans档位额度、地区差价、超额后怎么算
租卡与集群/compute/price-index按小时还是按月,近期趋势往上还是往下
  • 截图只能当参考,落地前回页面刷新一次,以当天显示为准
  • 同一家厂商不同地区站点价格可能不一样,确认你用的那个区
  • 套餐页面重点看额度上限和超额规则,别只看首档月费
  • 租卡报价波动大,先看趋势再谈,别拿单日低价当长期预算
  • 任何数字都记下核对时间和页面路径,方便下次复核
  1. 先定口径把预算表里每一项标成按量、订阅或租用,口径不清的先空着,别硬填。
  2. 逐项回源按上表路径打开对应页面,抄下当前数值,同时记一句口径说明,比如是否含缓存折扣。
  3. 标注时效每行后面写上核对日期和页面地址,交付给财务时一并能查。
  4. 留出浮动区间租用类成本按趋势给区间而不是单点,价格往下走时也别把预算压到最低档。

这些情况下别急着按上面算

上面那套算法有个前提:需求清楚、数据到位、上线后有人管。这三条缺一条,算出来的数就偏。不是算法错了,是场景没对上。

下面几种情况,先别按全量预算往下报。不是让你不算,是换一种算法,先把钱花在验证上。

情况常见做法该改成什么
需求还在改按全量数据、全量功能报预算先用小样本跑通一条链路,验证方向
数据量很小、任务标准自己训练模型直接调现成模型或开源模型,训练这块砍掉
数据不能出内网套公有云单价按私有化部署重算,算力和人力结构都变
团队没人维护只算训练和推理的钱把长期运维人力折算进去

需求没定的时候,最贵的是返工。一个小团队业务方今天要分类、明天要问答,方案改三版,每版都按全量报一遍预算,光评审就耗掉几周。稳妥的做法是先拿几百条真实样本,跑通从数据到输出的一条链路,看结果能不能用。能跑通再谈全量,跑不通就换个方向,损失可控。具体每一步花多少,到 成本估算指南(/guide/cost-estimate) 按当时的数字对一下。

数据量小、任务又标准,比如文本分类、简单抽取、固定格式的问答,现成模型基本够用。这时候自己训练纯属给自己找活。训练预算可以直接砍掉,剩下的钱花在接口调用和效果验收上更值。反过来,任务很偏、数据又是你独有的,那才值得考虑训练。这条界线怎么划?到 模型资料库(/models) 看同类任务别人用什么方案,比拍脑袋靠谱。

合规要求数据不出内网的情况,最容易踩的坑是拿公有云单价直接乘。私有化部署的成本结构不一样:硬件要一次性投入,模型要自己部署和调优,后续升级也得自己跟。这时候预算要按私有化重算,不是加个系数就行。至于硬件和部署方案怎么选,站内 工具目录(/tools) 里有相关条目可以对照。

还有一种省钱省出问题的情况:团队没人能维护。模型上线只是开头,后面有监控、有数据漂移、有接口变更,这些活总得有人干。报预算时只算训练和推理,运维人力就成了隐形成本,最后要么拖慢业务,要么外包出去花更多。算的时候把这块按人月折算进去,哪怕只是半个人。

下单前过一遍这张清单

前面聊的那些坑,基本都能在掏钱之前拦下来。差别只在于有没有人肯花二十分钟,把清单摊开对着自己的用途过一遍。这张清单不长,就四件事:把钱花在哪写清楚、每个数都回到原页面核、订阅和按量分开记、留一条退路。做完这四件,下个月的账单至少不会让你一脸问号。

第一件事最容易糊弄过去,也最伤预算。调用、微调、训练这三个词混着用,报价能差出好几倍。调用是拿现成模型的接口往外吐结果,按量走;微调是在已有模型上喂自己的数据改行为,前期有一次性投入,之后跑推理还得继续付调用费;训练是从头或大改,算力、存储、调试时间全算钱,而且大概率要试好几轮。下单前先写一句话:这个月我主要是哪个用途,占比大概怎么分。写不出来就先别付款。

用途钱主要花在哪下单前要核对的
调用请求量、输入输出长度、并发峰值到站内价格页对上当前单价,按自己的预估量算一遍
微调一次性训练费 + 之后的推理调用费 + 数据存储确认训练费的计费口径,以及微调后模型的调用是否另算
训练算力时长、存储、反复试错的轮次按最坏情况多估几轮,别只按一次跑通算
  • 每一项成本都回站内原页面去核,别用聊天群里转的截图,截图往往是旧价或者别人的套餐价
  • 订阅和按量分两本账记,别混在一个数里,月底分开对一次,才能看出哪本超了
  • 估算时用自己上一轮的真实用量去乘单价,不要用『感觉差不多』
  • 留一档降级:调用超预算就换更小的模型,或者把非关键功能降频、挪到闲时
  • 把每次验证的结果记一行,下次估算直接拿这行数据修正,别重新拍脑袋
  1. 先分类把本月所有 AI 相关支出按调用、微调、训练归到三类里,估个占比。归不了类的,说明你还没想清楚这笔钱要干什么,先缓一缓。
  2. 回页面核价每一项都打开站内对应的价格或模型页,看当时的单价和计费单位,把数字抄进自己的表里,并记下你是什么时候看的。
  3. 拆两本账订阅类固定支出记一本,按量类浮动支出记一本,月底分别对。发现浮动那本涨得快,先查是哪个功能在偷偷多吃请求。
  4. 写降级方案提前定好触发条件,比如浮动支出到了某个比例,就先换小模型或降低调用频率,别等账单出来才想怎么办。
  5. 回填真实数据这次实际花了多少、量有多大,记下来。下次估算直接拿它当基数,比任何通用参考值都准。

常见问题

只调用大模型不训练,还需要算力预算吗

一般不用单独买卡,成本主要体现在调用费上。但如果要做批量离线处理,或者对延迟有硬要求,可能要考虑自建推理,那才会出现算力开销。

深度学习一定比机器学习贵吗

不一定。贵的是训练这条线。如果只是用预训练模型做微调或者推理,花费可能比从零搭一套机器学习管线还低,关键看你要不要重训。

报价单上写的价格能直接信吗

厂商页面上的价格以当日为准,中间商和套餐折算口径差异很大。建议到站内对应页面核一遍,再拿自己的用量算一次实际账单。

预算批下来之后最容易超的是哪块

通常是调用量和存储。调用量按峰值估、实际按均值跑,或者上下文没压缩,单次成本就被放大。留余量比精确到小数更实用。

小团队是不是应该先租卡再考虑自建

多数情况先租。自建要算硬件折旧、电费和维护人力,只有长期稳定高负载才划算,短期项目租更灵活。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。