想比大模型价格,最容易踩的坑是拿单价直接比:输入输出比例不同、缓存价和标准价混着写、订阅制折算成按量价、算力成本只算租金不算电费,比出来的结论基本没法用。这篇不给你一份会过期的报价,而是给一套能反复用的比价流程:先对齐口径,再按自己的任务量和输入输出比例算一遍,最后判断该换模型、换套餐还是换部署方式。
想比大模型价格,最容易踩的坑是拿单价直接比。两家的报价看着差不多,但一问细节就发现:一家的输入输出比例是十比一,另一家反着来;一家的缓存价写在很显眼的位置,另一家藏在文档角落;订阅制折算成按量价之后,重度用户和轻度用户的结论完全相反。这么比出来的结论,基本没法用。
这篇不给一份会过期的报价,而是给一套能反复用的比价流程:先对齐口径,再按自己的任务量和输入输出比例算一遍,最后判断该换模型、换套餐还是换部署方式。所有具体数字都不在正文里写死,需要的时候到站内对应页面核对当时的报价。
比价前先对齐口径,否则数字没有意义
口径不对齐,后面算得再细也是白算。至少要统一四件事:什么时候的报价、按什么单位计、含不含缓存、是不是订阅折算。尤其第三点,很多人截图的是带缓存的低价,实际业务里前缀重复率很低,根本吃不到那个价格,等于拿一个用不上的数字做决策。
| 口径项 | 常见的不对齐 | 对齐后怎么写 |
|---|---|---|
| 计费单位 | 一方按万 token,一方按百万 token | 统一折算成每百万 token |
| 输入输出 | 只比单价不比结构 | 标注输入输出比例区间 |
| 缓存 | 把缓存价当标准价 | 分开记标准价与缓存价 |
| 套餐 | 订阅价直接除用量 | 注明折算假设与使用强度 |
- 把两个候选模型的报价页面各截一次,记下抓取时间;
- 确认报价是标准价还是缓存价,缓存价单独放一栏;
- 问清输入和输出是不是分开计价,比例区间大概是多少;
- 订阅套餐要单独列一张表,不要混进按量对比里;
- 所有数字都标「何时抓取」,隔一段时间重新对一遍。
一份大模型报价里到底有哪些计价项
很多人眼里只有一行「每百万 token 多少钱」,但真正影响账单的往往是旁边几行小字。把计价项拆开看,才知道钱花在哪、哪一项能压。下面这些项不一定每家都有,但值得逐条过一遍,缺哪项就追问哪项。
- 输入价
- 你发过去的提示词、上下文、文档按这个价算,通常最便宜的是缓存命中的那部分。
- 输出价
- 模型生成的内容按这个价算,一般比输入价高一截,长回答的任务要重点看这项。
- 缓存价
- 重复前缀被命中时的折扣价,适合系统提示词固定、多轮对话场景。
- 阶梯价
- 月用量跨过某个档位后单价变化,不看阶梯容易在大用量时估错。
- 超长上下文加价
- 超过某个长度后整段按更高价算,长文档问答要特别留意。
- 图片与多模态
- 按张、按分辨率或折算成 token 计,视觉任务不能只算文本那部分。
拆完这些项,你会发现「哪家便宜」这个问题其实是「哪种用量结构下哪家便宜」。同一对模型,短问答场景和长文档场景的结论可以完全反过来。所以下一节不讨论谁贵谁便宜,只讨论怎么把单价换成你自己的任务成本。
把单价换成自己的任务成本:三步算一遍
这一步的目的不是算出精确到分的数字,而是把「感觉便宜」变成「能解释的估算」。做法很朴素:先量出自己的用量结构,再套单价,最后加一层安全系数。三步做完,大多数候选方案会自动分出高下。
- 量用量结构从日志里抽一段真实流量,统计每次请求的输入长度、输出长度、重复前缀比例。没有日志就用最近几次的真实任务手工估,别凭感觉写「大概几百字」。
- 套单价算日成本把输入量乘以输入价、输出量乘以输出价、命中部分乘以缓存价,三块加起来再乘日均请求数。单价到站内的价格库核对当时的数字,不要用记忆里的旧值。
- 加安全系数并排序在估算结果上留一段冗余,应对重试、失败调用和上下文膨胀;然后按总成本排序,同时记下各方案在这个系数下的差距有多大。
算完之后记得回头验一次:挑一天的真实账单,看估算和实际差多少。差得多,多半是漏了重试量、上下文膨胀或者某个加价项。校验一次,后面的估算才敢信。
算力成本那一半:租卡、包月与自建怎么放在一起比
如果你不是纯调 API,而是有自己的推理负载,那价格对比就得把算力那一半也放进来。这里的坑是只比租金不比利用率:租卡按小时算,但你的任务可能一天只跑几个小时,剩下的时间是白付的。所以放到一起比的前提,是先把利用率写清楚。
| 方式 | 适合的情况 | 容易被忽略的成本 |
|---|---|---|
| 按量租卡 | 负载波动大、有突发任务 | 闲置时段照样计费,冷启动时间 |
| 包月包年 | 负载平稳、长期占用 | 临时缩容不划算,需求变了不好退 |
| 自建机器 | 长期稳定、数据不出内网 | 电费、机房、运维人力、折旧 |
| API 调用 | 想省掉运维、按量付费 | 单价随用量走,大流量下未必更省 |
- 先画一周的负载曲线,看清楚峰值和谷值差多少;
- 把运维人力按人头折算进自建成本,别只算硬件;
- 包月方案要算清楚「用到几成利用率才不亏」;
- API 方案要算上重试和失败调用的额外消耗;
- 任何方案都留一条退路,避免被单一供应商锁住。
顺带说一句,算力成本不只体现在账单上,也体现在延迟和稳定性上。同样的预算,换来的响应速度可能差不少。想直观感受不同通道的表现,可以到站内的速度测试工具跑一跑,用实测数据补上账单看不出来的那部分。
按场景选:什么样的活该用贵的,什么样的活该用便宜的
比价的终点不是找到最便宜的模型,而是把任务分到合适的档位上。判断标准可以拆成三条:错了代价大不大、要不要稳定输出、调用频率高不高。三条都紧的任务,别在价格上抠;三条都松的任务,用便宜的就够了。
| 任务特征 | 优先考虑 | 不建议的做法 |
|---|---|---|
| 错一次代价高、要交付客户 | 稳定性与输出质量 | 为了省单价频繁换模型 |
| 高频、格式固定、可批量 | 便宜档位加规则校验 | 用最贵的模型跑模板化任务 |
| 低频、偶发、人工兜底 | 哪个方便用哪个 | 专门为它做迁移适配 |
| 长上下文、文档密集 | 看长文本计价方式 | 只比标准输入价 |
有一种情况不适用这套分档:团队刚开始试水,还没形成稳定流量。这时候首要目标是跑通链路、拿到反馈,价格对比放到第二位,等用量结构稳定了再回头做优化,否则会在错误的假设上省小钱。
不动模型也能降本的几个动作
很多人一想到降本就去换模型,其实换模型是成本最高、风险最大的一种做法:要重新测效果、重新调提示词、重新处理失败案例。相比之下,下面这些动作不改模型也能把账单压下来,而且可逆、好回滚。
- 压缩输入:把不必要的历史轮次和重复说明砍掉,输入量降下来是最直接的省钱方式;
- 用好缓存:把固定的系统提示词和公共上下文放到前缀里,提高命中比例;
- 分级路由:简单请求走便宜档位,只有复杂请求升级到贵档位,用规则或小模型做前置判断;
- 控制输出:明确要求简洁回答、限制长度,输出价通常比输入价高,长回答最费钱;
- 合并请求:能一次批量处理的别拆成多次调用,减少固定开销;
- 设预算告警:给每个项目设用量阈值,超了就告警,避免月底才发现账单异常。
这些动作里的前两条收益通常最稳定,后几条要看业务形态。如果嫌手工统计麻烦,站内的工具目录里有能帮忙做用量统计和路由的现成方案,可以先去逛一圈再决定自己写还是直接用。
价格会变,怎么建立自己的盯价节奏
大模型价格不是一次性的信息,它会变:有的调价,有的出新档位,有的把缓存价调得更划算。你不可能每天盯着各家官网,但可以建立一个轻量的节奏,只在变化影响到你的时候才动手。
- 定关注名单只盯你实际在用的和两个备选,不要什么都看,名单越长越坚持不下去。
- 定期对一次数每隔一段固定周期,到站内的价格追踪页面把关键几项对一遍,重点看输入价、输出价和缓存价有没有变。
- 判断是否触发动作只有当变化幅度足以覆盖迁移成本时才动手。小幅波动先记下来,攒着一起评估。
- 记录决策理由每次调整都写一句为什么,下次再看到同类变化时不用重新推一遍。
如果你的业务对稳定性要求高,还要顺手关注一下通道的可用性变化。站内的中转站可信度检测和导航页会把这类信息整理在一起,配合价格一起看,比只看报价单更接近真实成本。
比价常见误判清单
最后把常见的误判集中列一下,方便你在做决定前自查。这些坑单看都不新鲜,但组合起来特别容易让人得出错误结论,尤其是急着上线的时候。
- 拿缓存价当标准价,结果实际业务根本命中不了;
- 只看输入价,忽略了输出价和输入输出比例;
- 把订阅套餐直接除以用量,忽略了使用强度的假设;
- 算算力成本时只算租金,漏掉电费、运维和闲置时段;
- 用一次抓取的报价做了长期决策,价格变了也不知道;
- 为了省一小部分成本做迁移,结果测试和返工的时间成本更高。
自查的方式很简单:把结论写下来,然后反问「这个结论依赖哪几个数字」。如果依赖的数字你都是从站内页面核对的、且知道它们的抓取时间,那这个结论大概率站得住;如果其中有一项是凭印象写的,回去补上再下判断。
比价的正确姿势不是找最便宜的那个,而是把口径对齐、把任务分类、把变化纳入节奏。下一步把你正在用的两三个方案带到价格追踪页对一遍当时的数字,再用任务成本估算表算一次自己的用量结构,多数情况下你会发现问题不在模型选得贵,而在用量结构和口径没对齐。→
常见问题
大模型价格对比,直接比每百万 token 单价行不行?
只能当粗筛。单价通常只对标准输入输出有效,缓存读写、批量任务、长上下文、多模态输入往往另有价格。两家输入输出比例差很多时,单价低的那家按你的实际用量算下来可能更贵。先算自己的输入输出比,再乘各自单价。
为什么我按价格算出来的钱和账单差很多?
主要是三件事:缓存命中的部分按另一套价走,重试和失败请求照样计费,以及实际输入比自己以为的长(系统提示、历史对话都算)。建议拿一段真实用量记录回算一次,对照方法可以看站内那篇从用量倒推花费的流程。
订阅套餐和按量 API 怎么比才公平?
订阅是打包价,得先把额度折算成能覆盖的任务量,再和你按量跑同样任务的成本比。团队多人共用时,还要看额度是否共享、超额后是停还是转按量。折算口径各家不同,去编程套餐目录逐档看它的额度说明更稳。
一定要换更便宜的模型才能降本吗?
不一定。缩短提示词、把长文档先做精简再喂、给重复前缀做缓存、把简单分类任务挪给小模型,这几项常常比换模型省得多,而且不牺牲关键任务的质量。降本顺序建议是先用满现有套餐和缓存,再考虑换模型。
价格多久看一次比较合适?
做预算的节点看一次,比如季度初;有大量新增调用前再看一次。新模型上线、老模型降价或下线都会改结论。站内有价格变动追踪,可以按周扫一眼,不必天天盯。