大模型 API 接口和网关有什么多少钱?多花的钱都落在哪一格

接入与开发

把大模型 API 接口和网关的费用拆成调用费、转发层、运维三笔账,说清哪些钱必须花、哪些是选型失误带来的溢价。

搜「大模型 api 接口和网关多少钱」的人,多半是在做预算或者被账单吓了一跳:明明只换了模型,为什么月底费用翻倍。这篇不报数字,只给拆账的口径——接口那层按 token 算,网关那层按请求和并发算,自建又换成机器和人力。看完你能判断自己这笔钱该花在哪一格,哪一格是白掏的。

搜「大模型 api 接口和网关多少钱」的人,大概率卡在两件事上:一是在做预算,不知道钱该往哪一格填;二是账单突然变厚,明明只换了个模型,月底费用却翻上去。这两种情况看着不一样,其实是一个问题——没把费用的层次分开算。

这篇不报具体数字,因为数字一直在动,写死了你也用不上。给你的是拆账口径:哪一层按 token 算,哪一层按请求和并发算,自建之后又换成什么在花钱。看完你至少能判断,自己多花的那部分钱落在了哪一格,是必须的还是一次选型失误。

先把「接口」和「网关」当成两层东西

接口层卖的是模型算力,你发多少字、它回多少字,按输入输出 token 计价,这种价格各家的调整频率不低,具体多少去 /official-api 核对当时的数字。网关层卖的不是算力,是转发、鉴权、限流、日志、模型路由这一套管道能力。它通常不按 token 收,按请求数、并发数,或者干脆按月、按机器收。

麻烦就在很多人把这两层混着比价。拿网关的月费去对模型的 token 价,比出来的结论没有意义,就像拿房租去比电费。先问自己一句:你每个月账单里,token 那部分是不是占了大头?是的话,网关选贵一档影响有限,多花的钱在总账里不显眼;反过来,如果转发层的费用占比明显,那才值得花时间挑。

接口那笔钱,贵在你怎么用

同一件活,做法不同,费用差得很开。最典型的是上下文:整段文档塞进去让模型自己找,和先裁一遍再发,token 量不是一个量级。这里不是说裁就一定好,而是你得知道上下文预算是怎么定的,站内 /guides 里讲上下文控制的那几篇可以先翻一下,判断自己属于该裁还是该整段发。

输出侧也一样。让模型长篇解释一遍和只要一句结论,价格差在输出 token 上,而输出通常比输入贵。有些调用你其实只想要个分类标签,却让它写了一整段分析,这部分钱花得没道理。另外,缓存命中、批量接口这类降档手段能不能用,取决于你的请求是不是重复、是不是等得起。请求本来就短、用量又小,为了省这点去改代码,算下来不划算。

  • 先看输入:能不能把历史对话、检索片段裁到只留必要部分
  • 再看输出:这个场景要不要完整解释,还是结构化短结果就够
  • 再看重复度:同类请求反复出现,考虑缓存或批量通道
  • 最后看量:用量小的场景,优化优先级排在稳定性后面

网关那笔钱,价格表上看不全

网关有三条路子,成本结构完全不同。自建网关看着省钱,订阅费是没了,但机器、带宽、证书、监控,还有一个人盯着它排障的时间,都得折成钱。小团队最容易漏的就是最后一项,觉得同事顺手维护一下不算成本,结果一有故障就是半天没了。

用第三方中转省事,代价是请求多走一跳,出问题时你要多排一层,先分清是模型侧的问题还是中转侧的问题。挑之前可以去 /tools/verify 看它的实测结论,比看宣传页靠谱。云厂商的 API 网关功能全,计费口径也复杂,调用次数和出网流量分开算,做预算时经常只算了前一项。网关只做转发、没什么定制逻辑,就别为用不上的功能付费。

形态主要花钱的地方适合谁
直连官方接口按 token 计价的调用费调用量小、只用一两家模型
第三方中转订阅或按请求计费,外加一层排障成本要多模型切换、不想自己维护
自建网关机器、带宽、监控,加人力工时有合规要求或需要定制路由
云厂商 API 网关调用次数与出网流量分开计已经在用同一家云的团队

账单里容易漏看的几处

重试是最常见的一处。请求失败重发一次,就是一次新的计费。超时设得太短,正常慢请求被当成失败反复重发,成本就这么被推高了。站内 /guides 里有超时与重试的排错思路,值得照着对一遍自己的参数。流式输出本身不额外收费,但断流之后从头补发,等于把同一段内容付了两次钱。

日志和可观测是另一处慢性支出。把完整请求和响应都存下来,查起来是方便,存储和查询的费用会慢慢长出来,而且不容易在某个月突然被注意到。并发扩容也类似:为了扛住峰值去买更高的并发档,可峰值一天可能只出现十几分钟,这笔钱常被当成固定成本,没人再去质疑它。

  1. 查重试配置把超时和重试次数调出来看一遍,确认失败重发不会把正常慢请求也算进去
  2. 查日志留存确认是否全量存了请求响应,能不能改成只存摘要或按需采样
  3. 查并发档位对比并发上限和实际峰值持续时间,判断这个档位是不是买高了

怎么判断该用哪种形态

判断标准不复杂,按你的实际情况对号入座就行。调用量小、只要一两家模型,直接对接官方接口,别急着上网关,那层管道能力你现在用不上。要多模型切换、要统一鉴权和限流,网关就值得,但先列清楚你到底需要哪几个功能,再去看谁家有。

有合规和审计要求的团队,自建或托管在可控环境里,钱花在合规上不算浪费,这部分别硬省。想靠第三方省钱但没算人力,是常见误判:先把运维工时折算成钱,和第三方网关的月费放一起比,很多时候结论会反过来。什么情况下这套判断不适用?预算按年签、价格已经锁死,那站内价格页只能当参考,一切以合同口径为准。

一套可照着走的核账顺序

顺序别乱,先分账再归因。第一步,把上个月账单按模型调用、网关或转发、存储与监控三栏分开。分不开不是账单的问题,是你的计费标签没打,这步补上后面都好办。第二步,去 /price-watch 看当前价格,判断差额是涨价造成的还是你自己用量涨了,这两件事的处理方式完全不同。

第三步,挑一个用量最大的接口做小实验:裁一次输入,或者关一次全量日志,看下期账单有没有变化。一次只改一个变量,不然你分不清是哪一步起的作用。第四步,把结论写进选型文档,标明哪些口径下次要重新核对,价格会变,别把这次的数字当成永久结论。

费用问题多半不是单价贵,是你没分清这笔钱买的是算力、管道,还是你自己的时间。

这些情况别按上面的路子算

做原型验证、一周只用几次,直接按量用官方接口就行,这时候讨论网关成本没有意义,你的成本主要是折腾的时间。模型本身免费或者有赠送额度,那真正的成本是工程时间,不是账单上的钱,别把精力花错地方。

还有一种:团队里已经有人在维护网关,你再单独算一遍人力成本会重复计。这时候该看的是这套网关有没有成为瓶颈,而不是它省了多少钱。判断口径要跟着你的实际情况走,别把通用框架硬套上去。

下一步拿不准自己多花的钱落在哪一格,可以先看各家官方接口的计价口径,再对着自己账单分栏;价格随时在动,以页面当时的数字为准。

常见问题

接口和网关是两笔必须都付的钱吗?

不是。网关是可选的中间层,只做转发的小项目直接对接官方接口就行。只有当你需要多模型切换、统一鉴权、限流或审计时,网关那笔钱才花得值。

为什么同样调一个模型,两家报的价差很多?

先分清对方报的是模型 token 价还是整体服务价。有的把网关、监控、技术支持打包进月费,有的只算调用。把两边的计费口径摆到同一张纸上再比,别直接对数字。

自建网关一定比买第三方便宜吗?

短期看机器便宜,长期不一定。机器、带宽、证书、监控和一个人定期维护的时间都要折成钱。团队里没人愿意长期盯这套东西,自建的隐性成本会比月费高。

怎么快速知道账单涨在哪一层?

给调用打标签,把模型调用、网关转发、日志存储分开统计。分不开的时候就先停掉全量日志,观察一个周期,账单变化最能说明问题。

价格多久要重新核对一次?

模型单价调整比较频繁,做预算前和每次换模型时都去站内价格页对一遍。别拿几个月前的截图当依据。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。