api接入和本地部署收费标准,第一次做预算最容易算漏的几笔

接入与开发

讲清 api 接入和本地部署各自的收费构成与判断标准,给一份能照着走的预算清单,帮你算出哪条路更适合自己的用量和团队。

搜「api接入和本地部署收费标准」的人,多半已经被两边的报价绕晕了:一边是按 token 走、账单每月浮动,一边是买卡租卡、先掏一笔再看回本。难的不是查数字,是不知道该把哪些项算进来。这篇不给结论,给一套算法:先把自己的用量摸清,再按清单逐项填,最后看哪边的账更稳。

搜「api接入和本地部署收费标准」的人,多半已经被两边的报价绕晕了:一边是按 token 走、账单每月浮动,一边是买卡租卡、先掏一笔再看回本。难的不是查数字,是不知道该把哪些项算进来。这篇不给结论,给一套算法:先把自己的用量摸清,再按清单逐项填,最后看哪边的账更稳。

先把最容易被混淆的地方点一下。api 接入和本地部署不是两种买法,是两种成本结构。前者你买的是调用次数,不调不花钱;后者你买的是产能,开机就在耗钱,哪怕一个字都没生成。预算算漏,基本都漏在没把「产能利用率」这条算进去。

先说清楚:这两笔钱根本不是同一类

api 接入是按用量走的变动成本,账随调用量波动,不调不花钱。本地部署是先付固定成本,之后每一次调用边际成本很低。这两句话听着像常识,但落到预算表上,很多人会把它们放进同一列去比,比出来的结论必然是错的。

判断标准只有一条:你的调用量能不能稳定跑满一套硬件的产能。跑不满,固定成本摊不平,单价算得再低也没意义。反过来,如果你的用量长期贴着硬件上限跑,那本地那条路的边际优势才开始显现。

变动成本
跟调用量同向变化,不用就不产生,适合需求不确定的阶段
固定成本
先投入后分摊,用不用都在折旧,适合需求稳定且可预期的场景
产能利用率
实际跑的量占硬件能承载量的比例,是本地部署能不能回本的分水岭

算账之前,先把自己的用量测出来

别拿「大概每天问几句」当依据。取一周的真实请求,记下三样东西:输入输出 token 的量、峰值并发、每天活跃小时数。这三样决定了两边的账怎么算,缺一样都只能估个大概。

单次请求的 token 怎么算,参考 /ai-dict/category/basics 里的口径,别自己拍脑袋估。尤其注意上下文长度,很多人只算问题和答案,忘了塞进去的历史对话也是要计费的,实际消耗往往比想象的高一截。

用量波动大的场景,比如对外的产品,要按峰值算,不能按均值算。均值好看,但并发一上来,api 那边就得提档,本地那边就得加卡,这两笔钱都藏在峰值里,不在均值里。

api 接入这边,钱花在哪几处

主项是按量计费,单价各家不同,去 /official-api 对当时的价格,去 /price-watch 看变动。这里要提醒一句:别只看一个模型的单价,你实际会用到几个模型,预算表就得列几行,混用是常态。

次项是速率与并发。需要更高档位时,有的平台要提额或走企业档,这部分不是单价能覆盖的。你按最低档的单价做预算,上线第一天并发打满被限速,业务那边等的是响应时间,不是账单。

第三项是隐性成本:重试、失败请求、上下文塞太满导致的重复计费。这些在账单上不会单独列出来,但每个月都在发生。做法很简单,把失败率和平均重试次数记下来,乘进你的用量估算里,别当它不存在。

本地部署这边,别只算那张卡

硬件是一次性大头,租还是买要分开算:买卡看 /compute/tco 的三年账,租卡看 /compute/gpu-rental 的实时价。这两条路的现金流形状完全不同,买是前期重、后期轻,租是每月平摊,团队现金流紧的时候别硬上买。

持续支出这块最容易漏:电费、机位、带宽、备份。这部分按月走,去 /compute/power 有个粗算口径。有人把卡钱算得清清楚楚,电费一栏空着,跑三个月才发现每月还有一笔固定开销在扣。

人力是最容易低估的一项:装环境、调推理框架、盯可用性,哪怕只是兼职,也要折成工时算进总账。这件事麻烦在它不体现在任何一张发票上,但它是真实发生的成本,而且随着模型换版会反复发生。

盈亏平衡点怎么找,用哪几个数

要三个数:本地这套硬件的月摊薄成本、每月实际 token 消耗、api 那边的等效单价。三者一除,就知道跑多少量才追平。算的时候把电费和人力也摊进去,别只摊硬件,否则平衡点会算得偏乐观。

不适用的情况得说清楚:用量波动剧烈、有强合规要求必须内网、或者模型半年一换。这几类场景下平衡点算出来也不作数,因为变量太多,钱不是决定因素。合规这条尤其如此,它不是成本项,是前提项。

拿不准就先去 /models/deploy 和 /tools/model-cost-calculator 把数代进去,比自己拿表格推快。工具算的是同一个逻辑,但省掉了你反复改公式的时间,也少犯单位换算的错。

成本项api 接入本地部署
主要计费方式按调用量,随用随付硬件投入后按月摊薄
并发与峰值按档位提额,可能加价受硬件上限约束,加卡解决
持续性支出基本没有,除非买套餐电费、机位、带宽、备份
人力投入低,主要是接入和调试持续存在,装环境、调框架、盯可用性
适合的用量形状波动大、不确定、试跑阶段稳定、可预期、贴着产能跑

几种常见的算错法,对号入座

第一种,只比单价不比并发。单价低的档位往往限速更紧,业务高峰期排队的时间成本没算进去。你以为省了钱,实际是拿响应速度换的,这笔账在业务侧是要还的。

第二种,把本地部署当成零边际成本。模型换版、框架升级、故障排查都要人,每次都是一笔工时。有人装完环境发现版本对不上,重装一遍框架又花掉半天,这半天不会出现在任何预算表里,但它是真的。

第三种,用测试期用量做长期预算。试跑阶段请求少、上下文短,正式上线后单次消耗往往翻几倍。我见过把演示期的量直接乘个系数就当年度预算的,结果第二个月账单就超了,问题不在单价,在用量口径。

  • 先确认自己算的是单价还是月账单,两者混用必错
  • 把失败重试和上下文长度折进用量,别只算成功请求
  • 本地部署至少留出人力工时,哪怕只写个保守估计
  • 峰值并发单独列一行,别并进均值里
  • 预算表里给模型换版留一栏,它是周期性支出

一套可以照着走的判断顺序

第一步,测一周真实用量,记下 token 与峰值并发。第二步,把 api 侧的月度账单按当时单价估出来,去 /official-api 核。第三步,把本地侧的硬件摊薄加电费加人力折成月成本。第四步,两边对比,同时看三个附加条件:合规、模型更新频率、团队有没有人能维护。

  1. 测用量连续七天记录输入输出 token 和并发,取峰值那天作为预算基准,别用平均值。
  2. 估 api 账按 /official-api 当时的单价,把每个会用到的模型分别列一行,加上重试和上下文损耗的系数。
  3. 估本地账硬件按月摊薄,加电费、机位、带宽,再加人力工时折算,三项相加才是月成本。
  4. 比并看附加条件合规、模型更新频率、有没有人能维护,三条里有一条卡住,就别硬按钱选。

这三条里有一条卡住,就别硬按钱选,钱只是其中一票。合规要求内网的,本地部署贵也得走;团队没人能维护的,本地部署便宜也是个坑;模型半年一换的,硬件还没摊完就该换代了。

说白了,这套算法不保证你选对,但能保证你没漏算。漏算比选错更麻烦,选错还能改,漏算的那笔钱会在第六个月突然出现,让你重新做一遍预算。

预算不是算出一个数,是把所有会发生的支出都摆到桌面上,再决定哪条路自己扛得住。
下一步先别急着比单价,到 /price-watch 看当时的各家价格和变动,再去 /tools/model-cost-calculator 把用量代进去,两边的账自然就清楚了。

常见问题

api 接入除了 token 费还有别的收费吗?

有,但很多不写在单价表里。常见的是更高的并发或速率档位需要单独申请,有的平台按档位收费;另外失败重试、上下文过长导致的重复计费也会进账单。做预算时按单价乘一个余量系数更稳,具体单价去站内官方 API 页对当时的数字。

本地部署是不是买完硬件就不用再花钱了?

不是。硬件只是一次性支出,之后还有电费、机位、带宽这些按月走的项,以及装环境、调推理框架、盯故障的人力。人力这项最容易漏,哪怕只是兼职维护也要折成工时。硬件之外的部分建议单独列一行,别混进总价里看。

用量不大,是不是一定选 api 接入?

多数情况是,但不是绝对。如果有内网合规要求、数据不能出本地,或者模型要长期固定不换,即使量小也可能值得自己搭。反过来,用量大但波动剧烈、峰值远高于均值,api 的弹性反而更划算。先测用量再判断,别按感觉选。

本地部署的成本要怎么摊才算合理?

按你预期的使用周期摊,别按硬件的理论寿命摊。比如一套设备打算用两年,就把硬件价除以二十四个月,加上每月电费和人力,得到月成本。再拿这个月成本除以每月实际 token 消耗,得出等效单价,才能和 api 那边比。摊得太乐观,回本结论就是假的。

模型升级换代会不会影响这套账?

会,而且影响不小。本地部署的硬件是按当时的模型规格配的,新一代模型往往更大更吃显存,换模型可能意味着换卡。api 那边则没有这个问题,单价变了账单跟着变。所以模型更新频繁的场景,本地部署的账要按更短的周期重算。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。