搜「端侧ai和云侧ai收费标准」的人,多半是手里有个小需求,一边看到本地跑模型说不要钱,一边看到云上按 token 扣费,算不明白哪个更省。这两套账根本不是一回事:一个先花钱买硬件、后面近乎白用;一个不买硬件、用多少付多少。这篇把两边的收费构成拆开,给一张对照表和一套估算顺序,让你在真掏钱之前先把账算个大概。
搜「端侧ai和云侧ai收费标准」的人,多半是手里有个小需求,一边看到本地跑模型说不要钱,一边看到云上按 token 扣费,算不明白哪个更省。这两套账根本不是一回事:一个先花钱买硬件、后面近乎白用;一个不买硬件、用多少付多少。
所以别急着问「哪个便宜」,先问「我到底在为什么付钱」。这篇把两边的收费构成拆开,给一张对照表和一套能照着算的顺序,让你在真掏钱之前把账算个大概。算错方向比算错数字更亏。
先认清:这压根不是同一张账单
云侧的收费逻辑是「用量费」:按输入和输出的 token 计量,调一次扣一次,不调不扣。你付钱买的是别人机房里那台机器的一小段时间,模型的权重、驱动、显存都不用你操心。这种账的好处是起步零成本,坏处是每一次试错都在掏钱。
端侧反过来,是「前置费」。显卡或整机、电费、还有你部署调试掉的那些晚上,全都发生在正式用之前。跑起来之后边际成本接近零,但前提是你得先把这笔钱花出去。拿云侧的单价去比端侧的零单价,比的不是一件事,结论必然是错的。
| 对比项 | 云侧 | 端侧 |
|---|---|---|
| 付费时点 | 用一次扣一次 | 用之前先买硬件 |
| 主要变量 | 调用量、输入输出长度 | 显存、量化等级、机器常开时长 |
| 闲置成本 | 几乎为零 | 机器开着就一直在耗电 |
| 能力上限 | 跟着官方更新走 | 受本地硬件限制 |
| 试错代价 | 每次试错都计费 | 时间成本为主,钱已沉没 |
这张表说白了就一句话:云侧把固定成本变可变成本,端侧把可变成本变固定成本。你选哪边,本质是在选「愿不愿意为不确定性付钱」。
云侧这几笔钱分别花在哪
按量计费部分通常把输入和输出分开计价,长的上下文另有一套口径,图片、音频、视频类输入也往往不按纯文本的算法走。所以看报价时不能只记住首页那个显眼的数字,得先确认它对应的是哪种输入、哪种长度区间。
附加选项也会改变单价:缓存命中、批量接口、专用吞吐这类开关,有的让单次更便宜,有的用更贵换稳定。具体数字到 AI 官方 API 价格(/official-api) 和 Token 单价换算(/tools/token-price-calculator) 按当时的表核,别凭记忆。
- 按量计费:输入、输出分开看,长上下文单独一套口径,别只记一个数
- 附加项:缓存命中、批量接口、专用吞吐都会改单价,按实际会开的选项算
- 试错成本:失败的请求、被限速后重发的请求,账单里一样要算
- 限速排队:高峰期被卡住,业务侧的重试往往比单价更影响月度总额
- 计费口径差异:有的按请求计,有的按 token 计,混在一起就比不出结果
隐性成本比单价更狠
实际用下来,月度账单失控很少是因为单价高,多半是因为调用量估少了。比如每次请求都塞一段很长的系统提示,量一大这部分输入费用就压不住;再比如开发阶段反复调参,正式环境还没上线,试错已经花掉不少。算账时把这部分按调用量的三到五成留出来,比精确到小数点后两位更有用。
端侧的钱在动手之前就花完了
端侧最大的那笔是硬件。显存决定你最多能跑多大的模型,量化等级又反过来影响显存占用——降精度能塞进小显存,但效果会打折扣。很多人买完才发现想跑的模型差一口气,这种返工最伤预算。
跑起来之后还有电费和维护。机器常开和按需开,一个月下来的差别不小;长期高负载对散热和寿命也有影响。拿不准配置够不够,先去 部署测算(/models/deploy) 和 几张卡够用(/compute/sizing) 对一遍,比买回来再试省钱。
还有一笔最容易漏的:调试工时。环境装错版本、驱动和框架对不上、量化参数填错一格,都可能耗掉一两个周末。这不是钱,但你得把它折算进去,否则端侧看起来永远比实际便宜。
判断标准:看你的用量是「零星」还是「常年」
判断其实就一个轴:调用量是小而散,还是大而稳。小而散——比如一周用几次、每次问几句——云侧明显更划算,因为你不用为闲置的机器买单。大而稳、并且数据不方便出内网,端侧的前置投入才有机会被摊薄。
介于两者之间的,别拍脑袋。先按云侧跑一段,把真实的月度调用量和平均长度测出来,再拿这个数去折算端侧月成本。用真实数据做的决定,比买之前纠结半个月靠谱。
这条判断有明确的不适用情况:需要顶级模型能力、或者模型更新节奏很快的场景,端侧往往跟不上。硬件买定就锁死了能力上限,而云端每隔一段时间就有新东西可用。这种场景下,省下的钱可能还不够补能力差距。
照着算的四步顺序
- 数调用量按天或按周记录一个月的调用次数和每次的平均输入输出长度,别凭感觉估;有现成日志就直接统计。
- 折云侧月费把调用量套进单价表,用 模型成本计算器(/tools/model-cost-calculator) 过一遍,再把重试和试错按比例加上去。
- 折端侧月费硬件总价按计划使用年限摊到月,加上电费和每月维护时间折算,调试工时单独算一笔一次性投入。
- 两边留余量再比两个数都往上留出三成左右,应付需求变化和试错;余量留完还差得远,结论才站得住。
这四步里最容易糊弄的是第一步。凭感觉估调用量,后面三步算得再精细也是白搭。花半天把日志翻出来,比在计算器里调半小时参数有用得多。
最容易算漏的几处
第一处是云侧只算成功请求,忘了重试和被限速后重复发的那部分。第二处是端侧只算显卡,没算为了跑起来折腾掉的时间。第三处最隐蔽:拿订阅制和按量计费混着比,一个包月一个按次,单位都对不上。
价格本身也会动。动手之前去 模型价格变动(/price-watch) 看一眼最近有没有调整,别拿几个月前记住的数字做决策。中转站那边的报价口径也可能和官方不一样,如果走中转,先看 中转站目录(/sites) 里标的口径说明。
什么情况下该换一边
云侧费用连续几个月超过端侧折算月成本,而且用量稳定,那就可以认真考虑迁。注意是「连续几个月」,不是某一个月冲高——季节性波动很常见,拿单月数据做迁移决定容易后悔。
反过来,端侧经常因为显存不够跑不动想要的模型,硬撑不如回到云侧。为了迁就硬件而反复降级模型、砍功能,省下的钱补不回业务上的损失。
两边都留着也不丢人。日常高频、对延迟敏感的活走端侧,重活和需要更强能力的时候临时调云侧,这是很常见的组合。关键是把两条账分开记,别混在一个池子里看总额。
下一步把上面四步里的调用量先数出来,再拿站内的换算工具过一遍,最后去价格变动页确认口径没变;三步做完,端侧和云侧哪个更适合你,数字会自己说话。→常见问题
端侧 AI 是不是真的不花钱?
不是不花钱,是钱花在前面。硬件、电费、部署调试的时间都在使用之前发生,用起来之后单次成本才显得低。如果一个月就跑几次,这些前置投入摊不下来,反而比云侧贵。
云侧按 token 收费,怎么估自己一个月要花多少?
先记一周的真实调用:次数、每次输入多长、输出多长,再乘上一个月的天数。别拿单次价格乘一个拍脑袋的次数,误差会非常大。算完去站内工具页折算成月额。
数据不能出内网,是不是只能选端侧?
端侧是一条路,但也要看你需要的模型能力。能力跟不上时,可以考虑私有化部署在云上,那属于另一种计费口径,别和按量 API 混着比。
两边的价格表能不能直接换算对比?
很难。云侧按用量计量,端侧是一次性投入加持续小额支出,除非都折算成同一个周期内的月成本,否则数字放在一起没有意义。
预算很紧,先上哪一边?
先用云侧按量,成本可控、随时能停。等真实用量出来了,再判断端侧的一次性投入划不划算,这个顺序比反过来稳妥。