很多人搜到「算力 API」就以为它是另一种调模型的方式,充完钱才发现拿到的是显卡、容器或推理实例,模型还得自己装;也有人反过来,想租卡却一头扎进模型 API 的报价单里。这篇把两者的交付物、计费口径和适用场景对齐,告诉你拿到一把 Key 之后到底能干什么,以及该去站内哪一页核对当时的规格与价格。
很多人搜到「算力 API」就以为它是另一种调模型的方式,充完钱才发现拿到的是显卡、容器或者推理实例,模型还得自己装;也有人反过来,想租卡却一头扎进模型 API 的报价单里。这两件事都在卖「API」,但交付物根本不是一回事。
这篇只解决一个问题:拿到一把 Key 之后,你手里握的到底是机器资源,还是已经跑起来的模型能力。搞清这一点,后面的计费、选型、迁移才不会白花钱。
先看交付物:你买到的到底是卡还是答案
算力 API 交给你的是可登录的机器:GPU 实例、容器、Notebook 或推理服务,模型权重、依赖、并发全归你自己管,你调的是 SSH、端口或容器编排接口。对方只保证机器在,不保证上面跑什么。
模型 API 交给你的是已经跑起来的模型:你发一段文本过去,对方回一段结果,中间几层机架、几张卡你完全不用知道。至于它背后用的是自研还是开源权重,通常也不在这份接口的承诺范围内。
- 算力 API
- 交付可操作的机器,安装、配置、数据都在你这边
- 模型 API
- 交付已经服务化的推理结果,你只发请求拿输出
- 判断口诀
- 需要装东西、配环境、导热数据的,是算力;只发请求拿结果的,是模型能力
两边都会叫「API」,所以别只看名字。去站内 算力从哪买(/compute/platforms) 和 官方 API 价格(/official-api) 各扫一眼,页面结构上的差别通常比产品页文案更诚实。
计费口径不一样,比价前必须先对齐
算力侧常见口径是按卡按时、按显存按时、按实例包月。这里最容易吃亏的是关机不一定停止计费,闲置也照样烧钱;有些产品连快照和镜像存储都单独算。
模型侧常见口径是按 token、按次、按订阅额度,用多少算多少,没有请求就不花钱。它天然把闲置成本抹平了,代价是单价里已经含了对方的运维和容量冗余。
| 对比维度 | 算力 API | 模型 API |
|---|---|---|
| 交付物 | 机器 / 容器 / 实例 | 可直接调用的模型结果 |
| 计费单位 | 卡时、显存时、包月 | token、次数、订阅额度 |
| 闲置成本 | 通常照收,关机规则要看清楚 | 无请求基本不产生费用 |
| 运维责任 | 装环境、调并发、处理掉线 | 由服务方承担 |
| 切换模型 | 重装、重调、重新压测 | 多数情况改配置或换端点 |
具体单价和规格随时间变动大,别记死。用站内 租卡价格指数(/compute/price-index) 和 模型成本计算器(/tools/model-cost-calculator) 代入当时的数字,同一套假设跑两遍就能看出差距。
三种场景对照:什么时候该选哪条路
- 要微调、要跑私有权重、数据不能出内网:只有算力这条路能走,多数模型 API 给不了这种自由度
- 只是问答、总结、写代码这类通用任务:模型 API 更省事,省掉装环境、盯显存、处理掉线的全部工作
- 用量很大且模型固定:可以算一笔租卡自建的账,但要把运维人力、闲置时段和故障处理一起算进去
什么情况下不适用:任务量很小、波动大、团队里没人碰过容器和 CUDA 的时候,硬上算力 API 基本是花钱买麻烦。反过来,数据敏感度高、又要长期迭代同一套权重时,模型 API 的便利也补不回合规上的缺口。
拿不准规模的话,先到站内 几张卡够用(/compute/sizing) 做一次粗估,再决定要不要往算力这条路走。
下单前先确认这几件事,别等充完才发现不对
- 问清交付形态给你一台能 SSH 的机器,还是一个能发 HTTP 请求的推理端点?让客服把「创建成功后你第一步做什么」写清楚,能对上就能分辨。
- 问清计费起止从创建算还是从跑起来算,关机、暂停、快照各怎么计费。让对方给一句书面口径,事后有争议时这就是依据。
- 要最小可跑样例能在半小时内按文档跑通一次推理,说明文档和网络是通的;跑不通就先别充值,多半后面还要自己填坑。
- 拿规格去站内核对用站内 加速卡规格库(/compute/gpus) 对一遍卡本身的显存和互联,别只看商品标题。
- 模型侧单独验证如果走的是模型 API,用站内 AI 模型库(/models) 和 模型可信度排行(/rankings) 交叉验证,别只看一家的介绍页。
三个最容易踩的误解
误解一:算力 API 更便宜。单价可能低,但把闲置、运维、失败重跑加进去经常反超;尤其是负载不稳定的时候,省下来的单价会被空转吃掉。
误解二:有算力就等于有模型能力。机器只是场地,模型质量、上下文长度、工具调用能力还得单独评估,和卡的数量没有必然关系。误解三:两者可以随便互相替换。一个改配置就能换模型,另一个要重装、重调、重新压测,迁移成本差一个量级。
拿不准的时候,先用站内 基础设施术语速查(/ai-dict/category/infra) 把名词搞懂,再决定要不要投入;这一步花的时间,通常比后面返工便宜得多。
下一步把你现在手上的需求写成三行:数据能不能出内网、任务量稳不稳定、团队有没有人碰过容器。带着这三行去站内 算力从哪买(/compute/platforms) 和 官方 API 价格(/official-api) 各对一遍当时的规格与计费口径,答案基本就出来了。→常见问题
算力 API 能直接对话吗?
通常不能。算力 API 给你的是一台能跑模型的机器或实例,你得自己把模型部署上去、起一个服务、再写客户端去调。有些平台会附带预置好的推理端点,那已经是「算力加模型」的打包产品,下单前问清楚交付形态是机器还是端点即可。
我只是想调个模型写文案,需要关心算力 API 吗?
一般不需要。通用写作、总结、翻译这类任务,模型 API 或订阅制工具更省心,你不用管显卡、显存和并发。只有当你需要私有部署、要微调、或者数据不能离开自己的环境时,算力这条路才会变得必要。
怎么判断一家说自己是算力 API 的站是不是真的?
看它能不能给出可登录的实例和规格明细,比如卡型、显存、驱动版本、网络出入口。只能给你一个请求地址、也说不清底层是什么卡的,多半只是套了层的模型 API。可以拿 想租的卡现在到底有没有货(/compute/availability) 对照库存口径是否说得通。