想租张卡自己跑模型,翻了一圈平台发现各家计费口径完全不一样:有的按小时,有的按秒,有的按整月,还有的按 token 收推理费。这篇不讲哪家最好,而是给你一套对齐口径的方法,先搞清楚自己的任务属于哪一类,再按维度筛平台,最后小额试水验证。
想租张卡自己跑模型,翻一圈平台会发现各家计费口径完全不一样:有的按小时、有的按秒、有的按整月,还有的按 token 收推理费。这篇不评谁最好,只给你一套对齐口径的方法:先判断自己的任务属于哪一类,再按维度筛平台,最后小额试水验证。
顺序别搞反。很多人先比价格,结果卡型不合适、环境跑不起来,反而多花时间。下面五节按「任务→计费→卡型→门槛→试水」排,每节都给判断标准和动作,你照着走一遍基本能筛掉大半不合适的平台。
先分清你要的是哪类卡:训练、微调还是跑推理
短时实验和长期挂服务对平台要求完全不同。跑个 demo、试个开源模型,几十分钟到几小时就结束,这种看重的是开机快、按秒计费、随时能关;而长期在线的推理服务看重的是在线时长、稳定性和并发能力,计费方式往往按整月或按调用量算。
动手前先把任务写成一句话:跑什么模型、跑多久、要不要一直在线。写不出来就说明还没想清楚,这时候下单多半会买错规格。
| 任务类型 | 典型时长 | 更该看什么 |
|---|---|---|
| 短时实验 / demo | 几分钟到几小时 | 开机速度、按秒或按小时计费、镜像是否现成 |
| 微调训练 | 几小时到几天 | 卡型与显存是否够、中断后能否续跑 |
| 长期推理服务 | 按天按月持续 | 在线稳定性、并发、按调用量还是按整月计费 |
计费单位先对齐:按秒、按小时、按整月差在哪
按秒适合跑完就关的短任务,按整月适合长期服务。坑在于看起来便宜的单位,往往没把开机、关机、镜像拉取、数据传输这些环节算进去,最后账单和预估差不少。
比价前先做单位换算:把三家平台的报价都折成同一个单位(比如每小时或每卡时),再放到一张表里比。换算口径和当时的租金走势,可以到 /compute/price-index 核对当时的数字,别凭印象。
- 确认计费起算点:从开机算还是从任务真正开始跑算
- 确认关机后是否立即停止计费,还是按最小计费单位结算
- 确认镜像拉取、数据集上传下载是否单独计费
- 确认闲置时有没有自动关机策略,避免忘了关一直扣
如果平台给的是整月价,而你只需要跑一个下午,换算下来通常不划算;反过来,按秒计费的平台挂长期服务,管理成本会比整月高。什么情况下不适用:如果你的任务时长本身波动很大、说不准,那先按小时计费试一两次,拿到实际耗时的数据再决定长期方案。
卡型与显存:先算够不够,再比价格
卡型选错,再便宜也跑不起来。先按模型规模和量化档位估显存需求:模型参数越大、量化档位越高,显存吃得越多。估算不准就先做一次部署测算,别直接下单。
具体卡型的规格,到 /compute/gpus 对一遍,确认显存、卡数、带宽三项。只看显存容易踩坑:有些任务卡在带宽上,多卡也不一定比单卡快。
- 显存
- 决定能不能把模型加载进去,是第一道门槛
- 卡数
- 影响能否并行,也影响显存总量,但不是线性提速
- 带宽
- 影响训练和推理的吞吐,数据量大时比算力更关键
什么情况下不适用:如果你只是跑推理、模型已经量化过,需求会比训练低不少,不必按训练标准选高配卡。先做部署测算,到 /models/deploy 把模型和卡型对一遍再决定。
有没有货、能不能上手:两个容易被忽略的门槛
想租的卡经常没货,价格再合适也白搭。下单前先看 /compute/availability 的实时情况,确认目标卡型当前有没有可用实例,不要等到付完钱才发现排不上。
上手门槛对个人用户尤其重要。不熟命令行的,优先选有现成镜像、能网页直连的平台;注册门槛、实名要求、支付方式也直接决定你能不能当天开跑。
- 有没有常用框架的现成镜像,省去自己配环境
- 能不能网页终端直连,还是必须本地配 SSH 和密钥
- 注册到开跑需要几步,是否要审核或实名
- 支持的支付方式是否覆盖你手头的渠道
这两项都属于「不致命但很拖时间」的门槛。个人开发者时间成本高,卡型差一档还能忍,环境配一天就很不划算。
小额试水顺序:先跑通一个真实小任务再决定
- 先充最小额度第一笔只充够跑一次任务的钱,别一上来就买整月或包年。验证网络、环境、显存是否符合预期。
- 跑一个真实小任务用你实际要跑的任务简化版,而不是跑个 hello world。这样能暴露镜像、依赖、显存这些真实问题。
- 记录实际消耗记下从开机到跑完的耗时和卡时消耗,回过头折成统一单位比价,比平台标价更有参考价值。
- 跑通后再放大确认没问题再考虑长期方案。如果第一个平台没跑通,换一家重复以上步骤,别在原平台上继续加钱试。
这轮试水拿到的是你自己的真实数据:实际耗时、实际卡时、实际卡顿情况。这些比任何标价都更能说明哪家适合你。不同平台的可信度和口碑差异,可以到 /sites 对照当时的记录,再决定要不要长期用。
下一步把候选平台按上面五节过一遍,再去看站内各家平台的可信度记录和租金走势,数字会变,判断口径不变。→常见问题
个人租 GPU 是不是一定比调 API 便宜?
不一定。任务量小、模型能走 API 的,按量调用往往更省事,也不用管环境和运维。只有当你要跑开源权重、要自己控制量化档位、或者任务长期稳定且量大时,租卡才可能更划算。可以先看 /compute/tco 和 /compute/platforms 两条路的分界,再决定走哪边。
按小时和按秒计费,我该怎么选?
看你的任务是不是「跑完就关」。断断续续做实验、每次只跑十几分钟的,按秒计费更友好;要挂一整天或长期在线的服务,按小时或整月更稳。关键是把开机、环境准备这些边角时间也算进去,很多按秒平台在这些环节同样计费,实际单价会拉高。
平台说没货,是不是就租不到了?
不一定,热门卡型缺货是常态,可以换个时间点再看,或者退一档选别的卡型先跑起来。下单前建议到 /compute/availability 看一眼当前库存节奏,避开高峰;实在紧张就考虑按量推理服务兜底,别为一个卡型卡住整个进度。