要跑训练或推理,搜一圈发现平台名字一大堆,报价口径却各不相同:有的按卡时、有的按整机月租、有的只报个起价,型号还分成好几档。这篇不给你排名,而是给一套选型者能直接用的分类框架和比价顺序,让你把候选池缩到两三家,再去站内页面核对当下的真实数字。
要跑训练或推理,搜一圈发现平台名字一大堆,报价口径却各不相同:有的按卡时、有的按整机月租、有的只报个起价,型号还分成好几档。更麻烦的是「GPU 排行」这种词,看来看去都是在比纸面参数,跟你的任务能不能跑完没关系。
这篇不给你排名,而是给一套选型者能直接用的分类框架和比价顺序:先把平台类型分清,再用统一口径比卡型、租金与可用性,最后决定租卡、按量还是签合同。把候选池缩到两三家之后,再去站内页面核对当下的真实数字,比对着网上的旧报价做决定靠谱得多。
先把「算力平台」分成四类,别混着比
很多人比价失败,是因为把不同交付形态的平台放在一张表里。裸金属整机、容器化按量、托管推理、聚合转售,这四类的成本结构和风险点完全不一样,混着比只会得出「这家便宜」这种没用的结论。先归类,再在同类里挑。
- 裸金属 / 整机租用
- 给你一整台机器,卡不拆分,适合要连续跑、对网络和隔离有要求的任务,按月或按长约结算。
- 容器化按量实例
- 按卡时或实例小时开卡,随时起停,适合实验和间歇性任务,但要留意抢占和回收策略。
- 托管推理服务
- 你只调接口,不碰机器,按调用量或吞吐计费,适合线上推理,代价是可控性低。
- 聚合转售
- 平台自己不一定有卡,从上游批发再拆卖,便宜和灵活是卖点,上游是谁、出问题找谁是要害。
- 自助开卡类看的是开卡速度和小时价,注册到真正能连上机器的时间要实测,别只看宣传。
- 合同制集群看 SLA、配额和扩容响应,适合任务排期稳定、需要预留资源的团队。
- Serverless 推理看冷启动和并发上限,延迟敏感的在线业务要重点测这一项。
- 判断标准一:任务随时能停,就别签长约;判断标准二:任务要连续跑几天,先问清按量实例的抢占和回收规则。
GPU 排行别只看名字,先看四个指标
显存容量决定你能跑多大的模型、开哪个量化档位;显存带宽决定吞吐上限。这两个必须一起看,只看其中一个会踩坑——卡显存够大但带宽低,长上下文一跑就慢;带宽高但显存小,大模型直接装不下。
| 指标 | 为什么影响你 | 怎么核对 |
|---|---|---|
| 显存容量 | 决定能装下的模型规模与量化档位 | 到 /compute/gpus 看加速卡规格 |
| 显存带宽 | 决定推理吞吐与训练数据吞吐上限 | 同上,配合 /benchmarks 看任务维度对照 |
| 互联方式 | 决定多卡并行效率,单卡能跑不等于八卡能跑 | 到 /compute/clusters 看整机互联方案 |
| 任务瓶颈位置 | 数据预处理慢时换更贵的卡也不会变快 | 先在本地量一遍瓶颈再谈换卡 |
站内的排行是动态的,卡型、供货和任务维度的对照都会变。要拿数字做决策,就去 /compute/gpus 看加速卡规格,去 /ai-rankings 和 /benchmarks 看任务维度的对照,别拿半年前的截图当依据。
比价前先对齐口径,否则数字没意义
按卡时、按整机月、按实例小时、按 token 吞吐,这四种计价单位不能直接换算。先把候选平台的计价单位标出来,再把「裸租金」补齐成总价,否则你比的是两种不同的东西。
- 存储费、公网流量、镜像与快照,这些常被漏算,长期跑起来占比不低。
- 闲置时的占卡费:机器开着但任务没跑,很多平台照样计费。
- 可用性成本:排队等卡的时间、被抢占后重跑的时间,都要折算进去。
- 运维人力:自建和整机租用往往要自己搭环境,这部分要么算钱要么算工时。
可用性要跟价格一起比:有没有现货、排队多久、被抢占后怎么恢复。站内 /compute/availability 和 /compute/price-index 反映的是当下的情况,具体数字以你查看当时为准。对照顺序建议是:先在 /compute/providers 对齐口径,再用 /compute/gpu-rental 横向比,最后用 /compute/tco 算长周期账。
算力聚合平台的运营要点:转售生意的风险点在哪
聚合平台的价值在于把多家供给拼在一起,门槛低、上手快。但它本质是转售,你要关心的不是它页面做得多漂亮,而是卡从哪来、故障谁负责、账单能不能对上。
- 先问上游卡是自己的还是从别处批发的,出故障时的责任方和赔付口径写没写进条款。没写清楚就默认按最坏情况估。
- 看账单颗粒度能不能导出到实例级或任务级明细,对不上账时有没有可核对的记录,这决定了你月底能不能查清钱花在哪。
- 看扩容与降级临时加卡要多久、用完能不能立刻退。弹性差的平台意味着你要为闲置买单。
- 看退出成本数据迁出要不要收费、镜像能不能带走、账号注销流程是否顺畅,这些在签约前问,不要等要走了才问。
落到决策:三步把候选缩到两三家
前面都是判断标准,这一步是动作。不要一次比十家,先按形态砍一半,再用统一口径算总账,最后小规模实测,基本就能定下来。
- 第一步定形态问自己两个问题:任务能不能中断,数据要不要留在自己机房。这两个答案就能砍掉一半候选。
- 第二步算三个月总账用统一口径把租金、存储、流量、闲置都算进去,别只按满载估。满载便宜的方案,闲置时可能最贵。
- 第三步小规模实测开最小配置跑一个真实任务,记录开卡时间、网络延迟、失败率和重跑次数,拿着这些数据再去谈量。
站内可核对的入口:/compute/sizing 按模型和量化估卡数,/compute/clusters 看整机方案,/models/deploy 看部署测算。数字随时会变,以你查看当时页面上的为准。
下一步把候选平台按上面的口径列成一张表,再去站内算力页面核对当下的价格与现货情况,比对着一篇旧文章做决定要靠谱。→常见问题
搜「ai算力平台有哪些」,为什么各家给的名单都不一样?
因为口径不同:有人只算裸金属租用,有人把托管推理和聚合转售也算进来,还有的把云厂商的实例也列上。你先想清楚自己要的是「租一台能 ssh 的机器」还是「一个能调用的推理地址」,名单自然就收敛了。站内 /compute 下按类型分页看,比一份混在一起的名单有用。
GPU 排行应该信哪个?
没有唯一答案,取决于你的任务:训练看显存和互联,推理看带宽和并发,长上下文还要看单卡能不能装下。榜单是任务维度的参考,不是绝对顺序。到 /compute/gpus 看规格,再拿自己的真实任务去实测一遍,比只看排行靠谱。
算力聚合平台便宜,能长期用吗?
先分清便宜来自哪:是上游批量拿卡的成本优势,还是补贴换规模。前者相对稳,后者要留退路。签约前确认赔付口径、账单颗粒度和退卡规则,别把关键任务压在一家上,重要的活留一条自建或大厂的备份路径。