AI 算力平台有哪些?选型者视角的 GPU 算力平台盘点

模型与算力

给选型者的算力平台盘点思路:先分清平台类型,再用统一口径比卡型、租金与可用性,最后决定租卡、按量还是签合同。

要跑训练或推理,搜一圈发现平台名字一大堆,报价口径却各不相同:有的按卡时、有的按整机月租、有的只报个起价,型号还分成好几档。这篇不给你排名,而是给一套选型者能直接用的分类框架和比价顺序,让你把候选池缩到两三家,再去站内页面核对当下的真实数字。

要跑训练或推理,搜一圈发现平台名字一大堆,报价口径却各不相同:有的按卡时、有的按整机月租、有的只报个起价,型号还分成好几档。更麻烦的是「GPU 排行」这种词,看来看去都是在比纸面参数,跟你的任务能不能跑完没关系。

这篇不给你排名,而是给一套选型者能直接用的分类框架和比价顺序:先把平台类型分清,再用统一口径比卡型、租金与可用性,最后决定租卡、按量还是签合同。把候选池缩到两三家之后,再去站内页面核对当下的真实数字,比对着网上的旧报价做决定靠谱得多。

先把「算力平台」分成四类,别混着比

很多人比价失败,是因为把不同交付形态的平台放在一张表里。裸金属整机、容器化按量、托管推理、聚合转售,这四类的成本结构和风险点完全不一样,混着比只会得出「这家便宜」这种没用的结论。先归类,再在同类里挑。

裸金属 / 整机租用
给你一整台机器,卡不拆分,适合要连续跑、对网络和隔离有要求的任务,按月或按长约结算。
容器化按量实例
按卡时或实例小时开卡,随时起停,适合实验和间歇性任务,但要留意抢占和回收策略。
托管推理服务
你只调接口,不碰机器,按调用量或吞吐计费,适合线上推理,代价是可控性低。
聚合转售
平台自己不一定有卡,从上游批发再拆卖,便宜和灵活是卖点,上游是谁、出问题找谁是要害。
  • 自助开卡类看的是开卡速度和小时价,注册到真正能连上机器的时间要实测,别只看宣传。
  • 合同制集群看 SLA、配额和扩容响应,适合任务排期稳定、需要预留资源的团队。
  • Serverless 推理看冷启动和并发上限,延迟敏感的在线业务要重点测这一项。
  • 判断标准一:任务随时能停,就别签长约;判断标准二:任务要连续跑几天,先问清按量实例的抢占和回收规则。

GPU 排行别只看名字,先看四个指标

显存容量决定你能跑多大的模型、开哪个量化档位;显存带宽决定吞吐上限。这两个必须一起看,只看其中一个会踩坑——卡显存够大但带宽低,长上下文一跑就慢;带宽高但显存小,大模型直接装不下。

指标为什么影响你怎么核对
显存容量决定能装下的模型规模与量化档位到 /compute/gpus 看加速卡规格
显存带宽决定推理吞吐与训练数据吞吐上限同上,配合 /benchmarks 看任务维度对照
互联方式决定多卡并行效率,单卡能跑不等于八卡能跑到 /compute/clusters 看整机互联方案
任务瓶颈位置数据预处理慢时换更贵的卡也不会变快先在本地量一遍瓶颈再谈换卡

站内的排行是动态的,卡型、供货和任务维度的对照都会变。要拿数字做决策,就去 /compute/gpus 看加速卡规格,去 /ai-rankings 和 /benchmarks 看任务维度的对照,别拿半年前的截图当依据。

比价前先对齐口径,否则数字没意义

按卡时、按整机月、按实例小时、按 token 吞吐,这四种计价单位不能直接换算。先把候选平台的计价单位标出来,再把「裸租金」补齐成总价,否则你比的是两种不同的东西。

  • 存储费、公网流量、镜像与快照,这些常被漏算,长期跑起来占比不低。
  • 闲置时的占卡费:机器开着但任务没跑,很多平台照样计费。
  • 可用性成本:排队等卡的时间、被抢占后重跑的时间,都要折算进去。
  • 运维人力:自建和整机租用往往要自己搭环境,这部分要么算钱要么算工时。

可用性要跟价格一起比:有没有现货、排队多久、被抢占后怎么恢复。站内 /compute/availability 和 /compute/price-index 反映的是当下的情况,具体数字以你查看当时为准。对照顺序建议是:先在 /compute/providers 对齐口径,再用 /compute/gpu-rental 横向比,最后用 /compute/tco 算长周期账。

算力聚合平台的运营要点:转售生意的风险点在哪

聚合平台的价值在于把多家供给拼在一起,门槛低、上手快。但它本质是转售,你要关心的不是它页面做得多漂亮,而是卡从哪来、故障谁负责、账单能不能对上。

  1. 先问上游卡是自己的还是从别处批发的,出故障时的责任方和赔付口径写没写进条款。没写清楚就默认按最坏情况估。
  2. 看账单颗粒度能不能导出到实例级或任务级明细,对不上账时有没有可核对的记录,这决定了你月底能不能查清钱花在哪。
  3. 看扩容与降级临时加卡要多久、用完能不能立刻退。弹性差的平台意味着你要为闲置买单。
  4. 看退出成本数据迁出要不要收费、镜像能不能带走、账号注销流程是否顺畅,这些在签约前问,不要等要走了才问。

落到决策:三步把候选缩到两三家

前面都是判断标准,这一步是动作。不要一次比十家,先按形态砍一半,再用统一口径算总账,最后小规模实测,基本就能定下来。

  1. 第一步定形态问自己两个问题:任务能不能中断,数据要不要留在自己机房。这两个答案就能砍掉一半候选。
  2. 第二步算三个月总账用统一口径把租金、存储、流量、闲置都算进去,别只按满载估。满载便宜的方案,闲置时可能最贵。
  3. 第三步小规模实测开最小配置跑一个真实任务,记录开卡时间、网络延迟、失败率和重跑次数,拿着这些数据再去谈量。

站内可核对的入口:/compute/sizing 按模型和量化估卡数,/compute/clusters 看整机方案,/models/deploy 看部署测算。数字随时会变,以你查看当时页面上的为准。

下一步把候选平台按上面的口径列成一张表,再去站内算力页面核对当下的价格与现货情况,比对着一篇旧文章做决定要靠谱。

常见问题

搜「ai算力平台有哪些」,为什么各家给的名单都不一样?

因为口径不同:有人只算裸金属租用,有人把托管推理和聚合转售也算进来,还有的把云厂商的实例也列上。你先想清楚自己要的是「租一台能 ssh 的机器」还是「一个能调用的推理地址」,名单自然就收敛了。站内 /compute 下按类型分页看,比一份混在一起的名单有用。

GPU 排行应该信哪个?

没有唯一答案,取决于你的任务:训练看显存和互联,推理看带宽和并发,长上下文还要看单卡能不能装下。榜单是任务维度的参考,不是绝对顺序。到 /compute/gpus 看规格,再拿自己的真实任务去实测一遍,比只看排行靠谱。

算力聚合平台便宜,能长期用吗?

先分清便宜来自哪:是上游批量拿卡的成本优势,还是补贴换规模。前者相对稳,后者要留退路。签约前确认赔付口径、账单颗粒度和退卡规则,别把关键任务压在一家上,重要的活留一条自建或大厂的备份路径。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。