多厂商推理机架
可选 Cerebras、SambaNova、Positron、d-Matrix 与 NVIDIA 五条产品线，按延迟与成本曲线分布在不同位置，客户对着目标挑选。
价格按部署定制报价，不按 token 计费，单价未公开
平台Web
归类AI 编程
收录2024-01-01
复核2024-01-01
编辑评分
4.3 / 5
★★★★☆
General Compute编辑总结
General Compute 是一家面向替代芯片的 neocloud，主打定制 ASIC 而非 GPU 的 AI 推理部署。其方案覆盖 Cerebras CS-3、SambaNova SN50、Positron、d-Matrix 与 NVIDIA B300，采取预填充跑 GPU、解码跑 ASIC 的分离式架构。Cerebras 单用户速率达 2,522 tok/s，相同任务比 GPU 云快至 16.1 倍。硬件按合同整机架出租，也不按 token 计费。
General Compute是什么？
General Compute 把自己定位为「替代芯片的 neocloud」，也就是异构算力的部署方，专门为 GPU 之外的推理芯片提供上架、交付与运营通路。它不自己造芯片，而是购买机架并计入自身资产负债表，再以整机架、单一合同的形式把专用硅片租给客户。
产品层面，平台的机架覆盖 Cerebras、SambaNova、Positron、d-Matrix 与 NVIDIA 五条线。Cerebras CS-3 每系统一片晶圆级引擎，全 SRAM 设计，每机架两台，单系统 23 kW、整机架约 46 kW，液态冷却配封闭内循环，片上 SRAM 44 GB、带宽 21 PB/s；在 Llama 4 Maverick 上单用户速率 2,522 tok/s，「速度快」，列表价格未公开。架构上采用分离式服务：预填充交给计算密集、可并行的 GPU（NVIDIA B300 层），解码交给内存受限、自回归的 ASIC（SambaNova SN50、Cerebras、Positron、d-Matrix），并把两者编排成一项服务交付。
使用方式按角色分：需要极低延迟的团队可以直接选 Cerebras 机架，拿到底层机器的 root 权限；希望复用现有 CUDA 栈的团队留在 NVIDIA B300 预填充层；多万亿参数模型上需要 1–2k tok/s 每用户的团队可选 SambaNova SN50，Positron 与 d-Matrix 随产能爬坡逐步扩宽速度阶梯。客户只需给出模型、流量形态与交互目标，供应商回复报价单与部署位。
General Compute核心功能
预填充与解码分离
预填充跑在计算密集、可并行的 NVIDIA B300 层，解码跑在内存受限、自回归的 ASIC 上，两条流水线被编排为一项服务。
Cerebras CS-3 机架
每机架两台 CS-3 系统，单系统 23 kW、整机架约 46 kW，液态冷却封闭内循环，片上 SRAM 44 GB、带宽 21 PB/s。
单用户高速解码
Llama 4 Maverick 上单用户速率 2,522 tok/s；开放编码任务实测中，相同任务在 GPU 云为 110 tok/s 每用户，在平台上为 2,000 tok/s 每用户。
裸金属与端点两种形态
既可以交付裸金属机器、客户拿 root 权限自行运维，也可以只给一个推理端点，统一由单一合同与一套 SLA 覆盖。
选址与基础设施
由平台负责托管机房选址、供电与制冷，部署在现有美国设施中，并按每家芯片厂商的要求匹配，容量尽量贴近客户已有集群。
模型上线与编排
在封闭的厂商软件栈上完成模型上线，并在整个合同期内把预填充与解码作为一项服务统一编排。
General Compute适合谁用？
延迟敏感的编码产品团队
推荐实时补全、Agent 循环这类不能等待的负载，Cerebras 2,522 tok/s 的单用户速率直接对应交互体感，但整机架合同意味着起订量不低。
已有多万亿参数模型的团队
推荐需要 1–2k tok/s 每用户且模型规模很大的团队，SambaNova SN50 已在生产环境可用，Positron 与 d-Matrix 会随产能扩宽选择。
想保留 CUDA 栈的团队
推荐可以把预填充留在 NVIDIA B300 层，沿用既有工具与运维经验，只把解码迁到 ASIC，迁移面比整体换栈小得多。
预算有限的个人开发者或小团队
不推荐产品以整机架、单一合同、约定年限的方式交付，官网未公开任何入门价格或免费额度，小额试用这条路走不通。
要求数据留在特定地域的用户
有条件官网说明基础设施部署在现有美国设施内，官网未说明其他地区是否可选，有数据落地要求的团队需要先确认。
General Compute优点和缺点
优点
- Cerebras CS-3 单用户 2,522 tok/s，Llama 4 Maverick 实测
- 相同编码任务比 GPU 云快，最高 16.1 倍
- 解码交给 ASIC、预填充留给 B300，分工明确
- 五条芯片产品线，按延迟与成本曲线自行挑选
- 机房选址、供电、制冷、上线全由平台承担
- 裸金属可拿 root，不想运维也可只接一个端点
缺点
- 只能按部署询价
- 整机架起订，未见小额或按量付费的选项
- Cerebras 单系统 23 kW、整机架约 46 kW，功耗门槛高
General Compute常见问题
怎么收费，是按 token 算吗？＋
不是按 token。按部署定价，出租的是专用推理硅片上的专属容量，一份合同加一套 SLA。报价取决于四件事：负载形态（提示长度、输出长度、流式与并发都会改变服务经济性）、所选硅片、模型归属（托管开放模型与私有权重运维要求不同）、以及承诺年限——年限越长单价越低。客户给出模型、流量形态与交互目标后，平台回复报价单与部署位。
解码为什么不用 GPU？＋
官网给出的解释是，预填充是计算密集型且可并行，正好是 GPU 擅长的；解码是内存受限的自回归过程，一次一个 token，受带宽而非算力限制，加算力并不能让它变快，而且模型越大天花板越低。B300 的上限约在 320 tokens/s 每用户之下，在前沿规模模型上还会明显更低。因此平台把解码放到专用 ASIC 上，右侧那段市场只有专用解码硅片能服务。
Cerebras 机架的具体规格是什么？＋
每套系统一片晶圆级引擎，全部使用 SRAM。每机架两台 CS-3 系统，单系统功耗 23 kW、整机架约 46 kW，采用液态冷却配封闭内部循环。片上 SRAM 44 GB，带宽 21 PB/s。Llama 4 Maverick 上单用户速率 2,522 tok/s。其列表价格未公开，按合同定价，取决于期限、规模与站点。
供货情况怎么样？＋
官网表述为「正在发货」，并列出正在托管机房管线中的容量超过 30 MW。速度阶梯上，SN50 最先进入生产环境，Positron 与 d-Matrix 会随产能达到规模而逐步扩宽选项。另外平台已签署一项多年协议，用于部署 Cerebras 晶圆级推理，计划 2027 年第一季度上线。
能拿到裸金属吗？＋
可以。交付形态是裸金属，也可以只暴露一个端点。机架由平台自有并计入其资产负债表，客户在付费的机器上拿 root 权限。合同期内由平台负责选址、上架、运维，以及模型在厂商软件栈上的上线，并把预填充与解码编排成一项服务。
General Compute竞品对比
| 工具 | 编辑评分 | 价格 | 核心功能 | 平台 |
|---|---|---|---|---|
| General Compute本工具 | 4.3 | 按部署定制报价，不按 token 计费，单价未公开 | 多厂商推理机架；预填充与解码分离；Cerebras CS-3 机架；单用户高速解码 | Web |
| EOS Data Analytics | — | 官网未公开标价，需联系销售或预约演示获取 | 为各行业提供人工智能驱动的卫星图像分析的全球供应商 | Web |
| MindBound Labs | — | 未标价 | 通过共享概念和资源加速 ASI 的社区 | — |
| Meet Genie | — | 未标价 | 是 Cosine AI 推出的 AI 编程助手 | — |
| Codex | — | Codex 已包含在 ChatGPT 免费版、Go、Plus、Pro、Busin | OpenAI 推出的 AI 编程与自动化智能体 | Web / Windows / macOS |
| SILX AI | — | 未标价 | SILX AI 使用人工智能和机器学习简化和优化招聘流程 | — |
