Modal

Modal

AI TOOL PROFILE工具资料

为 AI 与数据团队提供的无服务器云计算平台,按 CPU 周期计费

官网地址 https://modal.com/

访问官网
价格Starter $0 + 计算费,Team $250 + 计算费,Enterprise 定制
平台Web / API
归类AI 编程
收录2025-01-01
复核2025-01-01
编辑评分 4.5 / 5

Modal编辑总结

EDITOR REVIEW编辑评测

Modal 是面向 AI 与数据团队的无服务器云计算平台,主打按实际计算时间计费、闲置不收费。当前提供 Functions(无服务器计算)、Sandboxes(代理运行环境)、Servers(低延迟 LLM 推理)与分布式存储,支持 CPU 与 Nvidia B300、B200、H200、H100、A100 等多款 GPU,可自动扩缩容至数千 GPU。Starter 档 $0 + 计算费,每月赠 $30 免费额度,含 3 个团队席位;Team 档 $250 + 计算费,每月赠 $100 额度,席位不限。短板是入门门槛偏高,需要一定编程能力,且国内可用性未明确说明。

Modal是什么?

Modal 是一个面向 AI 与数据团队的无服务器云计算平台,由 Modal 团队开发,定位于为需要开发、训练和部署 AI 应用的团队提供云基础设施。用户无需管理集群,上传代码即可运行。

平台当前提供四大核心能力:Functions 用于无服务器计算,支持大规模并行、异步批处理与 API 网关;Sandboxes 用于运行不可信代码或代理程序,可程序化创建数百万个并发沙箱;Servers 用于低延迟 LLM 推理,支持 OpenAI 兼容端点与自定义推理栈;此外还提供分布式文件系统用于模型权重、数据集与容器镜像的高速加载。GPU 覆盖 Nvidia B300、B200、H200、H100 SXM5、RTX PRO 6000、A100 80GB、A100 40GB、L40S、A10、L4、T4 等多款型号。

不同角色的用法不同:独立开发者或小团队可以从 Starter 档起步,利用每月 $30 免费额度验证想法;成长型团队适合 Team 档,享受 5000 容器 + 50 GPU 并发与自定义域名;企业用户则可通过 Enterprise 档获得批量折扣、嵌入式 ML 工程支持、审计日志与 Okta SSO 等能力。

Modal核心功能

CAPABILITIES工具标签

无服务器计算

Functions 让用户上传任意代码即可运行,支持数千 GPU 大规模并行,无需管理任务编排。代码发到 HTTPS 端点后按流量自动扩缩,闲置降到零。

官方说明 ↗

代理沙箱

Sandboxes 为代理程序提供安全运行环境,可在一分钟内程序化创建数百万个并发沙箱,支持自定义镜像与快照恢复,按需突发 CPU 和内存。

官方说明 ↗

大规模训练

支持 RL、SFT、LoRA 与全量微调,从单卡微调到多节点运行均可。对 slime 和 Miles 等开源框架开箱即用,多节点 GPU 容量近乎即时可用。

官方说明 ↗

LLM 推理服务

Servers 面向低延迟 LLM 推理,提供 OpenAI 兼容端点,可按流量特征调优,也允许自带完整推理栈,基础设施由平台处理。

官方说明 ↗

分布式存储

类 CDN 的分布式文件系统,用于加载容器镜像、模型权重与数据集,支持全带宽访问,Volumes 每月含 1 TiB 免费额度。

官方说明 ↗

自定义容器运行时

平台自研容器运行时与镜像系统,针对大镜像和 GPU 调度优化,支持从任意镜像或依赖启动,并提供快照与恢复实现快速启动。

官方说明 ↗

全球分布式容量

基础设施横跨 20+ 云,覆盖美西、美中、美东、美南、欧西、欧北、欧南、亚太多个区域、日本、澳大利亚、英国、加拿大、中东、南美、非洲、墨西哥等地。

官方说明 ↗

自动扩缩容与健康检查

流量高峰时可突发至数千 GPU 和 CPU 资源,结束后回落到零。每个节点持续做被动与主动健康检查,坏硬件在影响负载前即被替换。

官方说明 ↗

Modal值不值得用?

VERDICT工具标签

当你的团队需要按需爆发 GPU 算力、又不想长期预留资源时,Modal 值得考虑——按 CPU 周期计费、闲置不花钱,Starter 档 $0 加计算费还送每月 $30 额度,适合验证。当你的工作负载需要稳定长期占用 GPU,或者团队没有编程能力、期望开箱即用的图形界面时,要慎重:Modal 更偏代码驱动,Starter 档并发限制为 100 容器 + 10 GPU,Team 档为 5000 容器 + 50 GPU,超出需上企业档。国内可用性未明确说明,涉及跨境数据时需自行评估。

建议选它的情况

  • 需要突发式 GPU 算力、不愿长期预留资源
  • 团队有编程能力,愿意用代码定义基础设施
  • 需要运行不可信代码或大规模并行代理
  • 想以较低起步成本验证 AI 应用部署

不建议选它的情况

  • 期望开箱即用的图形界面,团队无编程能力
  • 需要长期稳定占用大量 GPU,按量计费未必划算
  • 对国内可用性与数据合规有硬性要求

Modal使用建议

HOW TO USE工具标签
入门先把路子走对
  1. 从 Starter 档开始注册后先使用 Starter 档,每月赠 $30 免费额度,含 3 个团队席位与 100 容器 + 10 GPU 并发,足以跑通第一个应用。
  2. 先读 Functions 文档在 docs/guide 下按 Functions → Images → Scaling out 的顺序读一遍,理解代码如何变成可扩缩的端点,再动手写业务逻辑。
  3. 选对区域Starter 档已支持区域选择,把计算放到离用户或数据最近的区域,可减少网络出口费用($0.04/GiB)与延迟。
进阶省时间也省钱
  1. 用快照换启动速度Sandboxes 与 Functions 都支持快照与恢复,把依赖装好的镜像先快照,后续调用直接从快照启动,避免每次冷启动重装。
  2. 学术身份可申请额度研究生、实验室与研究人员可申请最高 $10k 免费计算额度,符合条件的话先申请再开始跑大规模训练。
  3. 用市场承诺消费如果公司已有 AWS 或 GCP 承诺消费额度,可通过这两家云市场下单,把 Modal 费用走原有预算,减少采购流程。
  4. 按流量形态调推理端点Servers 允许按流量特征调优端点,批量离线推理与低延迟在线服务应配不同参数,避免一套配置跑所有场景。

Modal适合谁用?

WHO IS IT FOR工具标签

AI 初创团队

推荐

有早期融资、需要快速上线推理或训练任务的团队。Starter 档 $0 + 计算费、每月 $30 额度,可以先跑通再扩;成长后可申请创业信用额度。

学术研究者

推荐

研究生、实验室与研究人员可申请最高 $10k 免费计算额度,适合跑 RL 实验或多节点训练,无需自己维护集群。

代理开发者

推荐

需要为编码代理或 RL rollout 提供安全运行环境。Sandboxes 可在一分钟内程序化创建数百万并发沙箱,适合大规模 rollout。

无编程背景的运营人员

不推荐

Modal 以编写代码为主,没有可视化拖拽界面。不写代码的话,Starter 档送的额度也难以用起来,建议先用更开箱即用的产品。

对国内可用性有硬性要求的团队

有条件

官网未说明国内可用性,区域列表也未覆盖中国大陆。有数据出境或低延迟要求的团队需先自行验证。

Modal优点和缺点

PROS & CONS工具标签

优点

  • 按 CPU 周期计费,闲置不收费,适合波动负载
  • Starter 档 $0 + 计算费,每月赠 $30 额度,3 席位
  • GPU 型号覆盖 B300、B200、H200、H100、A100 等
  • 可突发至数千 GPU,也可回落到零
  • Sandboxes 支持百万级并发,适合代理与 rollout
  • 基础设施横跨 20+ 云,可选区域广
  • 企业档含审计日志、Okta SSO 与 HIPAA

缺点

  • 入门需编程能力,无图形化操作界面
  • Starter 档并发限制为 100 容器 + 10 GPU
  • Team 档月费 $250 起,小额使用未必划算
  • 官网未说明国内可用性
  • 网络出口和存储超出免费额度后单独计费

Modal版本与计费对比

PLANS工具标签
方案价格包含内容说明
Starter$0 + compute / month$30 / month free credits;3 workspace seats;100 containers + 10 GPU concurrency;1 TiB / month free network egressScheduled and Web Functions (limited);Real-time metrics and logs;Region selection
Team$250 + compute / month$100 / month free credits;Unlimited seats;5000 containers + 50 GPU concurrency;10 TiB / month free network egressUnlimited Scheduled Functions;Custom domains;Static IP proxy;Deployment rollbacks;Environment-level budgets
EnterpriseCustomVolume-based discounts;Unlimited seats;Higher GPU concurrency;100 TiB / month free network egressEmbedded ML engineering services;Environment-level budgets;Support via private Slack;Audit logs, Okta SSO, and HIPAA

以上为公开费率整理,厂商保留调价权利,实际以官方页面为准。

Modal关键指标

MEASURED FACTS工具标签
指标数值数据来源
Nvidia B300 单价 $0.001972 / sec Modal Pricing
Nvidia B200 单价 $0.001736 / sec Modal Pricing
Nvidia H100 SXM5 单价 $0.001097 / sec Modal Pricing
Nvidia A100 80GB 单价 $0.000694 / sec Modal Pricing
CPU 单价 $0.0000131 / core / sec Modal Pricing
内存单价 $0.00000222 / GiB / sec Modal Pricing
Volumes 单价 $0.09 / GiB / mo Modal Pricing
Network Egress 单价 $0.04 / GiB Modal Pricing
Starter 免费额度 $30 / month free credits Modal Pricing
Team 免费额度 $100 / month free credits Modal Pricing
学术信用额度 up to $10k free compute credits Modal Pricing
基础设施覆盖云数量 20+ clouds Modal 首页

Modal常见问题

FAQ工具标签
Modal 怎么收费?

按资源实际使用时间计费,不按预留计费。Starter 档 $0 + 计算费,每月赠 $30 免费额度;Team 档 $250 + 计算费,每月赠 $100 额度;Enterprise 为定制价,含批量折扣。CPU 按物理核(等效 2 vCPU)$0.0000131/core/sec,内存 $0.00000222/GiB/sec,Volumes $0.09/GiB/mo 且每月含 1 TiB 免费。

有免费额度吗?

有。Starter 档每月赠 $30 免费额度,含 3 个团队席位、100 容器 + 10 GPU 并发、1 TiB/月免费网络出口。学术用户(研究生、实验室、研究人员)最高可申请 $10k 免费计算额度,早期创业公司也可申请免费计算信用。

支持哪些 GPU?

覆盖 Nvidia B300($0.001972/sec)、B200($0.001736/sec)、H200 SXM($0.001261/sec)、H100 SXM5($0.001097/sec)、RTX PRO 6000($0.000842/sec)、A100 80GB($0.000694/sec)、A100 40GB($0.000583/sec)、L40S($0.000542/sec)、A10($0.000306/sec)、L4($0.000222/sec)、T4($0.000164/sec)。

能用来跑 LLM 推理吗?

可以。Servers 面向低延迟 LLM 推理,提供 OpenAI 兼容端点,支持按流量形态调优,也允许自带完整推理栈,基础设施由平台处理。批量离线推理与在线低延迟服务可以配不同参数。

Modal Sandboxes 是什么?

Sandboxes 是用于运行代理或不可信代码的安全计算环境。可在一分钟内程序化创建数百万个并发沙箱,支持自定义镜像与依赖,快照恢复可加快启动,CPU 与内存可按需突发,适合 RL rollout 和交互式编码代理。

国内能用吗?

官网未说明国内可用性,区域列表覆盖美西、美中、美东、美南、欧西、欧北、欧南以及亚太多个区域、日本、澳大利亚、英国、加拿大、中东、南美、非洲、墨西哥,未列出中国大陆。有跨境数据或低延迟需求的团队需先自行验证。

企业版有什么额外能力?

Enterprise 档为定制价格,含批量折扣、席位不限、更高 GPU 并发、嵌入式 ML 工程服务、环境级预算、私有 Slack 支持,以及审计日志、Okta SSO 和 HIPAA 合规能力。