Prime Intellect推出Model Factory:支持数千GPU训练万亿参数MoE
智东西(公众号:zhidxcom)编译 | 孙小雯编辑 | 程茜智东西11月20日消息,昨日,美国AI Infra创企Prime Intellect宣布推出模型训练平台Model Factory,企业可根据平台支持的模型和算力配置,更新现成模型的全部参数,或从零训练新模型。该公司称,其底层强化学习框架prime-rl支
智东西11月20日报道,美国AI基础设施初创公司Prime Intellect昨日发布模型训练平台Model Factory。按平台支持的模型和算力配置,企业能把现成模型的全部参数更新一遍,也能从头训练新模型。
该公司表示,其底层强化学习框架可在千张以上GPU集群上训练万亿参数以上的模型。
▲Prime Intellect发布Model Factory(图源:X)
Model Factory把预训练、继续训练、监督微调、强化学习与模型推理放进同一个平台,模型上线后的执行记录还能回流到后续训练中使用。从事科学研究、芯片设计、金融等专业领域的团队,可围绕自身任务和数据训练、部署模型,并持续迭代改进。
据该公司透露,训练规模可以扩展到数千张GPU。以Qwen3-235B-A22B模型为基础,MoE训练融合内核Prime Mega MoE实现了48%的模型
当前Model Factory提供两种服务方式,按需托管(On-demand)是其中之一。专属部署则允许客户自定义训练框架,并借助
价格上,按需托管的训练费用取决于GPU型号、数量与占用时长,按秒折算;这一模式下的数据存储单独计费,每GiB每月0.09美元(约合人民币0.60元)。训练单价会在任务启动前显示并锁定,排队、调度以及下载运行环境的时间不收费。专属部署方案则按定制化收费。
Prime Intellect创立于2023年,面向企业和研究团队提供GPU算力租赁、模型训练、评测与部署服务,模型推理则以API形式提供。此前该公司宣布,三轮融资累计超过1.5亿美元(约合人民币10.07亿元),A轮投资方包括英伟达风投和英特尔资本。
据该公司今年7月披露,其1亿美元(约合人民币6.71亿元)。目前客户数量超过6000家,还曾与英伟达共同构建2500项经过验证的跨应用企业任务。
该公司称,过去只有前沿实验室才能走完训练和改进模型的整个闭环,Model Factory要打破这道技术门槛。借助这一平台,任何做科学发现、芯片设计、金融等专业领域的团队,都能基于自己的任务和数据训练并部署模型。
一、支持数千张GPU训练,提供模型一键部署服务
Model Factory由该公司早前推出的模型训练平台Lab升级而来。Lab以托管服务为主,用户主要通过LoRA微调来做强化学习。这次升级拓宽了训练范围,也给需要深度改动训练系统的团队准备了专属部署选项。
▲Model Factory与此前Lab的功能对比(图源:Prime Intellect)
Model Factory覆盖预训练、继续训练,可按GPU小时付费使用托管训练,也能选择专用部署,预留算力并调整底层系统。
监督微调环节,用户既可从平台目录里挑现成的开源模型,也能导入自己已有的模型,再让模型学习成功案例、操作示范和专业领域回答。微调完成的模型可以直接投入使用,也能接着做强化学习训练。
做强化学习时,用户要搭建训练环境,为模型准备练习任务、完成任务所需的工具,以及判定结果好坏的评分规则。开源平台上有超过2500个社区开发者提供的现成训练环境,模型可以在其中练任务、接受评分,并按业务需要调整环境设置。研究人员能跟踪奖励分数、查看执行过程;需要写代码或调用工具的智能体,还可使用数万个沙箱并发运行。
▲Model Factory强化学习训练演示(图源:Prime Intellect)
面向新模型开发和基座模型训练,平台支持预训练、继续训练,也支持不同模型架构、训练目标和算法的实验。该公司称,训练规模可扩展至数千张GPU;基于Qwen3-235B-A22B模型,MoE训练融合内核Prime Mega MoE在H200显卡上实现了48%的模型浮点算力利用率(MFU)。
▲Model Factory预训练实验演示(图源:Prime Intellect)
模型评测方面,研究人员可以先测模型的初始表现,再评测训练过程中保存的不同
确定要部署的版本后,用户在控制台把相应检查点一键部署成推理接口,供应用调用,也能用来生成合成数据和开展后续评测。按需托管与专用部署都支持一键部署。
▲Model Factory模型部署演示(图源:Prime Intellect)
二、收集执行记录辅助模型改进,支持客户自有GPU部署
模型上线后,团队可以通过运行记录管理工具
▲Model Factory执行记录收集演示(图源:Prime Intellect)
在该公司的编程智能体案例里,研究人员能核查模型有没有找到正确的文件、有没有跑测试、问题是否真的被修好,然后据此补充监督微调的示范数据、调整强化学习的奖励,或者塞进更难的题目。
再跑一轮训练之后,研究人员可以把代码改动和测试结果放在一起看模型表现,另外拿一组没参与训练的任务做评测,确认模型在训练任务之外是不是也变好了,再决定要不要上线新版本。
有些团队要动底层训练框架,Model Factory为此提供专用部署,客户能用该公司的GPU,也能用自有的GPU搭专属集群。研究人员既可以走托管训练和推理服务,也可以借助调度器Slurm和Kubernetes直接管集群,按实验需要改底层框架、跑自定义任务。
实验跑得久,平台配了健康检查、故障节点自动替换和训练恢复。据该公司披露,节点出故障后系统能从最近保存的检查点接着跑,团队也可通过
三、累计融资超10亿,为6000多家客户提供算力与模型服务
据该公司官网展示,Prime Intellect眼下有三条产品线。模型训练平台Model Factory,前身叫Lab;推理服务Prime Inference,既给客户提供现成模型的API,也能为客户自己的模型配置专属运行服务;算力服务Prime Compute,按需租GPU、提供专属集群及配套运维。
▲Prime Intellect的分布式AI训练构想(图源:Prime Intellect)
Prime Compute是一个GPU算力平台。用户按模型训练、推理等任务的需要,挑GPU型号、定数量和租期,可以按小时租1至256张GPU,也能预订由Prime Intellect负责运维的专属集群。集群调度、运行监控、故障节点自动替换这些功能平台都有,用户通过API就能启动和管理算力资源。
Prime Inference做的是模型推理服务。用户能用兼容OpenAI接口的API调用开放模型,也可以把自己训练的模型部署上线、接进应用。付费方式目前有按Token计费和预留专属算力两种,某个数据中心的部署出故障时,系统会自动把请求转到其他正常运行的部署上。
该公司透露,正式对外发布之前,Prime Inference只处理公司内部的强化学习、合成数据生成、评测等任务,每天处理的Token量就已经接近1万亿。
Prime Intellect的两位联合创始人此前分别有Web3及模型训练背景。该公司联合创始人兼CEO文森特·魏瑟(
其联合创始人兼CTO约翰内斯·哈格曼(从零构建分布式训练框架。
2023年,哈格曼以第一作者身份完成《大规模分布式模型训练的高效并行化布局(Efficient Parallelization Layouts for Large-Scale Distributed Model Training)》论文,并获得最佳论文奖。
▲Prime Intellect联合创始人兼CTO约翰内斯·哈格曼(左)与联合创始人兼CEO文森特·魏瑟(右)(图源:Prime Intellect)
客户合作方面,Prime Intellect曾与英伟达合作开展企业任务训练。双方共同构建了2500项经过验证的跨应用企业任务,覆盖邮件、客户管理、工单和表格等场景。34.0%提高至57.7%。
融资上,2024年4月,该公司宣布完成550万美元(约合人民币3692万元)种子轮融资,由Distributed Global和CoinFund共同领投。2025年2月,该公司宣布完成1500万美元融资(约合人民币1.01亿元),由创始人基金领投。今年7月,该公司完成1.3亿美元(约合人民币8.73亿元)A轮融资,由Radical Ventures领投,英伟达风投、英特尔资本、戴尔科技资本等参投。
结语:模型平台争夺长期客户,训练实效影响客户去留
Model Factory把算力、训练、评测和部署捏到一起,Prime Intellect能接的客户需求因此变宽。美国AI云服务商Fireworks等同行同样在做训练与部署,模型定制平台各自的服务范围正慢慢交叠。Prime Intellect得靠训练环境、沙箱、运行记录和集群控制这些不一样的能力,去争取那些要长期开发模型的客户。
服务范围拉近之后,平台能不能帮企业更快做完实验、更稳地把模型上线,会更直接地左右客户的选择。供应商也得把项目里攒下的经验做成能复用的工具和方案,让每次交付少花点人工。客户会不会一直用下去、有没有真的把模型训练出效果,是检验一站式平台长期价值的地方。