Prime Intellect推出Model Factory:支持数千GPU训练万亿参数MoE

资讯 腾讯网 作者:智东西 全文 3857 字 · 约 10 分钟读完 分类Infra英伟达产品更新算力芯片

智东西(公众号:zhidxcom)编译 | 孙小雯编辑 | 程茜智东西11月20日消息,昨日,美国AI Infra创企Prime Intellect宣布推出模型训练平台Model Factory,企业可根据平台支持的模型和算力配置,更新现成模型的全部参数,或从零训练新模型。该公司称,其底层强化学习框架prime-rl支

所属频道 产品更新算力与芯片

智东西11月20日报道,美国AI基础设施初创公司Prime Intellect昨日发布模型训练平台Model Factory。按平台支持的模型和算力配置,企业能把现成模型的全部参数更新一遍,也能从头训练新模型。

该公司表示,其底层强化学习框架可在千张以上GPU集群上训练万亿参数以上的模型。

▲Prime Intellect发布Model Factory(图源:X)

Model Factory把预训练、继续训练、监督微调、强化学习与模型推理放进同一个平台,模型上线后的执行记录还能回流到后续训练中使用。从事科学研究、芯片设计、金融等专业领域的团队,可围绕自身任务和数据训练、部署模型,并持续迭代改进。

据该公司透露,训练规模可以扩展到数千张GPU。以Qwen3-235B-A22B模型为基础,MoE训练融合内核Prime Mega MoE实现了48%的模型

当前Model Factory提供两种服务方式,按需托管(On-demand)是其中之一。专属部署则允许客户自定义训练框架,并借助

价格上,按需托管的训练费用取决于GPU型号、数量与占用时长,按秒折算;这一模式下的数据存储单独计费,每GiB每月0.09美元(约合人民币0.60元)。训练单价会在任务启动前显示并锁定,排队、调度以及下载运行环境的时间不收费。专属部署方案则按定制化收费。

Prime Intellect创立于2023年,面向企业和研究团队提供GPU算力租赁、模型训练、评测与部署服务,模型推理则以API形式提供。此前该公司宣布,三轮融资累计超过1.5亿美元(约合人民币10.07亿元),A轮投资方包括英伟达风投和英特尔资本。

据该公司今年7月披露,其1亿美元(约合人民币6.71亿元)。目前客户数量超过6000家,还曾与英伟达共同构建2500项经过验证的跨应用企业任务。

该公司称,过去只有前沿实验室才能走完训练和改进模型的整个闭环,Model Factory要打破这道技术门槛。借助这一平台,任何做科学发现、芯片设计、金融等专业领域的团队,都能基于自己的任务和数据训练并部署模型。

一、支持数千张GPU训练,提供模型一键部署服务

Model Factory由该公司早前推出的模型训练平台Lab升级而来。Lab以托管服务为主,用户主要通过LoRA微调来做强化学习。这次升级拓宽了训练范围,也给需要深度改动训练系统的团队准备了专属部署选项。

▲Model Factory与此前Lab的功能对比(图源:Prime Intellect)

Model Factory覆盖预训练、继续训练,可按GPU小时付费使用托管训练,也能选择专用部署,预留算力并调整底层系统。

监督微调环节,用户既可从平台目录里挑现成的开源模型,也能导入自己已有的模型,再让模型学习成功案例、操作示范和专业领域回答。微调完成的模型可以直接投入使用,也能接着做强化学习训练。

做强化学习时,用户要搭建训练环境,为模型准备练习任务、完成任务所需的工具,以及判定结果好坏的评分规则。开源平台上有超过2500个社区开发者提供的现成训练环境,模型可以在其中练任务、接受评分,并按业务需要调整环境设置。研究人员能跟踪奖励分数、查看执行过程;需要写代码或调用工具的智能体,还可使用数万个沙箱并发运行。

▲Model Factory强化学习训练演示(图源:Prime Intellect)

面向新模型开发和基座模型训练,平台支持预训练、继续训练,也支持不同模型架构、训练目标和算法的实验。该公司称,训练规模可扩展至数千张GPU;基于Qwen3-235B-A22B模型,MoE训练融合内核Prime Mega MoE在H200显卡上实现了48%的模型浮点算力利用率(MFU)。

▲Model Factory预训练实验演示(图源:Prime Intellect)

模型评测方面,研究人员可以先测模型的初始表现,再评测训练过程中保存的不同

确定要部署的版本后,用户在控制台把相应检查点一键部署成推理接口,供应用调用,也能用来生成合成数据和开展后续评测。按需托管与专用部署都支持一键部署。

▲Model Factory模型部署演示(图源:Prime Intellect)

二、收集执行记录辅助模型改进,支持客户自有GPU部署

模型上线后,团队可以通过运行记录管理工具

▲Model Factory执行记录收集演示(图源:Prime Intellect)

在该公司的编程智能体案例里,研究人员能核查模型有没有找到正确的文件、有没有跑测试、问题是否真的被修好,然后据此补充监督微调的示范数据、调整强化学习的奖励,或者塞进更难的题目。

再跑一轮训练之后,研究人员可以把代码改动和测试结果放在一起看模型表现,另外拿一组没参与训练的任务做评测,确认模型在训练任务之外是不是也变好了,再决定要不要上线新版本。

有些团队要动底层训练框架,Model Factory为此提供专用部署,客户能用该公司的GPU,也能用自有的GPU搭专属集群。研究人员既可以走托管训练和推理服务,也可以借助调度器Slurm和Kubernetes直接管集群,按实验需要改底层框架、跑自定义任务。

实验跑得久,平台配了健康检查、故障节点自动替换和训练恢复。据该公司披露,节点出故障后系统能从最近保存的检查点接着跑,团队也可通过

三、累计融资超10亿,为6000多家客户提供算力与模型服务

据该公司官网展示,Prime Intellect眼下有三条产品线。模型训练平台Model Factory,前身叫Lab;推理服务Prime Inference,既给客户提供现成模型的API,也能为客户自己的模型配置专属运行服务;算力服务Prime Compute,按需租GPU、提供专属集群及配套运维。

▲Prime Intellect的分布式AI训练构想(图源:Prime Intellect)

Prime Compute是一个GPU算力平台。用户按模型训练、推理等任务的需要,挑GPU型号、定数量和租期,可以按小时租1至256张GPU,也能预订由Prime Intellect负责运维的专属集群。集群调度、运行监控、故障节点自动替换这些功能平台都有,用户通过API就能启动和管理算力资源。

Prime Inference做的是模型推理服务。用户能用兼容OpenAI接口的API调用开放模型,也可以把自己训练的模型部署上线、接进应用。付费方式目前有按Token计费和预留专属算力两种,某个数据中心的部署出故障时,系统会自动把请求转到其他正常运行的部署上。

该公司透露,正式对外发布之前,Prime Inference只处理公司内部的强化学习、合成数据生成、评测等任务,每天处理的Token量就已经接近1万亿。

Prime Intellect的两位联合创始人此前分别有Web3及模型训练背景。该公司联合创始人兼CEO文森特·魏瑟(

其联合创始人兼CTO约翰内斯·哈格曼(从零构建分布式训练框架。

2023年,哈格曼以第一作者身份完成《大规模分布式模型训练的高效并行化布局(Efficient Parallelization Layouts for Large-Scale Distributed Model Training)》论文,并获得最佳论文奖。

▲Prime Intellect联合创始人兼CTO约翰内斯·哈格曼(左)与联合创始人兼CEO文森特·魏瑟(右)(图源:Prime Intellect)

客户合作方面,Prime Intellect曾与英伟达合作开展企业任务训练。双方共同构建了2500项经过验证的跨应用企业任务,覆盖邮件、客户管理、工单和表格等场景。34.0%提高至57.7%。

融资上,2024年4月,该公司宣布完成550万美元(约合人民币3692万元)种子轮融资,由Distributed Global和CoinFund共同领投。2025年2月,该公司宣布完成1500万美元融资(约合人民币1.01亿元),由创始人基金领投。今年7月,该公司完成1.3亿美元(约合人民币8.73亿元)A轮融资,由Radical Ventures领投,英伟达风投、英特尔资本、戴尔科技资本等参投。

结语:模型平台争夺长期客户,训练实效影响客户去留

Model Factory把算力、训练、评测和部署捏到一起,Prime Intellect能接的客户需求因此变宽。美国AI云服务商Fireworks等同行同样在做训练与部署,模型定制平台各自的服务范围正慢慢交叠。Prime Intellect得靠训练环境、沙箱、运行记录和集群控制这些不一样的能力,去争取那些要长期开发模型的客户。

服务范围拉近之后,平台能不能帮企业更快做完实验、更稳地把模型上线,会更直接地左右客户的选择。供应商也得把项目里攒下的经验做成能复用的工具和方案,让每次交付少花点人工。客户会不会一直用下去、有没有真的把模型训练出效果,是检验一站式平台长期价值的地方。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 写入记忆,何必读完整个网络?英伟达SEED每GPU吞吐最高提升42%

    Qwen3.8-Flash-Next 有 48 层。处理一段输入时,SEED 让除最后一个以外的 token 只运行前 31 层,再由轻量的记忆写入组件,为后续 17 层生成 KV Cache 和循环状态。到了生成阶段,每个 token 仍然运行完整的 48 层。这个改动利用了一个区别:为后续生成写下记忆,所需的深层计

    来源 腾讯网
  2. 英伟达克雷斯任临时CEO:AI芯片节奏未改,散热厂商同步看涨

    【TechWeb】11月19日,行业媒体Digitimes发布报道,聚焦黄仁勋辞任后英伟达首次财报电话会议。针对外界“换帅是否会打乱AI芯片供货”的疑虑,临时CEO科莱特·克雷斯(Colette Kress)明确回应:公司业务照常开展。克雷斯在会上强调,英伟达未来产品的开发与推出节奏保持不变,公司的运营表现、业务展望及

    来源 腾讯网
  3. 英伟达停售H200:25%关税通道关闭,杰富瑞测算营收最多减620亿美元

    当地时间11月17日,英伟达临时首席执行官科莱特·克雷斯在财报电话会上确认,公司将停止向中国销售H200 AI芯片——这意味着由黄仁勋此前与特朗普政府协商达成的对华特殊供货安排正式告终。这也是黄仁勋辞职之后,英伟达召开的首次财报沟通会,对华先进芯片供给毫无悬念地成为市场焦点议题。

    来源 TechWeb
  4. AMD苏姿丰给出2027年指引:服务器营收翻倍,总营收增幅超80%

    11月19日,AMDCEO苏姿丰在第三季度财报电话会议上给出了极为激进的业绩指引:预计2027年公司服务器业务营收将实现同比翻倍,整体营收增幅超过80%。这一表态正值全球AI算力需求持续井喷、竞争对手英伟达深陷高层动荡的微妙窗口期,AMD正加速抢占数据中心市场份额。

    来源 TechWeb
  5. AMD苏姿丰给出2027年目标:服务器营收翻倍,总营收增幅超80%

    11月19日,AMDCEO苏姿丰在第三季度财报电话会议上给出了极为激进的业绩指引:预计2027年公司服务器业务营收将实现同比翻倍,整体营收增幅超过80%。这一表态正值全球AI算力需求持续井喷、竞争对手英伟达深陷高层动荡的微妙窗口期,AMD正加速抢占数据中心市场份额。

    来源 TechWeb
  6. 从英伟达到苹果、微软:同样拥抱AI,为什么企业的财富命运截然不同?

    AI正在改变企业创造财富的方式。检索、计算、起草、核对等标准化工作,越来越多地由工具完成。技术能力的普及并不意味着企业之间的差距会消失。相反,当算力和信息更容易获得,领导者如何提出问题、配置资源、处理冲突以及确定长期目标,开始更直接地影响企业能否把技术转化为持续价值。德鲁克曾把管理与领导分开:管理是把...

    来源 腾讯网
  7. 中芯国际研判行业周期,算力芯片紧缺延续至2028年

    每经编辑:赵云 截至11月20日10时35分,科创芯片ETF华安(588290)跟踪指数下跌3.43%。成分股方面,龙芯中科上涨0.72%,中芯国际下跌0.7%,寒武纪下跌1.18%。 消息面上,近日,在中芯国际2026年第三季度业绩会上,中芯国际联合CEO表达了对半导体代工业未来发展的积极正面看法。他认为,目前AI发

    来源 腾讯网
  8. 掌舵人变了,芯片计划没变:英伟达回应市场关切

    IT之家 11 月 19 日消息,行业媒体 Digitimes 今天(11 月 19 日)发布博文,报道称在最新财报电话会议上,针对“换帅是否会打乱 AI 芯片供货”疑虑,英伟达临时首席执行官科莱特 · 克雷斯(Colette Kress)表示,公司业务照常开展。在黄仁勋辞职后英伟达举行的首次财报电话会议上,克雷斯强调

    来源 腾讯网
  9. 彭博社:黄仁勋离任英伟达 CEO 后,日本 AI 股首当其冲

    IT之家 11 月 19 日消息,彭博社今天(11 月 19 日)发布博文,报道称英伟达管理层变动及创始人黄仁勋突然离任,正引发全球 AI 概念股新一轮抛售,日本相关股票首当其冲。 彭博社指出日本股市风向从“AI 溢价”转向“AI 折价”,投资者重新审视日本芯片、半导体设备与 AI 基础设施企业,关注重点转向未来盈利能

    来源 AI 行业观察
  10. 马斯克:撤换黄仁勋如踢走乔丹

    TechCrunch报道,马斯克将撤换英伟达CEO黄仁勋比作把迈克尔·乔丹踢出球队,并称不认为黄仁勋对美国不忠。文章梳理这一言论的背景,分析英伟达在AI芯片领域的地位、黄仁勋的领导力,以及地缘政治争议下马斯克与英伟达既合作又竞争的复杂关系。

    来源 AI 科技快讯
  11. 特朗普政府再收紧AI芯片渠道:丑闻成了新规推手

    特朗普政府宣布将再度收紧中国获取AI芯片的渠道,而促成这一决定的,竟是一桩被称为“世纪作弊丑闻”的事件。当出口管制靠丑闻驱动、靠打补丁推进,这场芯片战的打法正变得愈发荒诞。本文拆解政策背后的逻辑错位、产业代价,以及真正该被追问的问题。

    来源 AI 科技快讯
  12. 特朗普访华难破AI僵局 自家官员都不看好

    据WIRED报道,美国总统特朗普即将展开访华行程,但即便其政府内部官员也普遍认为,此访难以在人工智能领域取得实质性进展。英伟达相关丑闻的余波持续发酵,使围绕AI芯片出口与合作的谈判变得异常艰难。中美在AI领域的战略互疑与国内政治压力交织,令外交斡旋空间不断收窄。分析人士指出,技术竞争的结构性矛盾,恐怕不是一次

    来源 AI 科技快讯
  13. LlamaIndex发布OCRia-1.5,NVIDIA推Cosmos数据工厂

    本期速报关注文档解析与合成数据的新进展。LlamaIndex推出OCRia-1.5模型家族,提升复杂表格解析精度;Google DeepMind上线Genie 4,支持原生音频与实时编辑;NVIDIA发布Cosmos Data Factory蓝图,通过Prompt生成含稀有事件的训练数据。此外,Gemini应用适配低内

    来源 AI 应用前沿
  14. 马斯克谈黄仁勋去留:换他等于把乔丹踢出球队

    TechCrunch报道,马斯克将撤换英伟达CEO黄仁勋比作把迈克尔·乔丹踢出球队,并称不认为黄仁勋对美国不忠。文章梳理这一言论的背景,分析英伟达在AI芯片领域的地位、黄仁勋的领导力,以及地缘政治争议下马斯克与英伟达既合作又竞争的复杂关系。

    来源 AI 行业观察
  15. SpaceX周四发债60亿美元买英伟达芯片:320亿美元融资收官

    据媒体报道,本次发售包括约60亿美元债券,规模已从此前的40亿美元上调,于周四向投资者开放认购,其余约260亿美元票据此前已完成配售。资金将通过名为Saturn Funding Trust的特殊目的载体购买英伟达AI芯片,SpaceX初期以五年期租约使用这些芯片。

    来源 华尔街见闻
  16. OpenAI用GPT-4o改芯片电路,AMD旗舰GPU能效最高提14%

    OpenAI 当地时间 18 日发布技术报告,披露 AI 辅助芯片设计进展。自研推理芯片 Jalapeño 2025 年初就交给 GPT-4o 打下手:模型重写浮点加法器、乘法器等电路,新乘法器综合后面积减约 15%、延迟压到一个时钟周期;合计向量计算单元面积减约 13%,矩阵计算单元减约 10%,

    来源 AI 开发者社区
  17. Anthropic上市首日冲高回落,美股三大指数齐跌,道指失守5万点

    费城半导体指数跌2.4%,AMD遭做空重挫7.7%,英伟达跌3.3%,创52周新低。甲骨文跌3%,盘中创一年新低。CoreWeave跌6.1%。10年期美债收益率下行1.5个基点。美元指数涨0.2%,创18个月新高。离岸人民币跌至一个月低位、触及6.70关口。WTI原油涨1.1%。黄金创去年9月以来最低。白银跌3%。比

    来源 华尔街见闻
  18. 马斯克呛声奥尔特曼:SpaceX 不给 OpenAI 算力,年底冲 120万块 GPU

    人工智能行业的算力江湖近期迎来了一场高层口水战。据媒体报道,随着 SpaceX 在数据中心领域的持续重金投入,其正逐步成长为美国最具潜力的算力租赁商。然而,特斯拉与 SpaceX 首席执行官埃隆·马斯克近日在社交平台上公开表态,明确直言 SpaceX 预计不会向竞争对手 OpenAI 出售任何算力,

    来源 AI 开发者社区
  19. 英伟达投资版图:持股超1000亿美元,钱都流向了谁

    近年来,英伟达一直被业内人士誉为是AI循环融资经济的“中央银行”。在前首席执行官黄仁勋的领导下,英伟达不仅为全球AI浪潮打造了底层核心基石——GPU芯片,更凭借雄厚财力构筑起一座庞大的“资本弹药库”。 然而,伴随这位“皮衣刀客”的骤然离任,华尔街与硅谷无不忧心忡忡:这股源源不竭的资金活水是否还将继续奔涌?一旦水龙头骤然

    来源 AI 行业观察
  20. 黄仁勋辞任英伟达CEO后表态愿回归,董事会称无意重新任命

    英伟达完成创始人离任后治理重置:Q3营收1158亿美元、订单积压2.5万亿美元,停售H200并设董事会出口管制委员会;美出口管制扩至第三国远程算力,AI基础设施碎片化。Anthropic拟以约1.4万亿美元估值IPO,算力成本进入公开验证。微软Ignite将Office/Copilot升级为智能体工作系统,推跨供应商A

    来源 AI 行业观察
  21. iPhone Air 2与iPhone 18标准版敲定春季登场,前者升级力度大

    【TechWeb】随着新机发布时间临近,苹果供应链已开始为下一代iPhone量产做准备。据ETNews披露,三星显示和LG Display均已着手准备OLED面板生产计划,两家供应商的生产安排一致指向2027年3月的新品发布窗口——标准版iPhone 18与超薄机型iPhone Air 2,将跳过今年秋季,在2027年

    来源 腾讯网
  22. 诺基亚拥抱英伟达,爱立信走自己的路

    AI-RAN正成为通信行业的核心议题。在频谱资源日趋紧张、5G提质与6G预研双重压力下,运营商寄望借助人工智能重构无线接入网(RAN),进一步提高频谱效率、提升网络智能程度。 市场调研机构Omdia面向运营商从业者开展的一项调查显示,88%受访者预计AI流量三年内将对RAN产生实质性影响,64%认为带AI加速器的芯片平

    来源 AI 行业观察
  23. OpenAI用AI改芯片电路:AMD旗舰GPU能效最高提升14%

    OpenAI报告披露GPT-4o辅助芯片设计:自研推理芯片Jalapeño由GPT-4o重写浮点加法器、乘法器等电路,新乘法器面积减约15%、延迟压至一个时钟周期;向量与矩阵计算单元面积分别减约13%、10%,已实片验证。模型还重写RTL,为AMD旗舰GPU提速,压缩约一年工作量。

    来源 AI 产业速递
  24. 黄仁勋辞职一周,英伟达近20万签名请愿复职、工程师称不回归就走

    【TechWeb】黄仁勋辞职一周后,英伟达内部的“人心危机”正持续发酵。临时CEO科莱特·克雷斯面临的,是一场几乎公开化的员工不满——要求创始人回归的"Stand with Jensen"请愿已收集近20万签名,其中自称英伟达在职员工的签名超过1万人,而公司员工总数约4.2万人;部分工程师已明确放话,若黄仁勋不能复职将

    来源 腾讯网
向下滚动自动加载更多