HBM需求逻辑生变:Agentic AI兴起,内存配置成扩服务器关键

资讯 腾讯网 作者:腾讯网 全文 3152 字 · 约 8 分钟读完 分类HBM英伟达产品更新芯片存储

AI存储市场经历一轮调整之后,HBM依然是值得关注的方向。过去几年,市场对HBM需求的判断,主要建立在AI GPU出货量增长的基础上。英伟达不断推出新一代GPU,HBM容量和带宽持续升级,直接拉动了....

所属频道 产品更新算力与芯片

AI存储市场此前经历了一轮调整,不过HBM仍是业内紧盯的方向。过去判断HBM需求,业内主要盯AI GPU出货量的增长。英伟达一代接一代推出新GPU,HBM的容量和带宽跟着往上走,SK海力士、三星、美光的订单因此被直接拉动。可AI应用正从模型训练转向大规模推理,Agentic AI又开始兴起,HBM以及整个服务器内存市场的需求逻辑就在变。


近日,Silicon Atlas发布了一篇题为《After the Selloff, I Still Favor HBM》的分析文章。作者认为,2027年之前,内存需求仍有望保持增长,其中最被看好的存储产品是HBM,其次是大容量服务器DDR5。文章提出,未来内存需求增长将由两个因素共同推动:一是数据中心服务器数量增加,二是每台服务器搭载的内存容量继续提升。两者叠加,可能让内存市场获得比单纯计算芯片出货增长更强的需求支撑。


Agentic AI正在创造新的内存需求


在作者对Agentic AI拉动内存需求的分析上,这篇文章着墨最值得一读。Agent跟传统一问一答式的AI不一样:它要持续执行任务,还得在多次调用之间留住代码、工具、数据和任务状态。一个Agent可能反复调用不同工具、执行代码、等外部任务返回,然后在后续步骤里接着用之前攒下的信息。也就是说,哪怕CPU没有一直在算,相关的运行环境和内存状态也可能得继续保留。


文中引了Vercel的一个真实计费案例:一个持续30分钟的构建与测试任务里,假设CPU利用率只有10%,内存资源费用为0.0848美元,CPU费用仅0.0256美元,前者约是后者的3.3倍。这个例子说明,在Agent和自动化工作流中,计算资源未必是消耗的大头,长时间保留的运行状态一样要花钱。


作者还搭了一个服务器资源模型:假设每秒有10个任务进入系统,每个任务持续60秒、占用4GB常驻内存,而实际只需12个CPU核心秒的计算时间。按这个模型,系统同时存在600个运行环境,要保留2400GB内存状态,实际繁忙的CPU核心却只有120个。若每台服务器配置192个CPU核心和768GB内存,在设定的资源利用率上限下,CPU计算任务一台服务器就能承载,内存状态却要四台服务器才装得下。


这表示运营商或许得增加服务器数量,或者在现有CPU资源之外多配内存。服务器采购不再完全由CPU计算需求说了算,内存容量本身也可能成为扩容服务器的理由。当然,这个模型只是作者用来说明资源配置关系的示例,并非行业的实际平均配置。


除了Agent带来的内存需求,文章还引用了美光和


两条信息放到一起看,除了服务器出货量增长,单台服务器内部的存储配置变化同样值得盯。传统服务器配内存主要看CPU计算能力,Agent工作负载多起来之后,服务器要为更多并发运行环境保留状态数据,内存容量的分量也就跟着上去了。


所以判断未来的内存需求,不能只盯服务器出货量,单台服务器的内存配置也得算进去。哪怕软件优化压低了单个AI任务的内存消耗,只要服务器数量和单机内存配置涨得够快,整个市场的内存需求仍可能继续扩大。


HBM需求不只是容量增长,更是带宽升级


如果说Agentic AI带来的是整个服务器内存市场的新增需求,那么HBM的增长还需要从AI加速器本身的配置变化来看。


英伟达Blackwell Ultra与Rubin的内存配置被拿来做了对照。按英伟达公开的产品参数,两代平台的相关配置都是288GB HBM,可峰值内存带宽从Blackwell Ultra的8TB/s升到了Rubin的22TB/s,涨了2.75倍。


这组对比说明一件事:下一代AI加速器想提性能,未必非得同步把HBM容量往上加。容量不动,带宽大幅拉高,同样能明显增强芯片的数据供给能力。所以看HBM市场需求,光盯每颗GPU装了多少GB不够,还得看每颗芯片要多少带宽,以及这背后占用的HBM堆叠、接口和制造资源。


英伟达早前公布的长期路线图还显示,Rubin Ultra打算在2027年下半年用上1TB HBM4E配置,由四颗大型GPU组成封装系统。这一规划若按目标推进,未来高端AI加速器就不只要更高的HBM带宽,单个封装的HBM容量也可能继续往上走。


英伟达之外,定制AI芯片也在加码HBM配置。微软公布的Maia 300芯片配的是288GB HBM4,比上一代Maia 200多出33%,微软计划2027年推动其生产部署。文章还依据微软公布的机架功耗和HBM配置做了测算:若1GW数据中心容量全部配置这类系统,对应HBM总量约165PB。作者认为,这个规模已经够得上纳入未来HBM采购需求的考量。


也就是说,HBM需求不再只由英伟达GPU决定。微软这类大型云服务商正在推自研AI芯片,其他定制ASIC也在往数据中心里进。计算平台架构各不相同,对高带宽内存的需求却都摆在那里。自研芯片规模一扩大,HBM供应商能面对的客户和应用场景也有望继续增多。


需求在涨,供给端也不能不看。HBM的制造比传统DRAM复杂,要多层DRAM堆叠、TSV、先进封装,产品验证也很严格。所以HBM产能没法简单按晶圆投入量来换算。


文章着重指出,HBM产能增长得把晶圆投入和生产效率放在一起算。作者在分析里设了个假设:HBM在晶圆产能中的分配比例从22%提高到30%,其他条件不变的话,传统内存产品的晶圆投入就会受挤压。按其测算,分配比例出现上述变化时,传统DRAM比特产出的盈亏平衡点约为11.4%的生产效率提升。


有分析者给出一个前提设定:晶圆投片量多出8%,生产效率提高10%,算下来传统内存的比特产出还能增长约6.6%。照此看,HBM扩产并不等于其他DRAM产品的供应就一定减少;但反过来,也不能认定多投的晶圆都能变成可出售的内存比特。真正决定实际供给的,还是最终良率、产品认证、封装能力以及有效出货量这几项。


2027年之前,HBM仍是更值得关注的方向


把需求和供给两头合起来看,Silicon Atlas的判断是:2027年之前内存订单仍有望持续增长,HBM排在最前,其次是大容量服务器DDR5。作者认为,Agentic AI带来的服务器数量增长和单机内存容量提升,有望抵消一部分软件优化造成的内存需求下降。存储市场经历调整之后,其依然更看好HBM,原因也在这里。


文章也提醒,内存需求不只取决于AI应用增长,压缩技术同样可能改变未来的采购规模。比如文中提到,AgentZip在两个工作负载中分别实现了64.29%和88.55%的数据压缩率。这类技术若能在实际生产环境里有效降低内存占用,部分服务器的内存采购需求就可能减少。但压缩率不等于实际采购节省,还得看处理延迟、CPU开销和整台服务器的内存使用情况。内存需求增长与效率优化之间,未来仍存在一定博弈。


放到产业层面看,AI存储市场正显出一个不容忽视的转变:内存需求往上走,已不单是训练模型、部署GPU直接拉动的结果。Agentic AI要求服务器保存更多运行状态,单机内存配置随之抬高;新一批AI加速器又沿着HBM4、HBM4E等技术路线,把带宽和容量继续往上推。两条需求线索交叠,HBM的长期增长逻辑因此变得更加立体。


对存储厂商来说,接下来的竞争不单是抢GPU客户,还要去拿云厂商自研ASIC、Agent服务器和新一代AI基础设施的订单。HBM这门需求生意,眼下正从GPU时代扩展到整个AI数据中心时代。


本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 英伟达失去黄仁勋:内存定义权之争与3D DRAM新路线

    相当长一段时间,AI基础设施供应链的议价权,曾从英伟达这样的计算芯片巨头,部分转向SK海力士等内存巨头。但黄仁勋显然不甘于将内存这一关键环节的定义权交给供应商。黄仁勋领导下的英伟达,已经掌控了计算芯片与高速互连网络,在HBM供不应求、内存厂商议价能力持续上升之际,黄仁勋一直试图重新定义内存的技术演进方向,...

    来源 腾讯网
  2. 英伟达市值破5万亿美元:净利率55%,它卖的远不止GPU

    在几个月前,我上线AI商业模式画布网站的时候,就把英伟达的商业模式画布,作为第一批案例写入,但当时并没有发公众号。商业模式画布是一个很好的商业思考框架,是最适合用于启发创业新人的商业思考工具。此时此刻,我们有必要从商业模式画布的视角,来认真理解一下英伟达的商业模式,因为以后的英伟达,未必还是现在的样子...

    来源 腾讯网
  3. 黄仁勋辞职,英伟达“AI央行”地位会怎样冲击融资链?

    英伟达首席执行官黄仁勋突然辞职,引发了一个令人担忧的问题:如果这家芯片巨头陷入困境,冲击会不会沿着它为支撑人工智能(AI)热潮而搭建的、环环相扣的金融网络蔓延? 为推动AI行业发展,英伟达已向其他企业作出数千亿美元的财务承诺,获得了“AI央行”的称号。因此,一旦英伟达出现严重问题,可能给美国经济和金融市场带来深远冲击。

    来源 AI 行业观察
  4. 中国最强AI模型用了被禁英伟达芯片:管制闸门还管用吗

    TechCrunch报道称,最新研究显示中国性能最强的一批大模型,训练算力主要来自被美国列入出口管制清单的英伟达高端GPU。这一发现不仅让“禁令有效论”遭遇质疑,也把英伟达CEO黄仁勋推到合规与政治压力的风口浪尖:芯片卖不出去,模型却照样训了出来。

    来源 AI 行业观察
  5. 黄仁勋辞去英伟达CEO,RTX Spark前路引人关注

    不出意外,美东时间11月18日上午,飞行了近50年的旅行者1号,将抵达距离地球一光日的地方。如果说旅行者1号承载了人类探索未知的雄心,那黄仁勋也凭借一次次对未来技术的大胆押注,带领英伟达走到了最初难以想象的地方。但就在11月12日,掌舵英伟达33年的黄仁勋正式辞去CEO职务,长期担任CFO的科莱特·克雷斯(Colett

    来源 腾讯网
  6. 黄仁勋辞职:英伟达5300亿融资机器谁来掌舵

    英伟达董事长黄仁勋的骤然离场,不仅是一家芯片公司的高管更迭,更是整个AI融资生态系统面临的系统性冲击。在过去三年里,英伟达实际上已演变为AI行业的"最后贷款人",以股权投资、担保承诺和回购协议构建起一台规模逾5000亿美元的循环融资机器。如今,这台机器的操盘手已经离场。黄仁勋辞职消息宣布后,英伟达股价盘中一度...

    来源 腾讯网
  7. 英伟达物色新CEO,接触Arm掌门Haas,黄仁勋旧部门生

    英伟达董事会在创始人黄仁勋因婚外情丑闻辞职后,启动了一场关乎这家4万亿美元市值AI芯片巨头命运的接班人搜寻。11月13日,据英国《金融时报》报道,英伟达董事会已就继任事宜接触Arm Holdings首席执行官Rene Haas。(Arm首席执行官Rene Haas,图源:Arm官网)这一消息提振了市场情绪,Arm美股盘

    来源 腾讯网
  8. 英伟达Alpamayo 2 Edge:2.45B骨干+0.2B专家,端到端智驾怎么跑?

    她叫Alpamayo 2 Edge,因果推理结合扩散动作,端到端输出闭环表现提升 48.9%。 作者丨郑佳美 编辑丨岑 峰 点开前,你以为老黄家的惊天大瓜又有了什么后续; 点开后才发现:这个“她”连人都不是。 她叫 Alpamayo 2 Edge。 英伟达11月10日刚发布出来的一款端到端自动驾驶模型。VLM 骨干约

    来源 AI 行业观察
  9. 苹果芯片掌门人斯鲁吉被列入英伟达CEO候选名单

    黄仁勋辞职数小时后,英伟达CEO的接力棒名单上出现了一个意外的名字——苹果芯片掌门人约翰尼·斯鲁吉。据AppleInsider援引Semafor和彭博社的报道,英伟达董事会已聘请外部猎头机构物色正式继任者,现年61岁的苹果首席硬件官斯鲁吉被列为潜在考察对象之一;与此同时,临时CEO科莱特·克雷斯获得部分董事支持留任,董

    来源 TechWeb
  10. 斯鲁吉被列入英伟达CEO候选名单:苹果芯片负责人凭什么入局?

    黄仁勋辞职数小时后,英伟达CEO的接力棒名单上出现了一个意外的名字——苹果芯片掌门人约翰尼·斯鲁吉。据AppleInsider援引Semafor和彭博社的报道,英伟达董事会已聘请外部猎头机构物色正式继任者,现年61岁的苹果首席硬件官斯鲁吉被列为潜在考察对象之一;与此同时,临时CEO科莱特·克雷斯获得部分董事支持留任,董

    来源 TechWeb
  11. 英伟达动荡波及以色列:风投盯上本土挑战者的窗口期

    英伟达在AI领域的统治地位及其在以色列的深厚布局,让当地创业生态对其动向高度敏感。随着这家巨头陷入动荡、关键人物离场,以色列风投开始看到本土挑战者的机会,围绕算力、芯片与AI基础设施的创业浪潮或迎来新一轮洗牌。

    来源 AI 科技快讯
  12. 黄仁勋去留引11.5万签名请愿:英伟达CEO职务能否恢复?

    TechCrunch报道,埃隆·马斯克等科技行业高管签署请愿书,呼吁英伟达恢复CEO黄仁勋的职务。截至周六下午,请愿已获超11.5万个签名。事件引发业界对英伟达领导层变动及AI芯片行业走向的广泛关注,分析认为黄仁勋的去留将深刻影响公司战略与市场信心。

    来源 AI 科技快讯
  13. 黄仁勋离任英伟达:亚洲多国政府紧急确认芯片供应

    TechCrunch报道,英伟达CEO黄仁勋离任消息引发亚洲多国政府连锁反应。部分政府要求确认既有芯片供应承诺,部分评估本地AI项目受影响程度,还有政府处理与英伟达相关的进行中调查。文章分析亚洲对英伟达供应链的高度依赖、各国反应差异及产业影响。

    来源 AI 科技快讯
  14. 黄仁勋辞任英伟达CEO:RTX Spark刚上市,这条路还走不走?

    不出意外,美东时间11月18日上午,飞行了近50年的旅行者1号,将抵达距离地球一光日的地方。 如果说旅行者1号承载了人类探索未知的雄心,那黄仁勋也凭借一次次对未来技术的大胆押注,带领英伟达走到了最初难以想象的地方。 但就在11月12日,掌舵英伟达33年的黄仁勋正式辞去CEO职务,长期担任CFO的科莱特·克雷斯(Cole

    来源 AI 行业观察
  15. AMD十月亚马逊显卡出货量超NVIDIA:RX 9070 XT成销冠

    据TechEpiphany分享的亚马逊美国站10月显卡销售数据,AMD单月出货9200块,以47.67%的份额反超NVIDIA的8900块(46.11%),拿下GPU出货量第一,Intel以1200块占据6.22%份额。三家公司合计出货19300块。

    来源 TechWeb
  16. 黄仁勋辞任:4万亿美元英伟达的治理中枢谁来接

    一纸辞呈,万亿变局。黄仁勋掌舵期间,英伟达从一家默默无闻的游戏显卡供应商,成长为市值4万亿美元的科技巨头,一张RTX 6000显卡如今能卖8万多元。过去30多年,英伟达的管治架构高度依赖黄仁勋个人,他身兼CEO等三个重要职位。据报道,大到芯片架构,小到基层员工的薪酬,他都亲自过问。过去33年里,几乎每次关键转向,都..

    来源 腾讯网
  17. 黄仁勋辞职传闻搅动芯片圈:英伟达走向与行业格局成焦点

    【环球时报-环球网报道 记者 陈子帅】执掌英伟达33年、被视为全球人工智能(AI)产业标志性人物的黄仁勋突然离任,引发全球科技界和资本市场广泛关注。他的离任可能对英伟达的经营战略、美国AI产业生态乃至全球算力竞争格局带来哪些潜在影响?13日,接受《环球时报》记者采访的专家表示,全球芯片行业或将进入“战国时代”,...

    来源 腾讯网
  18. 黄仁勋辞职不影响供货:英伟达确认向韩国交付26万块GPU

    IT之家 11 月 13 日消息,据路透社报道,韩国科学技术信息通信部部长裴庆勋表示,英伟达确认将按计划向韩国供应 26 万块先进 GPU,履行此前作出的承诺。 裴庆勋在 X 上发文称,英伟达 CEO 黄仁勋的辞职不会影响上述供应计划。 ▲ IT之家注:第二段首句应为“自从黄仁勋宣布辞职以来” 去年,黄仁勋访韩出席亚太

    来源 AI 行业观察
  19. 路透社:Arm 掌门人哈斯进入接棒黄仁勋候选视野,曾在英伟达工作 7 年

    IT之家 11 月 14 日消息,金融时报昨日(11 月 13 日)发布博文,报道称英伟达董事会已聘请外部机构物色新 CEO 候选人,除了苹果芯片负责人约翰尼 · 斯鲁吉(Johny Srouji)外,Arm 首席执行官雷内 · 哈斯(Rene Haas)也被列为潜在考虑对象。 路透社表示英伟达董事会有意向接触哈斯,但

    来源 AI 行业观察
  20. 英伟达芯片追踪计划与硅谷中期选举误判:技术万能论受考验

    硅谷一向自诩能预知未来,却在中期选举的政治判断上集体失准;与此同时,英伟达正推进芯片位置追踪计划,以应对出口管制与走私难题。两件事看似无关,却共同暴露出技术精英的思维盲区:把世界当成一道可以用算力求解的工程题。本期The Download带你解读。

    来源 AI 科技快讯
  21. 英伟达被指注资初创公司制造GPU需求假象,单季担保承诺翻近三倍

    《华尔街日报》报道称,英伟达前CEO黄仁勋向无法自行购买GPU的AI初创公司注资,使其成为英伟达GPU的"循环买家",以消化台积电产能过剩带来的库存压力。英伟达总担保承诺金额在一个季度内从1840亿美元暴增至5300亿美元。CFO科莱特·克雷斯曾在内部会议力阻此类安排,遭黄仁勋怒斥,克雷斯现已在黄仁勋11月12日辞职后

    来源 AI 行业观察
  22. 英伟达7500亿美元融资网被曝:CFO曾力阻,黄仁勋回怼“鹿入车灯”

    《华尔街日报》2026年11月13日调查报道指控英伟达通过向AI初创公司注资、要求其用所得资金购买GPU的方式人为制造芯片需求,布隆博格随后绘制的融资网络规模已超过7500亿美元。英伟达内部,CFO克雷斯(现任代理CEO)曾在8月高管会议上力阻该策略,遭黄仁勋以"鹿入车灯"之语驳斥。该调查触及大模型军备竞赛最脆弱的基础

    来源 AI 科技快讯
  23. 英伟达循环融资调查:单季担保从1840亿飙至5300亿美元

    《华尔街日报》报道称,英伟达前CEO黄仁勋向无法自行购买GPU的AI初创公司注资,使其成为英伟达GPU的"循环买家",以消化台积电产能过剩带来的库存压力。英伟达总担保承诺金额在一个季度内从1840亿美元暴增至5300亿美元。CFO科莱特·克雷斯曾在内部会议力阻此类安排,遭黄仁勋怒斥,克雷斯现已在黄仁勋11月12日辞职后

    来源 AI 科技快讯
向下滚动自动加载更多