HBM需求逻辑生变:Agentic AI兴起,内存配置成扩服务器关键
AI存储市场经历一轮调整之后,HBM依然是值得关注的方向。过去几年,市场对HBM需求的判断,主要建立在AI GPU出货量增长的基础上。英伟达不断推出新一代GPU,HBM容量和带宽持续升级,直接拉动了....
AI存储市场此前经历了一轮调整,不过HBM仍是业内紧盯的方向。过去判断HBM需求,业内主要盯AI GPU出货量的增长。英伟达一代接一代推出新GPU,HBM的容量和带宽跟着往上走,SK海力士、三星、美光的订单因此被直接拉动。可AI应用正从模型训练转向大规模推理,Agentic AI又开始兴起,HBM以及整个服务器内存市场的需求逻辑就在变。
近日,Silicon Atlas发布了一篇题为《After the Selloff, I Still Favor HBM》的分析文章。作者认为,2027年之前,内存需求仍有望保持增长,其中最被看好的存储产品是HBM,其次是大容量服务器DDR5。文章提出,未来内存需求增长将由两个因素共同推动:一是数据中心服务器数量增加,二是每台服务器搭载的内存容量继续提升。两者叠加,可能让内存市场获得比单纯计算芯片出货增长更强的需求支撑。
Agentic AI正在创造新的内存需求
在作者对Agentic AI拉动内存需求的分析上,这篇文章着墨最值得一读。Agent跟传统一问一答式的AI不一样:它要持续执行任务,还得在多次调用之间留住代码、工具、数据和任务状态。一个Agent可能反复调用不同工具、执行代码、等外部任务返回,然后在后续步骤里接着用之前攒下的信息。也就是说,哪怕CPU没有一直在算,相关的运行环境和内存状态也可能得继续保留。
文中引了Vercel的一个真实计费案例:一个持续30分钟的构建与测试任务里,假设CPU利用率只有10%,内存资源费用为0.0848美元,CPU费用仅0.0256美元,前者约是后者的3.3倍。这个例子说明,在Agent和自动化工作流中,计算资源未必是消耗的大头,长时间保留的运行状态一样要花钱。
作者还搭了一个服务器资源模型:假设每秒有10个任务进入系统,每个任务持续60秒、占用4GB常驻内存,而实际只需12个CPU核心秒的计算时间。按这个模型,系统同时存在600个运行环境,要保留2400GB内存状态,实际繁忙的CPU核心却只有120个。若每台服务器配置192个CPU核心和768GB内存,在设定的资源利用率上限下,CPU计算任务一台服务器就能承载,内存状态却要四台服务器才装得下。
这表示运营商或许得增加服务器数量,或者在现有CPU资源之外多配内存。服务器采购不再完全由CPU计算需求说了算,内存容量本身也可能成为扩容服务器的理由。当然,这个模型只是作者用来说明资源配置关系的示例,并非行业的实际平均配置。
除了Agent带来的内存需求,文章还引用了美光和
两条信息放到一起看,除了服务器出货量增长,单台服务器内部的存储配置变化同样值得盯。传统服务器配内存主要看CPU计算能力,Agent工作负载多起来之后,服务器要为更多并发运行环境保留状态数据,内存容量的分量也就跟着上去了。
所以判断未来的内存需求,不能只盯服务器出货量,单台服务器的内存配置也得算进去。哪怕软件优化压低了单个AI任务的内存消耗,只要服务器数量和单机内存配置涨得够快,整个市场的内存需求仍可能继续扩大。
HBM需求不只是容量增长,更是带宽升级
如果说Agentic AI带来的是整个服务器内存市场的新增需求,那么HBM的增长还需要从AI加速器本身的配置变化来看。
英伟达Blackwell Ultra与Rubin的内存配置被拿来做了对照。按英伟达公开的产品参数,两代平台的相关配置都是288GB HBM,可峰值内存带宽从Blackwell Ultra的8TB/s升到了Rubin的22TB/s,涨了2.75倍。
这组对比说明一件事:下一代AI加速器想提性能,未必非得同步把HBM容量往上加。容量不动,带宽大幅拉高,同样能明显增强芯片的数据供给能力。所以看HBM市场需求,光盯每颗GPU装了多少GB不够,还得看每颗芯片要多少带宽,以及这背后占用的HBM堆叠、接口和制造资源。
英伟达早前公布的长期路线图还显示,Rubin Ultra打算在2027年下半年用上1TB HBM4E配置,由四颗大型GPU组成封装系统。这一规划若按目标推进,未来高端AI加速器就不只要更高的HBM带宽,单个封装的HBM容量也可能继续往上走。
英伟达之外,定制AI芯片也在加码HBM配置。微软公布的Maia 300芯片配的是288GB HBM4,比上一代Maia 200多出33%,微软计划2027年推动其生产部署。文章还依据微软公布的机架功耗和HBM配置做了测算:若1GW数据中心容量全部配置这类系统,对应HBM总量约165PB。作者认为,这个规模已经够得上纳入未来HBM采购需求的考量。
也就是说,HBM需求不再只由英伟达GPU决定。微软这类大型云服务商正在推自研AI芯片,其他定制ASIC也在往数据中心里进。计算平台架构各不相同,对高带宽内存的需求却都摆在那里。自研芯片规模一扩大,HBM供应商能面对的客户和应用场景也有望继续增多。
需求在涨,供给端也不能不看。HBM的制造比传统DRAM复杂,要多层DRAM堆叠、TSV、先进封装,产品验证也很严格。所以HBM产能没法简单按晶圆投入量来换算。
文章着重指出,HBM产能增长得把晶圆投入和生产效率放在一起算。作者在分析里设了个假设:HBM在晶圆产能中的分配比例从22%提高到30%,其他条件不变的话,传统内存产品的晶圆投入就会受挤压。按其测算,分配比例出现上述变化时,传统DRAM比特产出的盈亏平衡点约为11.4%的生产效率提升。
有分析者给出一个前提设定:晶圆投片量多出8%,生产效率提高10%,算下来传统内存的比特产出还能增长约6.6%。照此看,HBM扩产并不等于其他DRAM产品的供应就一定减少;但反过来,也不能认定多投的晶圆都能变成可出售的内存比特。真正决定实际供给的,还是最终良率、产品认证、封装能力以及有效出货量这几项。
2027年之前,HBM仍是更值得关注的方向
把需求和供给两头合起来看,Silicon Atlas的判断是:2027年之前内存订单仍有望持续增长,HBM排在最前,其次是大容量服务器DDR5。作者认为,Agentic AI带来的服务器数量增长和单机内存容量提升,有望抵消一部分软件优化造成的内存需求下降。存储市场经历调整之后,其依然更看好HBM,原因也在这里。
文章也提醒,内存需求不只取决于AI应用增长,压缩技术同样可能改变未来的采购规模。比如文中提到,AgentZip在两个工作负载中分别实现了64.29%和88.55%的数据压缩率。这类技术若能在实际生产环境里有效降低内存占用,部分服务器的内存采购需求就可能减少。但压缩率不等于实际采购节省,还得看处理延迟、CPU开销和整台服务器的内存使用情况。内存需求增长与效率优化之间,未来仍存在一定博弈。
放到产业层面看,AI存储市场正显出一个不容忽视的转变:内存需求往上走,已不单是训练模型、部署GPU直接拉动的结果。Agentic AI要求服务器保存更多运行状态,单机内存配置随之抬高;新一批AI加速器又沿着HBM4、HBM4E等技术路线,把带宽和容量继续往上推。两条需求线索交叠,HBM的长期增长逻辑因此变得更加立体。
对存储厂商来说,接下来的竞争不单是抢GPU客户,还要去拿云厂商自研ASIC、Agent服务器和新一代AI基础设施的订单。HBM这门需求生意,眼下正从GPU时代扩展到整个AI数据中心时代。