高通HBC内存架构完成初步验证:两层样品每瓦带宽超HBM4五倍
高通通过近存计算缩短数据传输距离,提升内存带宽与能效。 高通今日宣布,其高带宽计算(High Bandwidth Compute,HBC)内存架构已完成初步验证。这项技术将成为高通下一代D....
高通拿出的办法是近存计算,把数据传输的距离压短,内存带宽和能效随之提升。该公司今日宣布,其高带宽计算(High Bandwidth Compute,HBC)内存架构已经通过初步验证,后续将用在下一代Dragonfly数据中心AI加速器上。设计上的关键一步,是由高通和制造合作伙伴把多层DRAM堆叠到一颗小型计算芯片上方,让内存贴近真正读写数据的计算单元,借硬件距离的缩短换取能效和成本上的好处。
这次验证过关,意味着HBC离商用又近了一段。相关产品预计明年开始送样。高通已确认该技术能正常跑起来,能效和内存带宽的表现也大体符合预期。下一步是把它推向量产,同时继续向客户和投资者交代Dragonfly AI250加速器以及后续产品的研发进度。
高通HBC:靠近存计算少搬数据
这项技术最早出现在高通2026年投资者日上。它由高通主导开发,思路是引入近存计算,在内存容量、性能和制造成本三者之间找到更好的平衡点,让三项指标同时得到改善。
从原理上说,HBC是在HBM和其他堆叠式内存技术的基础上再往前改一步。传统HBM把多层DRAM芯片叠在一颗基底芯片上,再经超宽内存总线连到主处理器。HBC想把这个结构再简化:直接把一颗小型计算芯片放在DRAM堆栈底部。
高通HBC加速器架构示意图
内存叠在计算芯片上方,好处不止一处,最直观的是能效。数据搬运本身要耗电,搬的量越大、跑的距离越远,电费越高。HBC把内存直接放到计算芯片上方,传输距离进一步缩短,HBM与计算芯片之间那段本来就不长的连线也能省掉,更不用说传统外置LPDDR5X要走的那条路径。省下来的电可以还给芯片去换性能,也可以在同样的功耗预算下多塞几颗芯片一起干活。
底部那颗计算芯片并不是一颗完整处理器。高通的做法是,把对内存带宽最饥渴的计算任务放到这颗芯片上跑,算完再把结果交给处理器中央的主计算芯片,让内存和计算硬件之间的距离尽量短。
高通HBC与HBM架构对比图
能效之外,高通还想借HBC把制造成本压下来。HBM走的是超宽内存总线,得靠CoWoS或EMIB这类先进封装,把HBM堆栈与计算芯片、内存控制器连在一起。HBC把大部分计算任务挪到底部计算芯片之后,这颗芯片与封装中其他位置的主处理器芯片之间只需较低的连接带宽。于是这段连接可以用便宜些的技术,比如传统的二维有机基板。
高通HBC与HBM详细架构对比图
但HBC并没有把制造上的麻烦全部抹掉。和HBM一样,它仍要用硅通孔(TSV)等技术,把多层DRAM芯片(高通用的是晶圆)键合到另一颗芯片上,这本身就是道难度不低的工序。复杂的工艺还在,只是HBC把原本同时牵涉内存堆叠和高速芯片互连的环节,更多压到了内存堆叠这一头。
带宽和容量之间的平衡,也是高通想解决的问题。HBC用的是LPDDR5X DRAM芯片,不是HBM那种薄型高性能DRAM芯片。最终产品的具体性能参数,高通还没有公布,但单个HBC内存堆栈的容量预计有望超过当前HBM4产品能做到的水平。
高通HBC、HBM与SRAM架构对比图
高通的核心判断是:比起HBM、片上SRAM和封装外LPDDR这些内存架构,HBC给出的整体方案更均衡。和它们各自相比,HBC当然也有短有长。但按高通的说法,HBC的内存带宽远高于外置LPDDR、接近HBM,同时不受片上SRAM的容量限制,后两种方案里偏高的制造成本也能降下来。
高通的最终目标,是用HBC做出更适合AI推理的芯片:推理任务要的带宽和容量都够用,现有内存技术带来的束缚则尽量少。
HBC验证:两层堆叠样品每瓦带宽是HBM4的五倍以上
具体到这次验证,高通把一套早期HBC样品堆栈接到测试设备上,在圣迭戈的实验室里跑完了初步测试。
高通HBC自动化测试设备
测试设备看上去平平无奇,可设备里连着的芯片,对高通数据中心业务的规划分量不轻。
要说明的是,参与测试的HBC早期样品只有两层DRAM芯片,正式出货的产品会用四层DRAM。也就是说,完整堆叠规模下的测试,高通还没做完。
高通HBC验证方法示意图
验证方法上,高通让自动化测试设备测量HBC测试堆栈,分别按LPDDR5X设备和HBC设备两种身份来测,以此对比两套方案的表现。
高通HBC测试结果公布
HBC在实测硅片上跑通了预期功能,这是高通给出的第一项结论。性能层面,按高通自己的规格数据,HBC的能效为HBM4的5倍以上,衡量口径是每瓦带宽,也就是单位功耗能换回多少内存带宽。带宽绝对值高通没有公开,只把此次测得的有效内存带宽归到外置LPDDR5X方案的18倍以上。能效这块其实没达到高通早先的设想——原定目标是HBM的6倍,实测落在5倍以上。不过这一水平若能延续到完整产品,能效改善依然相当可观。
热特性也在此次验证范围内,高通做了测试,具体数据没有多说。目前这家公司在这一环节披露的信息还很少。散热恰恰是HBC绕不开的难点:堆叠式内存架构把计算芯片放在底部基底位置,这颗芯片承担的计算任务更多,发热量预计也会跟着上去,整个堆叠结构的温度怎么压住,是后续产品开发绕不过去的一环。
结语
初步验证完成后,高通正把HBC往商业化推进,首款搭载该技术的产品是Dragonfly AI250加速器。AI250是Dragonfly AI200的后续型号,AI200预计今年推出;AI250则会成为首款集成HBC的产品,这项技术也将构成高通后续AI加速器的重要部分。AI250的具体上市日期还没公布,按高通的说法,预计明年上半年开始送样。这个时间点或许说明高通的产品节奏有所提前。
HBC若后续推进顺利,应用范围不会只停在Dragonfly AI加速器上。高通此前表态,未来还打算把HBC引入面向消费市场的Snapdragon骁龙产品,具体型号和推出时间暂未公布。
高通HBC技术布局
说到底,HBC要帮高通拿到的是更高的能效和更低的总体拥有成本(TCO)。技术顺利落地的话,高通预计能推出能效更高、制造成本更低的AI推理加速器。对大规模AI推理业务来说,这意味着芯片在购置和运营两头的开销,都有望比现在的GPU方案更有竞争力。随着Dragonfly AI250送样工作逐步铺开,HBC的真实表现会在接下来一段时间里接受检验。
*声明:本文系原作者创作。文章内容系其个人观点,我方转载仅为分享与讨论,不代表我方赞成或认同,如有异议,请联系后台。