AMD Zen 6发布:Agentic AI时代CPU为何重回中心
在最初那些年, AI 数据中心的建设几乎围绕 GPU 展开。从大模型训练到推理, GPU 成为整个基础设施中最受关注的计算芯片,而 CPU 更多承担数据准备、任务调度和系统管理等工作。在这种分工之下,服务器 CPU 一度显得不那么重要。 但随着AI从大模型训练、推理逐步走向Agentic AI,情况正在发生变化。一个A
早年间,AI数据中心建设基本是围着GPU转的。大模型训练也好,推理也罢,GPU都是整套基础设施里最受关注的计算芯片;CPU更多负责数据准备、任务调度和系统管理。在这种分工下,服务器CPU一度显得没那么要紧。
可当AI从大模型训练、推理一步步转向
Agentic AI,局面就变了。一个Agent不再只是接问题、出答案,它得不停查数据库、调API、检索上下文、执行代码、使用外部工具,还要在不同任务之间做协调。这些活儿大量并不直接发生在GPU上,却离不开CPU持续参与。
AMD的判断是,数据中心的计算需求会因此被重新改写。
日前在美国拉斯维加斯举办的AMD In Depth活动上,AMD把Agentic AI看作服务器CPU市场下一轮增长的重要驱动力,并预计数据中心CPU市场未来复合年增长率将超过50%,到2030年市场规模有望达到约2200亿美元。AMD引用的数据预测还显示,到2030年,投入生产环境的活跃Agent数量将达到25亿个,较当前增长近80倍。

AMD展示的计算架构变化很直观:聊天机器人为主的阶段,CPU与GPU的配置比例大约为1:4;到了Agentic AI阶段,这一比例可能向1:1靠近,并且还有继续增长的空间。换句话说,AI数据中心不光要更多GPU,也要更多CPU来支撑Agent运行。

面对这种转变,AMD选择打造全新CPU来迎接这个即将巨变的时代。本次披露的Zen 6架构以及第六代EPYC处理器Venice,正是围绕这一变化展开的产品布局。
AMD Zen 6,两个版本
AMD在前文提到,Agentic AI涵盖的计算任务并不单一,各个环节产生的计算需求各不相同。这类负载既有吃CPU的部分,也会牵扯内存、I/O、安全以及加速计算。正因如此,AMD才会一再强调CPU在Agentic AI基础设施里扮演的角色:模型推理与加速计算交给GPU,可Agent要把任务真正做完,调度、运行环境管理、数据访问和工具调用都得由CPU承担。Agent数量越多,CPU这边要处理的并发任务自然也跟着涨。
于是,针对不同的需求,AMD此次带来了Zen 6和Zen 6c两种核心设计。
按照AMD的介绍,上述两种核心设计要解决的是覆盖不同计算需求的问题,并非在核心数与频率之间做简单的二选一。Agent Sandbox追求尽可能多的核心和线程,为的是同时跑起更多Agent;GPU Host节点更在意高频和低延迟,CPU得及时把数据送到GPU手上,别让价格不菲的加速器干等着数据而闲置。

基于上述见解,AMD将Zen 6定位为主要面向对单核性能、频率和响应延迟更加敏感的工作负载的架构。在介绍中,AMD将其定位为“Optimized for lowest latency”。与上一代Zen 5相比,Zen 6的CCX核心数量从8个增加到12个,单个CCD最多集成12个核心,L3缓存总量从32MB增加到48MB,仍保持每核心4MB L3缓存。频率方面,AMD给出的最高频率从Zen 5的5.0GHz提升至5.3GHz。与此同时,Zen 6还带来了较大幅度的IPC提升,以及电源效率和SMT效率方面的改进。
得益于这个设计,AMD Zen 6更适合对高频率和低延迟有较高要求的场景,例如GPU Host节点。CPU需要及时完成任务调度和数据准备,并向GPU提供数据,避免GPU因等待CPU而出现计算资源闲置。

至于Zen 6C,则主要是面向云计算和大规模并行计算场景,AMD将其定位为“Optimized for maximum socket performance”。如图所示,相比上一代Zen 5C,Zen 6C将单个CCX的核心数量从16个提升至32个,核心数量翻倍;L3缓存总量则从32MB增加到128MB,达到上一代的4倍。按照AMD披露的数据,Zen 6C每核心拥有4MB L3缓存,而Zen 5C为2MB。频率方面,Zen 6C最高频率从Zen 5C的3.7GHz提升至4.1GHz。AMD还强调了大核心IPC性能提升,以及电源效率和SMT效率的改进。
AMD称,Zen 6C的长处是在一颗处理器里塞进更多核心,单路服务器的并行处理能力因此得到提升。放到Agent Sandbox、云计算和大规模并发任务上看,一台服务器能扛的工作负载更多了,服务器数量和对应的部署成本也就降了下来。

在分享中,AMD展示了Zen 6C架构相较Zen 5的IPC性能提升。如下图,AMD采用固定频率测试,以16个核心为基准,对比Zen 5采用两个CCD承载16核、Zen 6C采用单个CCD承载16核的情况。在企业级和云服务器工作负载中,Zen 6C的几何平均IPC提升约20%。在AI工作负载中,同样采用固定频率、16核的对比方式,Zen 6C相较Zen 5的几何平均IPC提升约31%。
把AI和服务器工作负载合在一起算,AMD给出的Zen 6C几何平均IPC提升约为27%。这组数字反映出AMD对Zen 6C的一项关键定位:核心密度上去了,单核性能并没有被牺牲,各类服务器工作负载的IPC都有明显提升。

全新EPYC,开启新时代
伴随着Zen 6的亮相,AMD也深度揭秘使用台积电2nm工艺打造的第六代EPYC处理器(代号:Venice)。
设计上,Venice沿用Chiplet思路,不过整个SoC最多可容纳8个计算芯粒(CCD)加2个I/O芯粒(IOD)。CCD管计算,IOD承担Fabric、内存控制器、PHY、I/O控制和安全等功能。相较上一代平台,AMD重新调整了芯粒间的连接方式与I/O布局,为的是跟上核心数增加后对数据传输、内存带宽和外部连接能力的要求。

先看CCD。据介绍,这代CCD由台积电2nm工艺打造。前面提到,AMD在这代产品上完成了自Zen 3以来的首次升级:标准Zen 6 CCD现在最多可扩展到12个核心,Zen 6c则达到32个核心。作为对照,Zen 5和Zen 5c的CCD核心数上限分别是8个和16个。另外,AMD把Zen 6c CCD每个核心的共享L3缓存容量翻了一倍,核心数也翻了一倍,算下来L3缓存总量比Zen 5c多了四倍。
I/O Die用的是6nm工艺。Venice上AMD改走双IOD分离式设计,每个IOD集成8个DDR5内存通道,两个IOD加起来就是16个通道,支持最高12.8GT/s的MRDIMM,单路处理器理论内存带宽最高1.6TB/s。
每个IOD还带48条64G SerDes和8条16G SerDes,两个IOD合计96条64G SerDes和16条16G SerDes。AMD表示,双IOD布局主要是为了应对更多的内存通道、更大的带宽以及更复杂的I/O需求,顺带改善QoS和数据流量分配。

芯粒互连也是Venice这次升级的重点。AMD加强了CCD到IOD的数据通路,提升数据响应和写入密集型流量的处理能力,端口数量也增加了,带宽和数据共享能力随之提高。Venice还用上Elevated Fanout Bridges(EFB)来做Die-to-Die通信。AMD称,这种方式能降低芯粒间数据传输的单位能耗,延迟也进一步下降,给处理器核心腾出更多功率空间。平台同时采用第五代Infinity Fabric,支持更快的Fabric P-state切换,能效表现因此改善。

架构之外,AMD Venice系列还有一个大转变:不再走单一平台策略,而是分成采用不同物理接口的SP7和SP8两大平台,再往下布局9006X(Venice-X)和9006 LP(Verano)两个细分产品系列,对应不同需求。
嵌入式9006系列SP7 CPU最高提供256核、512线程,SKU覆盖64核至256核,以匹配不同应用对性能、功耗和频率的要求。内存方面,该系列配备16个DDR5内存通道,支持最高8000MT/s的RDIMM和最高12800MT/s的MRDIMM。I/O方面最多提供96条PCIe Gen 6通道,单通道速率64GT/s,同时支持CXL 3.1,可连接高速存储、网络设备、加速器及内存扩展设备。
AMD公布的数据显示,对比上一代EPYC嵌入式9005系列,9006系列整体吞吐量最高提升1.8倍,I/O带宽最高提升1.5倍,内存带宽最高提升2.7倍。应用上,AMD重点瞄准半导体自动测试设备(ATE)、企业存储和网络防火墙。半导体测试领域,处理器可承担测试系统的控制与编排任务,让更多测试并行跑起来;网络安全领域,可用于400G/800G防火墙的控制平面,相关吞吐量最高提升1.3倍;企业存储领域,能加速NVMe设备管理以及压缩、缓存和RAID等数据处理任务,ISA-L相关测试性能最高提升1.5倍。
嵌入式设备通常要长期部署,AMD为EPYC嵌入式9006系列给出七年产品供货周期,固件更新和软件支持也会持续提供。安全方面,该系列集成AMD信任根(ART)、AMD安全处理器(ASP)和Caliptra等机制,覆盖安全启动、运行时保护和设备身份验证,还支持用于固件签名的后量子密码技术。
[标题] 全面出击,披露新路线图
两天的分享里,AMD披露的芯片信息远不止上面这些。公司还在系统和软件方面做了全方位布局,以更好地服务客户。比如在AMD看来,Agentic AI基础设施没有一种适用于所有客户的标准机架方案,部署规模、现有数据中心条件以及工作负载特点不同,客户对CPU、GPU配置和散热方式的需求就不同。为此,AMD通过Helion提供了三种Agentic Rack配置,分别面向超大规模数据中心和企业级市场。
第一种面向大型云服务商和超大规模数据中心,CPU与GPU分离部署,其中CPU机架采用直接液冷设计,以提高机架功率密度和计算部署密度。第二种面向希望利用现有基础设施扩展Agentic AI能力的企业客户,采用独立的CPU机架和风冷设计,部署密度不及液冷方案,但更容易融入现有风冷数据中心环境。第三种是All-in-One方案,CPU和GPU集成在同一机架内,同样采用风冷设计,适合希望在本地部署AI推理、同时需要CPU与GPU紧密协同的企业客户。

这三种方案反映出AMD对Agentic AI基础设施的理解:AI Agent工作负载不断增加,数据中心需要的不只是更多GPU,也需要大量CPU承担任务调度、工具调用、沙箱执行和工作流管理等工作。但不同客户的部署条件并不相同,所以AMD没有把Helion限定为一种固定的机架设计,而是提供可根据客户需求调整的开放式参考架构。
软件层面的投入,AMD同样没落下。就在这次大会上,他们围绕AI时代DRAM的供应与成本压力,讲了AMD怎么借助收购MEXT得来的软件技术,帮终端客户解决实际问题。
按照AMD的介绍,这套方案的关键是用软件把Flash纳入内存管理体系:访问频率低的"冷数据"被迁到Flash里,DRAM则留给活跃数据,对高成本DRAM的依赖由此减少。Flash访问速度偏慢、可能拖累应用性能,这个问题靠AI引擎来解决——分析内存访问模式、预测数据需求,把马上要用的数据提前从Flash调回DRAM。

AMD透露,MEXT的解决方案能按不同工作负载把DRAM用量减少20%至75%,有效内存容量最高扩展到原来的3倍,延迟影响低于4%。Flash成本最高可比DRAM低约30倍,数据中心的 memory 配置成本有望因此明显下降。
AMD进一步指出,在145台服务器的初期部署中,用MEXT做内存扩容,比全部用DRAM的方案预计省下约83%的成本,避免约490万美元的DRAM支出。换句话说,AI服务器扩容多了一条新路子:不必只靠堆DRAM来满足容量需求,让DRAM与Flash通过软件调度协同工作就行。

从2018年第一代产品推出至今,AMD在EPYC上的影响力一路走强。Mercury Research八月份发布的报告显示,第二季度AMD在服务器处理器市场的占比为34.5%,一年前这个数字是27.3%。
成绩亮眼,AMD的脚步却没慢下来。下面的路线图里,可以看到他们在Agent CPU新时代继续往前走的决心。多年积累摆在那里,AMD做到这一点并非没有可能。
