英特尔宋继强谈智能体芯片:Token需求千倍增长,互联要更宽
11月12日,由中国电子信息产业发展研究院、中国半导体行业协会共同主办的第二十三届中国国际半导体博览会(IC China 2026)在北京国家会议中心开幕,同期举办第八届IC企业家大会(以下简称“企业家大会”)。 英特尔中国研究院院长宋继强在企业家大会上发表主旨演讲时表示,智能体时代的芯片需要更好的晶体管、更大的芯片、
11月12日,第二十三届中国国际半导体博览会(IC China 2026)在北京国家会议中心开幕。这场展会由中国电子信息产业发展研究院和中国半导体行业协会共同主办,第八届IC企业家大会同期召开。英特尔中国研究院院长宋继强在企业家大会作主旨演讲时提出,面向智能体时代,芯片需要更好的晶体管、更大的芯片和更宽的互联。
算力需求因智能体而变
宋继强在演讲中直言:“我们进入了AI智能体时代。”
他认为,AI的使用方式会随智能体时代到来发生四重变化。
第一重变化是AI使用量爆发式增长。过去人们用聊天机器人做单次问答,如今用智能体写代码、生成文档、生成图片等习惯已逐渐普及。相应地,智能体带来的Token需求达到单次问答的百倍乃至千倍。这种量级跃迁源于智能体的执行方式:每次执行任务都是一个循环,通常包含Reflect(响应)、Think(思考)、Act(执行)、Plan(规划)四个环节。先拆解用户意图,结合个性化上下文生成提示词,再由大模型推理出该调用哪些工具、如何执行规划,随后分步搜索网页、运行代码或调用工具,最后判断任务是否完成,没完成就再来一轮。“这个循环过程中的每一个步骤都在消耗计算资源。”宋继强说。
第二重变化在于实时交互型推理变得非常关键。这里的交互指的不是人与模型之间,而是机器与机器之间。人与模型交互时,几秒钟的延迟可以接受;智能体调用的算力却跨设备、跨网络甚至跨城市,每调用一次资源,任务交付周期就会被拉长。宋继强说:“基于这样的现实需求,我们希望10毫秒以下。这样一来,整个任务交付将给用户省下分钟级甚至小时级的时间。”
第三,对云端服务器或超节点厂商而言,要实现最优经济效益,所有算力资源都应充分运行、不留空闲。CPU、GPU等各架构处理器都要不间断运转,让每个节点在单位时间内输出更多Token,达到
第四,算力基础设施建设要能带来正向经济回报。这对运营者和用户都很重要。
多样化算力怎么支撑?
要为智能体运行提供有力支撑,芯片基础设施层面需满足几个条件:
其一,做更好的其二,做更大的芯片。单靠晶体管微缩提升单颗芯片算力密度已遇阻,用3D集成堆叠把芯片做大成了新路径;其三,做更宽的互联。现在模型规模和计算规模都很大,模型运行要靠几十张乃至上百张卡互联的节点。让这么大的算力集群协同工作,既需要更宽的XPU-XPU计算互连,使单个模型在多卡多节点上算得更快,也需要更大规模的数据中心互联结构,让不同业务在算力基础设施中跑得更顺畅。这些举措指向同一个目标:提高计算性能与计算密度,提升容量与带宽,同时降低能耗以及互联的传输和制造成本。
目前,英特尔正从几个层面推进相关需求:
其一,更好的晶体管层面。
18A是英特尔正在大批量出货的工艺节点。在此基础上,18A-P又实现半个节点的演进:与18A相比,同等功耗下性能提升9%,同等性能下功耗降低18%,能效比更高。18A-P采用全新18A-P已进入风险试产阶段。
基于18A-P,英特尔设计了下一代至强处理器Diamond Rapids,具备256核,核心数比前一代翻倍。芯片里塞进更多核心,呼应着智能体运行的底层逻辑。不少智能体的运行是完整循环,一个智能体可以安排在一个核或单独线程中运行。单颗芯片核数越多,能同时支撑的智能体就越多。智能体的工作有些是顺序计算,有些是推理计算。部分推理计算相对轻量,可以直接在CPU上跑,不必上GPU。
智能体还要应对不少消耗CPU资源的任务,比如数据处理、上下文处理、条件判断。跳转太多或访存次数太多,都会严重拖累任务延时。为此,Diamond Rapids在新指令集中加入APX扩展,把通用寄存器从16个增加到32个。
其二,更大的芯片层面。
若所有运算逻辑和I/O都用先进制程制造,成本偏高,也可能拖累研发效率。反过来,按所需主频、功耗把芯片不同部分放到不同工艺节点上生产,就能复用此前在该节点积累的经验,省去重复验证,芯片生产成本由此大幅下降——这正是Chiplet设计的核心思路。英特尔的实践中,下一代即将发布的至强CPU就用了这套方案:核心运算核采用18A-P,负责高速互连的HUB采用Intel 3。不同工艺生产出的各组件Chiplet,又通过CPU的生产方案。
模型运行模式剧变
智能体干活时,无论思考还是决策,都得占用GPU和加速器。具体怎么占,取决于大模型怎么跑。这两年,模型的运行方式变了不少。搁在两年前,多数模型还是另一种样子;如今100亿参数的模型被拿来推理,真正调动的参数可能连2%都不到。
宋继强看到的情况是:模型参数一路往上走,可单次推理要处理的Token量反而掉得厉害。芯片设计企业因此被压了两件事:内存得够大,模型才装得进去;Token处理要更快,才能把延迟压到最低交给用户。有意思的是,这些规格要求里没有一条是冲着峰值算力去的。
顺着这个思路,英特尔做了D系列GPU,一款服务器和边缘计算都能上的独立显卡。功耗大约350瓦,FP8(8位浮点数)精度下峰值算力约1.3,GPU核有32个,能同时跑不同类型的AI模型,内存480G,大一点的模型也塞得下,带宽比上一代翻了好几倍。