太初元碁乔梁：芯片竞争转向有效吞吐，推理需求爆发

11月12日，第二十三届中国国际半导体博览会（IC China 2026）在北京国家会议中心开幕，主办方为中国电子信息产业发展研究院和中国半导体行业协会，第八届IC企业家大会同期举行。太初（杭州）集成电路有限公司（以下简称“太初元碁”）联合创始人、首席运营官乔梁在企业家大会上作了主旨演讲。他的判断是：智能体的发展会推高推理侧算力需求，芯片竞争的重点正从单卡性能转向有效吞吐。

推理侧需求增加，半导体产业迎来新机遇

模型规模这些年扩张得很快，多个万亿参数级别的大模型相继出现，头部厂商开始押注10T超大规模，训练算力规模、高质量数据投入与资本投入的门槛也随之抬高。另一边，AI应用落地提速，乔梁表示推理侧算力需求进入爆发期，训练与推理算力的比例已从80:20变成30:70。

在乔梁看来，推动这一趋势的有三股力量。其一是AI和大厂业务结合得越来越深，一部分功能被迁到AI服务器上运行，Google的月均Token消耗量就有960万亿。其二是Agent开始搭配深度推理，消耗量比Chatbox对话模式高出一大截。乔梁说，Agent能多模型协同、拆解任务、调用工具，一道指令就能带出数千次推理调用，一次交互的算力开销比Chatbot涨了约100万倍。其三是多模态加快落地，最近影视等领域推理算力需求猛增，就是最直接的例子。

乔梁表示，行业正迈入“后算力时代”。过去算力的使用者主要是头部玩家，基本集中在互联网大厂或大模型公司；现在生产制造、消费服务等各行各业对算力的需求都在扩大，影视、科学计算等场景已经出现差异化的芯片产品。他说：“中国各个产业拥抱AI（的速度）相对于国际更为迅速，这对国产芯片公司以及中国半导体行业而言是很好的发展机会。”

应用需求变了，芯片的竞争标准也在变，有效吞吐成了重要标准。乔梁指出，过去大家关注的是单卡的性能，现在关注的是在业务侧性价比高不高、输出的Token单价做到多低，业务推理速度、吞吐效率能否达到需求。这意味着芯片公司既要拿到应用侧的价值认可，也要在生产制造环节找降本空间，让业务产出价值覆盖算力投入。

超节点成趋势，太初探索异构众核解决方案

算力需求的变化也在推动基础设施演进。乔梁关注到，后算力时代多家厂商聚焦超节点产品，他认为“未来这一定是整个行业关注的重点”。从芯片内部制程到外部互联技术，乔梁表示，各厂商的探索归根结底都是为了解决算力时代的三大核心命题：如何高效发挥集群性能、提高并行效率、降低并行成本。

太初元碁拿出的办法是异构众核芯片架构，把CPU和GPU的能力并到一颗芯片里，靠高速互联和带宽让数据在芯片内部跑得顺畅。乔梁说，Agent时代的较量不是单纯拼“GPU更快”，而是让CPU、GPU、内存和数据通路在系统层面配合起来，把传统分离架构的老问题解决得更好。另外，围绕下一代芯片，太初元碁还布了超节点产品，用一层网络互联做到百卡以上的高速互联。

落到应用层，HPC和AI的结合是乔梁格外看好的方向。他说，太初已经在AI for Science、量子力学、气象预测、化学材料等场景搭起比较完整的软件栈方案。面对中小企业和边缘侧终端的算力需求，乔梁觉得一体机加分布式集装箱的方案很有空间；分布式集装箱能压低建设成本、缩短建设周期，业务场景的算力需求能顾上，数据安全也有保障。

面对庞大的中国市场，乔梁希望芯片设计企业、硬件制造厂商与行业服务商积极交流、加强合作，共同完善产业链生态。