通芯智能半年连融数亿元:朱松纯发起,要做AGI推理芯片
杨立昆、李飞飞都在追问的事,通芯智能想用一颗芯片来回答。
杨立昆、李飞飞追问过的问题,通芯智能打算用一颗芯片给出答案。
允中 发自 凹非寺量子位 | 公众号QbitAI
芯片还没流片,准备跑在上面的AI,可能已经换了好几代。
这正是下一代AI给芯片行业留下的时间差:模型迭代快,一颗芯片从定义走到量产,中间却要耗掉漫长的工程周期。若等到计算需求彻底定型才动手,恐怕已经迟了。
通芯智能选在这个节点进场。
这家公司由人工智能专家朱松纯教授发起,北京通用人工智能研究院孵化,今年4月成立。半年时间里,种子轮和天使轮融资接连完成,合计金额达数亿元,钱主要投向流片前的核心架构设计与研发。
它要做的是面向AGI算法的新型推理芯片:既能兼容眼下主流模型,又会为逻辑推理、因果推理、价值推理这类计算加上专用硬件支持。
背后的问题并不轻松:下一代AI到底需要什么样的计算,现在就能定义吗?
通芯的办法,是让研究通用人工智能的科学家和做过大芯片量产的工程师一起参与设计。他们得从不断变化的算法里,找出那些会被反复调用、值得专门加速的计算,再确定芯片该如何组织。
模型还会接着演进,但哪些能力值得提前做进硬件,通芯已经开始选了。
AI走向真实世界,芯片迎来新命题
AI的边界,正在一次次交互中慢慢伸向真实的物理世界。
今年上半年,离开Meta创办AMI Labs并完成10亿美元融资的LeCun就说过,大语言模型面对物理世界“束手无策”。他给出的解法是世界模型:给定当前状态和一个设想中的动作,预测世界的下一个状态,再拿这个预测去做规划。
上个月,谷歌DeepMind公布世界模型Genie 4,用户能在模拟环境里改变天气、加入人物或物体,模型则实时生成环境随之发生的变化。DeepMind明确把构建机器人与智能体的训练环境列为这一模型的重要应用方向。
△来自Google DeepMind官网这些探索让AI面对的任务变得更具体:既要看懂眼前有什么,还要预判采取行动后会发生什么,并为下一步决策提供依据。智能体怎么进化,同样在影响底层芯片的设计。全球巨头已经盯上了这件事。
今年9月,AMD宣布签署协议,拟以约82亿美元收购李飞飞创办的World Labs。苏姿丰解释这笔交易时强调,要构建下一代AI计算平台,就得深入理解模型如何演进。
这里的关键在于,做芯片的人得比过去更早弄清楚:下一代AI究竟要算什么,效率又会卡在哪儿。世界模型和机器人算法还在演进,硬件设计却必须提前作出选择,模型研究与芯片设计因此走得更近。
李飞飞说得更直白:“如果没有专门的硬件投入,AI的效率和规模都会受到束缚。”她还透露,World Labs与AMD已围绕GPU上的模型训练和推理优化展开技术合作。
苏姿丰在不久前的CoRL上把这一层讲得更透:硬件要优化得好,得花好几年;但对模型要跑哪些计算、技术下一步往哪走,了解得越透彻,硬件、软件和系统三方面的协同优化就越能做出来。
交互响应的需求,也在推动英伟达调整推理系统。针对智能体对低延迟的要求,英伟达把GPU与
Groq的专用加速器搭配,让不同计算环节交给更合适的硬件执行,同时兼顾整体吞吐和交互响应速度。
这些变化指向同一个问题:当AI需要根据环境变化及时判断、采取行动,芯片该怎么支撑它?
现代GPU擅长大规模并行计算,配合专门的矩阵运算单元,这是它在大型语言模型时代称霸的主要原因。
可一个要在真实环境里行动的智能体,还得多干另一摊活:一遍遍查物体之间的关联,随时刷新环境状态,推演每个动作可能引出什么后果。
这些任务如果走图结构、动态分支之类的路子,计算就会变得零散,取数也更没规律。GPU跑得动这类算法,问题是并行资源常常吃不饱,一部分时间耗在找数据、搬数据,还有等上一步结果上。
到这一步,光看芯片每秒能做多少次运算,已经说不清任务到底完成得多快。软件优化、存储怎么组织、计算单元、调度方式,全得放到一起重新想。
大模型时代攒下的算力优势,没法直接换成真实世界里的行动效率。
效率问题底下,还压着一个越做越大的推理市场。CIC灼识预测,到2030年,中国AI推理芯片市场规模将达到约1.17万亿元。
通芯看中的机会,就在新任务和现有计算方式之间那道效率缺口里。云端也好,机器人端侧也好,任务对吞吐、响应速度、功耗的要求各不相同,这就给通芯从任务出发、重新定义计算架构留出了余地。
AI走向真实物理世界,方向已经摆在那儿,落地路线还在变。要判断,就得回到更基本的问题:痛点是不是真的,需求会怎么变,哪些计算值得交给专用硬件,理论能不能指导产品定义,工程团队又能不能把它做出来。
李飞飞和苏姿丰的合作,其实也说明了这一点:想定义下一代AI芯片,光在理论上弄懂智能怎么工作不够,还得有把这份理解落到硬件上的工程能力。
顺着这个思路往下看,才能明白通芯为什么从朱松纯教授的智能理论出发,去设计一颗芯片。

从理解智能出发,重新定义AGI芯片
给一个还没定型的负载设计芯片,最大的麻烦,也许就是没有参照物。
做GPU的时候,起码有图形渲染这个参照物;做AI加速器,也有矩阵乘法可供优化。到了AGI芯片这步,模型该往哪走还没定论,算力需求同样没成形,只盯着眼前的情况,答案给不出来。
需求还在变,硅片上该放什么,必须有一套判断依据。通芯的起点,是朱松纯团队提出的CUV框架。
朱松纯教授是马尔奖、赫尔姆霍兹奖得主,在视觉、认知与机器人的交叉地带做了三十年研究。他的团队今年发表在《Engineering》上的CUV框架,把智能体的三个方面收进一个统一框架:认知架构(C)、能力体系(U)和价值体系(V)。具体来说:
- C是认知架构,负责组织智能体的内部模块以及它们怎么协作,把感知、记忆、推理等环节串起来;
- U是能力体系,涵盖识别物体、规划路径等可以调用的技能;
- V是价值体系,描述目标、偏好与约束,为选择行动提供依据。落到机器人上,可以是完成服务任务,也可以是兼顾安全与他人的需求。
CUV这个框架,把看见什么、能做什么、应该怎么做,全放进同一个决策过程。推动智能成长的,是“想要什么”,不是“喂了多少数据”。
这些问题,朱松纯团队早在2020年就在论文里讨论过。深度学习如日中天那会儿,朱松纯教授和团队就把“小数据、大任务”写成了论文,功能、物理、意图、因果、效用这五样像素里看不见的东西,被他们叫作视觉的“暗物质”。
六年过去,世界模型和空间智能成了显学,行业开始追问AI怎么理解一个动作会带来什么后果。这个问题,朱松纯和团队早就划过重点。
“小数据、大任务”讲的是利用物理规律、常识等先验知识,用较少的训练数据应付更广泛的任务。这些知识,相当于帮机器理解世界的一份说明书。
以给客人倒水为例,按通芯的设计思路,机器人可以把杯子、水源和客人的位置关系组织成解析图,再围绕送水这个目标规划动作,调用取杯、接水、移动等技能,最后把水送到客人手里。
送水路上,客人要是换了位置,就保留还有效的信息,更新受影响的状态和路径,少做重复计算。
芯片在这个过程中要干的活更具体:存下当前状态和目标状态,访问对象之间的关系,执行概率计算,比较不同方案,调度相应技能。这些都得落成可执行的算法,再拆成基础运算,也就是算子。
通芯做的事,是从这些算子里挑出适合加速的部分,再进一步把计算单元、存储和数据通路定义出来。
向量和张量运算,是大语言模型最重要的计算基础,GPU在这一块占主场。可要在真实世界里行动的智能体,得反复回答“这么做会怎样、值不值得做”:在图上推断物体之间的关系,对不确定的情况做概率推断,推演物理后果,再给每个候选动作打分。
因此按通芯的定义,AGI芯片并不是一颗更快的GPU。它在向量、张量之外新增了一层运算类型,多出来的是结构,并非单纯把算力堆上去。
落到具体的芯片方案,通芯规划了Vector、Tensor与AGI Core三类单元。Vector和Tensor承担向量、张量计算,支持CNN、Transformer等主流模型架构;AGI Core面向基于解析图的逻辑、因果、价值推理及概率计算,设计专用加速能力。

通芯AGI Core瞄准的这些计算需求,也陆续出现在业界其他团队的研究路线中。
李飞飞的空间智能关注机器如何理解三维环境,DeepMind的图网络则用实体和关系来组织信息。信息不完整时怎么办?DARPA支持的概率编程尝试结合已有知识,用更少的数据完成推断;Pearl的因果理论进一步追问,改变一个条件会带来什么结果。Silver、Sutton等人在《Reward is Enough》中提出,智能体通过试错追求回报,有可能发展出感知、学习、推理等多种能力。
通芯认为,图结构的存储与处理、概率和因果推断、以及行动结果的评估,这几块都值得单独做加速,AGI Core的计算单元规划也正对应这些环节。朱松纯教授的理论体系提供了一个清楚的起点,通芯想从中提炼出可供更多模型调用的计算能力。
各家对智能的理解也许不同,但芯片作为智能的底座,需要寻找的是其中的最大公约数。
把理论落到硅上,通芯靠什么
有了系统性的理论框架,理解了智能和算法,接下来还得把芯片真正造出来。
通芯创始人兼CEO王海洋,师从中国计算机事业奠基人之一夏培肃院士。他本人是龙芯CPU创始成员,曾担任海光一至四代CPU芯片的架构总负责人,也是一家GPU独角兽企业的联合创始人。25年芯片研发、15年SoC架构设计经验,CPU、GPU、GPGPU三类大芯片从研发到量产的全过程,他都参与过。
△通芯智能创始人兼CEO王海洋另一位创始人史峰师从朱松纯教授,博士毕业于UCLA,负责通芯AGI Core的技术路线与架构定义,同时担任通研院AGI芯片中心主任。
两位创始人都参与过龙芯研发。后来,王海洋在产业里把大芯片一代代做到量产,史峰则把智能算法与芯片设计结合起来,负责将模型和算法需求转化为AGI Core中的计算单元。
他们身后的创始核心团队平均从业超过20年,骨干来自海光、百度、字节、阿里等企业,十余款大芯片从架构定义、前后端设计到流片、量产交付的全流程,整个团队都完整走过。
这些经验,最后变成了几个具体的取舍。
存储排在前面。王海洋是最早提出混合存算一体思路的人之一。通芯不准备做一颗存算一体芯片,而是拿存算一体来对付“内存墙”:任务不同,对访问速度、容量、成本的要求也不同,那就给它们配不同的存储与计算方式,切菜用菜刀,削水果用水果刀,省下来的是数据来回搬运和计算单元空等数据的开销。
面积是另一道关。可重构设计让部分硬件资源能按任务重新组织,通用单元负责兼容,专用单元负责效率。云、边、端需求各异,通芯打算走Chiplet芯粒路线:架构和软件栈是同一套,靠不同配置去满足云端对吞吐量、机器人端侧对功耗与体积的要求。

产品节奏上,通芯没有一步跨到未来。毕竟一颗只为明天设计的芯片,今天没人用得上。
第一款产品定位高性价比推理芯片,面向云端大模型、世界模型和具身智能端侧计算,现有模型可以直接跑,AGI Core同步上车,新增加的计算能力分阶段验证。
AGI芯片和GPU不是二选一的关系。通芯把自身与以GPU为核心的方案看作共生:大语言模型仍然是AGI体系的重要组成部分,也是智能体理解世界的方式之一,兼容和专用两条路一起走。
进度比大多数人预想的要快。成立仅三个月,通芯就完成了架构设计和立项,眼下已进入芯片设计阶段,12月初将开展FPGA原型验证。商业化覆盖云端推理、通用智能体和端侧物理智能三个方向,规模合作意向已初步形成。
另外,通芯还打算与通研院的通用智能体“通通”及相关大模型做适配,并联合北大、清华、中科院计算所和大模型头部产业伙伴共建联合实验室。
王海洋说,对通芯而言架构定义只是起点,后面还有设计、验证、流片和量产。今天定下的计算能力,得在这一轮研发做完之后,还能适配那时的模型与任务。
当AI开始往真实世界走,芯片团队就得比过去更早弄懂算法,把关键计算拆成算子,再将确实值得加速的那部分落到硬件设计里。通芯的探索,观察价值也正在这里。
这条路值不值,最终要看三件事:机器人响应是不是更及时、智能体跑起来是不是更便宜、开发者部署是不是更方便。从理论到算法,从算子到硅片,再到真实任务,通芯选的是把这些环节拢在一起往前推。
下一代AI芯片的较量,其实在硅片造出来之前就已经开场:先得弄清智能怎么运作,再定它需要什么样的计算。
提前入场,对通芯来说只是第一步。接下来,它得拿出一颗真正跑起来的芯片,证明今天对智能的判断能变成明天的效率优势。
朱松纯教授说过:“芯片是智能体的心脏,为机器立心,就要从这块芯片开始。”
*本文系量子位获授权刊载,观点仅为原作者所有。