通芯智能:朱松纯团队孵化,半年连融数亿元做AGI推理芯片
允中 发自 凹非寺 量子位 | 公众号QbitAI 一颗芯片还没造出来,准备跑在上面的AI,可能已经更新了好几轮。 这是下一代AI留给芯片产业的一个时间差:模型可以快速....
允中 发自 凹非寺,量子位 | 公众号QbitAI
芯片还没影儿,准备跑在上头的AI,说不定已经换过好几茬了。
这就是下一代AI给芯片产业出的难题:模型迭代快,可一颗芯片从定义走到量产,工程周期拖得很长。真要等计算需求彻底定型再动手,恐怕就赶不上了。
通芯智能选在这个节点进场。
这家公司由人工智能专家朱松纯教授发起,北京通用人工智能研究院孵化,今年4月成立。半年时间里,种子轮和天使轮接连完成,合计数亿元,资金将主要投入
它要做的是面向AGI算法的新型推理芯片:眼下主流模型能兼容,同时给逻辑、因果、价值推理这类计算加上专用硬件支持。
背后的疑问并不轻松:下一代AI到底需要什么样的计算,现在就能定义吗?
通芯的办法是让两拨人一起参与设计——研究通用人工智能的科学家,和做过大芯片量产的工程师。他们得从不断变化的算法里,找出那些会被反复调用、值得专门加速的计算,再定芯片怎么组织。
模型还会接着演进,但哪些能力值得提前做进硬件,通芯已经开始选了。
AI走向真实世界,芯片迎来新命题
AI的边界,正从一轮又一轮交互中,慢慢伸向真实的物理世界。
今年上半年,离开Meta创办AMI Labs并完成10亿美元融资的LeCun就说过,大语言模型面对物理世界“束手无策”。LeCun给出的解决方案是
上个月,谷歌DeepMind公布
△来自Google DeepMind官网
这些探索让AI的任务变得更具体:不光要看清眼前有什么,还得预判采取行动后会发生什么,并给下一步决策提供依据。智能体怎么进化,也在影响底层芯片的设计。全球巨头已经把这件事看在眼里。
今年9月,
做芯片的人,得比谁都更早弄明白:下一代AI究竟要算什么,效率又会卡在哪儿。
李飞飞说得更直接:“如果没有专门的硬件投入,AI的效率和规模都会受到束缚。”她还透露,World Labs与AMD已围绕GPU上的模型训练和推理优化展开技术合作。
硬件优化需要多年,对模型要做哪些计算、技术会往哪里走理解得越深,就越有机会做好硬件、软件和系统的协同优化。
对交互响应的需求,也在推动
这些变化指向同一个问题:AI要根据环境变化及时判断、采取行动时,芯片该怎么撑住它?
现代GPU擅长大规模并行计算,再加上专门的矩阵运算单元,这是它在大语言模型时代称霸的主因。
可一个要在真实环境里行动的智能体,还得干另一摊活:反复查询物体之间的关系,随时更新环境状态,推演动作可能带来什么后果。
这些任务如果用图结构、动态分支等方式实现,计算就容易变得零碎,数据访问也更不规整。GPU能跑这些算法,但并行资源未必用得满,一部分时间耗在找数据、搬数据,还有等前一步结果上。
到了这个节点,光盯着芯片每秒能做多少次运算,已经说不清一项任务到底完成得多快。软件怎么优化、存储怎么组织、计算单元与调度方式怎么安排,这些得放到一起重新想。大模型时代攒下的算力优势,并不能直接换成真实世界里的行动效率。
效率这道题的背后,是一个正在长大的推理市场。CIC灼识预测,到2030年,中国AI推理芯片市场规模会达到约1.17万亿元。通芯看中的机会,就藏在新任务和现有计算方式之间的效率缺口里。云端也好,机器人端侧也好,任务对吞吐、响应速度、功耗的要求各不相同,这恰好给通芯从任务出发、重新定义计算架构留出了空间。
AI走进真实物理世界,这个方向已经清楚,可落地路线还在变。要判断,就得回到更基本的问题上:痛点是不是真的,需求会往哪走,哪些计算值得交给专用硬件,理论能不能指导产品定义,工程团队又能不能把它做出来。李飞飞和苏姿丰的合作里能看出一点:想定义下一代AI芯片,光从理论上弄懂智能怎么工作不够,还得有把这份理解落到硬件上的工程能力。
沿着这个思路往下看,通芯为什么选择从
从理解智能出发,重新定义AGI芯片
给一个还没定型的负载设计芯片,最大的麻烦也许在于没有参照物。GPU刚起步时,有图形渲染可以对标;AI加速器有矩阵乘法可以优化。到了AGI芯片,模型路线还有分歧,计算需求也没定型,光看现状得不出答案。
需求还在变,硅片上该放什么,必须有一套判断依据。通芯的起点,是朱松纯团队提出的
朱松纯教授拿过马尔奖、赫尔姆霍兹奖,在视觉、认知与机器人的交叉地带研究了三十年。他的团队今年发表在《Engineering》上的
C是认知架构,负责组织智能体内部各模块以及它们怎么协作,把感知、记忆、推理这些环节串起来;U是能力体系,涵盖识别物体、规划路径这类可以调用的技能。
V是价值体系,描述目标、偏好和约束,为选择行动提供依据。落到机器人身上,可以是完成一项服务任务,也可以是兼顾安全和他人的需求。CUV这个框架把看见什么、能做什么、应该怎么做都装进同一个决策过程。推动智能成长的,是“想要什么”,不是“喂了多少数据”。
这些问题,朱松纯团队早在2020年就在论文里讨论过。深度学习正红火的时候,朱松纯教授和团队就把“
六年过去,世界模型和空间智能成了显学,行业开始追问AI怎么理解一个动作会带来什么后果。这个问题,朱松纯和团队早就划过重点。
值得一提的是,“
拿给客人倒水来说,按通芯的设计思路,机器人可以把杯子、水源和客人的位置关系组织成
送水路上,客人要是换了位置,就保留还有效的信息,更新受影响的状态和路径,少做重复计算。
芯片在这个过程中要做的事更具体:存下当前状态和目标状态,访问对象之间的关系,执行概率计算,比较不同方案,调度相应技能。这些过程都得落成可执行的算法,再拆成基础运算,也就是
通芯的工作,是从这些
向量和张量运算,是大语言模型的重要计算基础,也是GPU的主场。可要在真实世界里行动的智能体,得反复回答“这么做会怎样、值不值得做”:在图上推理物体之间的关系,对不确定的情况做概率推断,推演物理后果,再给每个候选动作打分。
通芯给出的定义里,AGI芯片并非一颗跑得更快的GPU。它是在向量、张量之外又添了一类运算,增加的是结构,算力本身倒没有简单堆上去。
通芯的芯片方案里规划了Vector、Tensor等计算单元。CNN、Transformer这些主流模型架构的向量与张量计算,由Vector和Tensor承担;
通芯
李飞飞关注的空间智能,研究的是机器怎么理解三维环境;DeepMind的图网络,则拿实体和关系来组织信息。信息不完整时怎么办?DARPA支持的概率编程试着把已有知识接进来,用更少的数据把推断做完;Pearl的因果理论问得更远——改掉一个条件,结果会变成什么样。Silver、Sutton等人在《Reward is Enough》里提出,智能体靠试错去追回报,感知、学习、推理等多种能力都有可能从中长出来。
通芯的判断是,图结构的存储与处理、概率和因果推断、行动结果的评估,这几块都有专门加速的价值,AGI Core也照此规划了对应的计算单元。朱松纯教授的理论体系给了一个清楚的起点,通芯想从中提炼出能被更多模型用上的计算能力。
各家对智能的理解未必一样。但芯片是智能的底座,它要找的是这些理解里的最大公约数。
理论怎么落到硅片上,通芯手里有什么
有了成体系的理论框架,也弄懂了智能和算法,接下来还得把芯片真造出来。
王海洋是这家公司的创始人兼CEO,曾师从中国计算机事业奠基人之一夏培肃院士。龙芯CPU的创始成员里有他,海光一至四代CPU芯片的架构总负责人也是他,他还联合创办过一家GPU独角兽企业。芯片研发干了25年,SoC架构设计做了15年,CPU、GPU、GPGPU这三类大芯片从研发到量产的全过程,他都有参与。
△通芯智能创始人兼CEO王海洋
另一位创始人史峰,师从朱松纯教授,博士毕业于UCLA,在通芯负责AGI Core的技术路线与架构定义,同时担任
两位创始人都参与过龙芯研发。后来王海洋留在产业里,把大芯片一代代推到量产;史峰走的是另一条路,把智能算法和芯片设计接在一起,负责将模型与算法的需求转成AGI Core里的计算单元。
他们背后的创始核心团队平均从业超过20年,骨干来自海光、百度、字节、阿里等企业,十余款大芯片从架构定义、前后端设计到
这些经历,最后落成了几个具体的取舍。
头一个是存储。业内最早提出混合
再往下是面积,
产品节奏上,通芯没有一步跨到未来。只为明天设计一颗芯片,今天没人用得上。
第一代产品走的是高性价比推理芯片路线,面向云端大模型、世界模型以及具身智能的端侧计算:现有模型可以直接运行,AGI Core同步上车,新算力则分阶段验证。
AGI芯片和GPU不是非此即彼。通芯把自家方案和以GPU为核心的方案看作共生关系:大语言模型仍是AGI体系的重要组成,也是智能体理解世界的方式之一,兼容与专用两条腿一起走。
进度比多数人预想的快。成立仅三个月,通芯就完成架构设计和立项,目前已经进入芯片设计阶段,12月初将开展商业化,覆盖云端推理、通用智能体和端侧物理智能三个方向,已初步形成规模合作意向。
除此之外,通芯还计划与
王海洋提到,对通芯来说架构定义只是起点,后面还有设计、验证、
这也让通芯的探索多了一层观察价值:AI往真实世界延伸,芯片团队就得比过去更早理解算法,把关键计算拆解为
这条路成不成,最终要看机器人响应是不是更及时、智能体运行成本是不是更低、开发者部署是不是更方便。
从理论到算法,从算子到硅片,再到真实任务,通芯选择把这些环节放在一起往前推。
下一代AI芯片的较量,在硅片造出来之前就已展开。先弄明白智能是怎么运转的,再界定它需要什么样的算力。
提前卡位,对通芯只是开头。真正的考验在后面:得让一颗实际跑起来的芯片,把眼下对智能的判断兑现成明天的效率优势。
朱松纯教授说过:“芯片是智能体的心脏,为机器立心,就要从这块芯片开始。”
*本文系量子位获授权刊载,观点仅为原作者所有。