微珩启元一个月连融两轮:3D DRAM近存计算怎么破AI推理内存墙
AI大模型进入规模化推理阶段后,竞争的焦点正在发生变化。除了芯片的算力之外,数据搬运效率、能耗和单位Token成本,也越来越影响推理系统的整体效率。 在这样的背景下,一家创业公司——杭州微珩启元科技在一个月内连续完成两轮融资,引发市场关注。该公司未披露两轮融资的具体金额和投资方,资金将主要用于AI推理芯片及高带宽内存相
AI大模型走到规模化推理这一步,比拼的东西已经变了。芯片算力之外,数据搬运效率、能耗和每Token成本,对推理系统整体效率的影响越来越大。
杭州一家创业公司微珩启元科技由此进入市场视野——一个月内接连完成两轮融资。两轮的具体金额和投资方均未披露,资金投向是AI推理芯片及高带宽内存相关技术的研发与设计。
这家公司的CTO是浙江大学信息与通信工程博士李炳博,参与创办微珩启元。他把技术切入点放在3D DRAM堆叠和近存计算上,用缩短存储与计算之间距离的办法,从芯片架构层面给AI推理的“内存墙”松绑。
浙大博士与连续创业者组队
看核心团队的履历,微珩启元并非一支从零搭建的创业班子。
李炳博在芯片研发与管理上积累了20多年经验,多款3D DRAM计算芯片从研发、流片到量产落地的全程由他主导,量产近存计算芯片也实现得比较早。同行的两位都是连续创业者:董事长孔剑平创办了毫微科技(Nano Labs),曾带嘉楠科技和毫微科技两次登陆资本市场;CEO胡楠是Nano Labs联合创始人,入选过工信部IC领军人才。三人在芯片领域共事已近十年。
这个团队此前已经走过多轮芯片产品化。2018年底启动近存计算芯片设计;2020年完成近存计算ASIC芯片商业化量产;2021年实现3D堆叠近存计算芯片商业化量产,同年团队成为中芯国际N+1工艺的早期量产客户;2022年实现800mm²大尺寸全RDL走线封装量产;2024年又完成3D堆叠480mm²近存计算ASIC量产。这些经历覆盖芯片架构、3D DRAM、高性能计算、GPU和软件等环节。团队计算芯片累计销售超过250亿。
核心创始团队之外,微珩启元还请来了学术顾问。香港科技大学首席副校长、香港生成式人工智能研发中心主任郭毅可出任首席人工智能科学家顾问。
连续创业者、芯片工程团队与科学家顾问凑在一起,让这家公司从架构设计到流片、量产和大规模应用,都有了完整的基础。
从“堆算力”转向缩短数据搬运距离
微珩启元盯上的,是AI推理里越来越扎眼的“内存墙”。
传统冯·诺依曼架构下,计算单元和存储单元是分开的。大模型推理时,数据得在存储和计算单元之间来回搬。数据供给速度一旦追不上计算速度,芯片的实际算力利用率就会往下掉,延迟和能耗也跟着上去。
大模型参数规模、上下文长度和并发请求都在持续增加,这个问题在推理场景里被进一步放大。对云端大模型服务来说,芯片峰值算力不再是唯一的决定项,内存带宽、数据访问效率和单位Token成本同样关键。
微珩启元的解法,是把“计算、存储和互联”当成一个整体来设计。多层DRAM堆叠加高密度垂直互连,缩短存储与计算之间的物理距离,把并行数据通道拓宽;近存计算则让部分计算任务在离存储更近的地方完成,减少数据在不同单元之间的往返。
落到具体技术实现,微珩启元的核心路径是把3D DRAM近存、SRAM存算与RISC-V异构三个方向融到一起:大模型推理要的高带宽、大容量存储,交给3D DRAM近存计算承接;对时延最敏感的核心算子,用SRAM存算一体加速;多类计算单元的异构调度与协同,则通过开放可定制的RISC-V架构实现。整条技术路线立足国产先进工艺落地,在性能、成本与供应链自主可控之间找平衡,为国内AI推理芯片提供了一条可规模量产、可持续迭代的架构选择。
说白了,就是让数据“少搬家”、让计算“离数据更近”。放到AI推理负载里,这种架构思路有望同时改善内存带宽、访问延迟、能效和推理成本。
产品形态:从芯片、加速卡到推理集群
按微珩启元的规划,这条技术路径要靠四代核心产品系列逐步落地。产品代际以中国古代科学家与发明家命名——第一代“蔡伦”C系列、第二代“刘徽”L系列、第三代“一行”Y系列、第四代“毕昇”B系列,技术演进脉络清晰、可持续。前两代“蔡伦”C系列和“刘徽”L系列已率先完成规划,构成微珩启元面向AI推理场景的核心芯片路线,支持64至千卡超节点及超大集群内存架构,为超大规模MoE模型提供高效推理算力。产品形态覆盖云端服务器推理加速卡与大规模推理集群解决方案,适配超长上下文、超大参数模型和多Agent等任务对高性能、高带宽、高能效算力的需求,也延伸到私有化大模型部署、桌面端AI推理芯片等场景。
云端方面,其服务器推理加速卡面向云厂商和政企数据中心,可用于私有化大模型集群和API服务建设。微珩启元同时布局推理超节点和千卡规模的“Token工厂”解决方案,以3D DRAM和近存计算芯片为基础,结合KV-Cache池化以及与国产GPU的异构组网,为大规模MoE模型提供推理算力。公司已储备近百亿客户需求。
也就是说,微珩启元要做的不是单点芯片替代,而是围绕高带宽存储和近存计算,搭一套面向AI推理的系统级方案。
融资之后,加速从技术验证走向规模落地
从行业角度看,微珩启元代表的是一条不同于单纯提升峰值算力的技术路径:重构计算与存储的关系,把数据搬运带来的额外消耗降下来。
投资方之所以在一个月里接连参与两轮融资,看中的是微珩启元的技术路线、工程化能力以及商业化前景。混合键合、先进封装、光电共封等关键环节在国内已形成产业优势,3D堆叠与近存计算架构要走向规模化应用,也因此有了不错的产业条件。
AI应用眼下已迈入大规模推理阶段,产业竞争的焦点不再只是单一算力指标,性能、能耗、成本与交付能力都被纳入比拼范围。核心产品系列后续一旦完成量产、实现规模化应用,微珩启元或许能为国内AI推理算力增添一种新的架构选择,帮助中国AI产业把推理算力底座建得更高效、更自主。