d-Matrix

d-Matrix 是一家面向数据中心的 AI 推理平台厂商，主打「内存中心」的芯片架构。传统架构把计算单元放在离内存较远的位置，也有厂商把计算移得更近，d-Matrix 的做法是直接把计算搬进内存本身，用更短的数据搬运距离换取更低延迟与更高能效。公司称其押注 LLM 与 agent 带来的推理需求，早于 ChatGPT 出现之前就按这个方向设计架构。

当前对外的主力产品是 Corsair：一块 PCIe 形态的板卡，把高带宽内存与推理优化计算引擎放在同一 fabric 上，并配高速 chip-to-chip 互联，可单卡部署固定内存类负载，也可与 GPU 混用，把适合的负载放到各自更合适的架构上。软件侧由 Aviator SDK 承接，提供从类 PyTorch 高层接口一路到自定义 kernel 的执行能力。

不同角色的入口不一样：终端用户通过 Demo Cloud 在几分钟内试跑超低延迟推理；开发者用 Aviator SDK 做推理优化与 kernel 级调优；数据中心与机架级客户则关注 Corsair 的 scale-up/scale-out 能力、面向机架级的 Raptor XPU 与 NVLink Fusion 方向，以及从平面到三维的内存计算基板路线。

当你的瓶颈是固定内存类推理负载的延迟与能效时，d-Matrix 的 Corsair 值得放进候选：它把计算直接做进内存，并用 PCIe 形态交付，既可以单卡独立部署，也可以和现有 GPU 混布做任务卸载。有自定义 kernel 级调优需求的团队，Aviator SDK 的从类 PyTorch 到自定义 kernel 的跨度也能接得住。但如果你的负载以训练为主、或需要短期内拿到成熟的多厂商生态与公开报价，现阶段信息不足：价格未公布，机架级的 Raptor XPU 与 NVLink Fusion 方向也还在推进中，落地节奏需要向官方确认。

1. 与 NVIDIA 在 NVLink Fusion 上合作

   NVLink Fusion 用于把下一代 d-Matrix XPU 接入 NVIDIA AI 平台，涉及 NVIDIA Vera、ConnectX-9、BlueField-4 DPU 与 Spectrum-X Ethernet。

2. 发布 Raptor XPU 机架级推理方向

   面向机架级的超低延迟推理，配合 NVLink Fusion 推进。

3. 推出 d-Matrix Demo Cloud

   主打超低延迟推理，可在几分钟内上手测试。

4. 在 Corsair 上用 Infinity 推进全模型推理

   围绕 Corsair 平台推进全模型 AI 推理能力。

5. 发布 disaggregated pipeline 的性能与 TCO 分析

   讨论如何通过拆分式 pipeline 最大化 GPU 利用率。