群联SC26展示带NPU的智能SSD:64GB内存可本地跑AI模型
该类 SSD 可直接运行 PyTorch、llama.cpp 等 AI 推理框架,能将数据传输量减少 10-100 倍并降低主机 CPU 负载;另一款混合介质 SSD 整合 pSLC 缓存与 QLC 闪存,提升写入性能且降低故障损失。#AI硬件新突破#
据科技媒体 Tom's Hardware 11月22日报道,群联在 SC26 大会上亮出两款面向 AI 场景的企业级固态硬盘。其中一款把 NPU 和 64GB 内存直接装进硬盘里,能自己跑 AI 模型。

从原报道看,这款产品的硬盘内集成了 NPU(神经网络引擎)与 64GB 内存,带宽为 130GB/s。PyTorch、vLLM、OpenVINO、
llama.cpp 这些 AI 框架和推理工具,都可以直接在盘上运行。
它的思路是把一部分计算从服务器挪到 SSD 上。数据存在哪儿就在哪儿算,主机拿到的只是结果,整套数据集不用来回搬。
群联方面表示,在特定工作负载下,这种做法的数据传输量有望降到原来的 1/10 至 1/100,主机 CPU 的负担也随之减轻。
另一款产品走的是 Mixed Media 混合介质路线:把耐写度高的 pSLC 缓存和大容量 QLC 闪存放在同一块 SSD 里,由一颗 16 通道主控统一调度。
具体做法是让一部分 QLC 闪存切换到 SLC 模式,用容量换写入性能和寿命。两块存储区域各有独立命名空间,主机按数据类型挑地方放就行,不用另装专用软件。
按照群联的说法,这能减少对独立缓存盘的依赖。一个装了 24 块 SSD 的系统里,坏掉一块盘,缓存损失只有 4%;换成 4 块独立缓存盘的老方案,可能一下子丢掉 25% 的缓存容量。