ORICO FM9800 AI SSD:本地推理缓存分层怎么落地
过去,SSD在个人电脑中的主要任务相对清晰:安装系统、存放应用和文件,并通过更高的读写速度改善响应与传输体验。但随着本地大模型、AI PC和Agent应用发展,存储的角色开始出现变化。本地AI除了
以往SSD装在个人电脑里干的活挺明确:装系统、放应用和文件,靠更快的读写让响应和传输更顺畅。本地大模型、AI PC和Agent应用起来之后,这个角色变了。本地AI不光要加载模型权重,还会生成上下文、KV Cache,以及多轮工具调用过程中的中间数据。模型越大、上下文越长,或者多个Agent同时跑,内存容量就可能顶不住。
AI SSD想在DRAM/显存和传统持久化存储之间多插一层更灵活的层级。要说清楚,SSD在速度和访问延迟上替代不了DRAM,也替代不了GPU显存。它的路子是靠推理框架和数据调度机制,把一部分适合下沉的数据放进闪存缓存层,要用时再调上来,以此扩大可用容量、减轻部分内存压力。能起多大作用,要看模型结构、缓存策略、主机硬件,还有固件和软件怎么实现。
ORICO即将推出的FlashMem FM9800就是按这个思路做的AI SSD。形态为PCIe 5.0 M.2 2280,一块盘上划出两个区:Storage OS常规存储区放系统、应用和文件,AI Cache专用缓存区对应本地AI运行时的缓存数据需求。两块空间各有独立的磨损策略和读写调度机制,散热设计则覆盖主控和存储颗粒。

光划一个分区,AI缓存还参与不到推理里去。FM9800还要搭配AI存储中间件和Herdsman牧马人本地推理引擎,让GPU显存、系统内存和AI缓存空间分层协同。它的价值不在于拿NAND直接换掉DRAM,而是在合适的工作负载下给本地AI系统多加一层容量,接住一部分原本要长期占着高速内存的数据。
从用户这边看,FM9800主要对着两类需求。一类是内存扩展空间吃紧的AI PC、迷你主机或统一内存设备用户,想在设备兼容的前提下给本地模型多留些缓存空间。另一类是对数据本地化有要求的专业用户,比如要处理合同、代码、研发文件和内部知识资料的岗位。前提得确认主机有兼容的M.2 PCIe 5.0接口,操作系统、推理引擎版本和模型都在支持范围内。没有本地模型部署需求的普通办公用户,选传统SSD更直接。

判断AI SSD值不值,不能只盯峰值读写速度。模型加载和缓存调度稳不稳定、长上下文任务能不能受益、持续写入和温升表现怎么样、用户能不能以合理门槛装好并用起来,这些更该看。兼容性、软件体验和真实工作流验证,对这类产品和硬件参数一样要紧。
ORICO拿FlashMem FM9800切入本地AI存储,靠的是长期做存储产品攒下的底子。这个品牌正把传统闪存和存储硬件能力往高性能存储工作流、本地AI Memory应用上延伸。据官方透露,除了这款AI SSD,还有几款AI相关设备在研发当中。对ORICO而言,AI SSD不是单独冒出来的一个新品,而是存储产品从“保存数据”往“参与数据处理与本地推理”走的一步探索。
