AMD Instinct Coder 355 发布:8 张 MI355X 本地跑出 98% 前沿性能?
把大模型从云端拽回机房,AMD 这次做的是企业开发者的生意。当地时间 11 月 9 日,AMD 携手 Spectro Cloud 推出企业级 AI 辅助编程平台 Instinct Coder 355,它能在本地跑起 GLM-5.3 推理,且据称逼近前沿模型 98% 的性能。 八张卡撑起一台编程服务器 这套系统的硬核在于
AMD这次瞄准的是企业开发者的生意,要把大模型从云端拉回自家机房。当地时间 11月9日,AMD 联合 Spectro Cloud 发布企业级 AI 辅助编程平台 Instinct Coder 355,可在本地运行 GLM-5.3 推理,据称性能达到前沿模型的 98%。撑起这台编程服务器的,是 8 张 AMD Instinct MI355X 加速器。
其余配置同样堆得满:2 颗 64 核的 EPYC 9575F "Zen 5" 处理器,3TB DDR5-6400 内存,固态存储合计 63.36TB。戴尔和 Supermicro 各自提供了规格不同的整机版本,企业可以按机房习惯来选。单节点最多可供 85 名开发者使用,其中 50 人能够同时在线编码,一个小团队的算力需求基本就装进一台机箱里了。
企业真正看重的,是数据"不出门"。Spectro Cloud 给这套系统配了 PaletteAI Inference Launchpad 管理软件,默认走本地算力,不调云端 API,敏感代码和数据无需外送。成本与合规两头施压,把推理搬回自有机房正成为大厂押注的新方向。AMD 这步棋,显然是想从英伟达和各家云厂商碗里分一杯羹。