AMD推Instinct Coder 355:单机跑GLM-5.3,性能逼近前沿模型98%
AMD 亮出本地编程平台 Instinct Coder 355:一台机器塞进 98% 前沿模型
把大模型从云端拉回机房,AMD 盯上的是企业开发者的生意。当地时间 11 月 9 日,AMD 与 Spectro Cloud 联合发布企业级 AI 辅助编程平台 Instinct
Coder 355,可在本地运行 GLM-5.3 推理,据称性能达到前沿模型的 98%。
一台编程服务器,靠八张卡撑起来。
这套系统的核心是 8 张 AMD Instinct MI355X 加速器,外加 2 颗 64 核的 EPYC 9575F "Zen 5" 处理器,再配 3TB DDR5-6400 内存和合计 63.36TB 的固态存储。戴尔和 Supermicro 提供了不同规格的整机版本,企业可以按机房习惯挑方案。单节点最多服务 85 名开发者,其中 50 人可同时在线编码,一个小团队的算力需求基本都装进了一台机箱。
默认不连云,数据留在本地。
企业真正看重的是"不出门"这一点。Spectro Cloud 给这套系统配了 PaletteAI Inference Launchpad 管理软件,默认调用本地算力而不是云端 API,敏感代码和数据不用外送。成本与合规两头压着,把推理搬回自有机房正成为大厂押注的新方向——AMD 这步棋,显然想从英伟达和各家云厂商碗里分一杯羹。