效率提升2.1倍!AMD展示HRX Loom黑科技:三天移植50个大模型
快科技11月14日消息,AMD工程师近期完成了一项极具突破性的技术实验,利用全新的HRX Loom软件与智能体AI工作流,在短短三天内将50个热门大模型成功迁移至AMD消费级显卡硬件。 这不仅展示了AMD在
快科技11月14日消息,AMD工程师近期完成了一项极具突破性的技术实验,利用全新的HRX
Loom软件与智能体AI工作流,在短短三天内将50个热门大模型成功迁移至AMD消费级显卡硬件。
这不仅展示了AMD在端侧AI领域的快速适配能力,也预示着大模型在个人PC上的普及效率将大幅提升。

据了解,此次实验由AMD工程师Jeremy Fowers和Ben Vanik主导。他们通过引入智能体AI工作流,让AI能够自主编写和优化适配AMD显卡的模型程序,从而在三到四天内完成了涉及18种不同架构的50款Hugging Face热门模型的迁移。
要知道,知名AI模型托管平台Hugging Face是目前全球最大的开源AI社区,以往将这些模型逐一适配到特定硬件需要耗费数月时间。
在性能测试中,实验团队利用代号为Strix Halo的锐龙AI Max硬件进行了深度验证。
结果显示,在处理32K Token的长提示词时,HRX Loom软件的运行速度比目前主流的Llama.cpp ROCm后端提升了1.5至2.1倍,相比Vulkan后端也有1.9倍的性能优势。
需要说明的是,HRX Loom目前仍是AMD的实验性项目,但上述结果已经显示出可观的潜力。它也不只面向GPU,同样支持CPU和NPU执行。
实验结果已通过GitHub的Loom-Fun页面公开。作为工作的一部分,AMD还提供了名为loom-skills的交付物,可为Claude Code、Codex或Pi等编程智能体配备必要组件,使其能够编写并向AMD客户端GPU部署优化后的模型程序。
目前的测试重点集中在Strix Halo硬件上,例如Ryzen AI Halo和Framework Desktop这类设备。
