AMD与Unsloth合作:Unsloth Desktop拿下全球首个NPU支持
AMD携手 Unsloth 为 Unsloth Desktop 解锁全球首款NPU支持

AI智能体正在一步步走进日常工作。想让智能体在PC上跑起来,光有强模型不够,硬件和软件还得能配合得上。
Unsloth与AMD NPU的官方文档可点此查看:🦥 AMD NPU | Unsloth 官方文档
AMD这次拉上Unsloth,给Unsloth Desktop加进了NPU支持。采用AMD XDNA 2架构的NPU由此成为全球首个被该应用支持的NPU。双方把Lemonade和FastFlowLM(FLM)集成进来,让Unsloth的用户生态接上了专用NPU的加速能力。这也给NPU的用法添了新路子:在大家熟悉的app里,本地高效地跑智能体推理。
一颗AMD NPU,能撑起100多款智能体应用

合作的影响不局限于单个应用。Unsloth Desktop API为兼容应用提供符合OpenAI API规范的端点,借这个接口,此次集成向100多款智能体应用及工作流敞开了大门。
从编程辅助到互联的智能体工作流,Hermes Agent、OpenClaw、Open WebUI、Cline、OMP和VS Code等工具足以看出这套生态铺得有多宽。应用经由Unsloth Desktop API调用本地模型推理,Lemonade和FLM则承担面向AMD XDNA 2 NPU的模型服务与推理执行。
两边联手,开发者部署智能体工作负载多了选择,用户在本机体验AI的方式也更丰富。
智能体不必再被电源线拴住

智能体扛的活越多,省电这件事就越要紧。
AMD XDNA 2 NPU本就是冲着高能效AI推理设计的。把受支持的推理负载交给这个专用引擎,电池续航能拉长,CPU和GPU的资源也能留给别的应用(前提是内存够用)。
站在用户角度,这为更贴合日常PC使用习惯的智能体体验打了底,不插电也能把电池续航用得更充分。对开发者来说,本地AI融入日常工作流多了一种执行选项,低功耗、长时间运行的智能体因此成为可能。
在AMD XDNA 2 NPU上运行Unsloth Desktop的步骤
1. 找一台带XDNA 2 NPU的AMD设备,下载并安装Windows版Unsloth Desktop(下载链接:https://www.amd.com/en/blogs/2026/unlocking-the-amd-ryzen-ai-npu-for-unsloth-desktop.html)。

2. 打开模型中心(Model Hub)页面,点筛选图标,在下拉列表里选NPU。

3. 点击“Enable NPU”(启用 NPU)。

4. 下载你想跑的NPU模型。要注意,不同模型吃的内存不一样。比如Qwen 3.6 35B A3B模型用满上下文长度时,需要约28 GB可供NPU使用的内存;按Windows默认50%的共享内存分配比例,机器得配64 GB内存。
![]()
5. 等下载结束(哪怕看着像卡住了,下载其实还在走)。之后回到“New Chat”(新建聊天),在下拉菜单里往下滚,找到“NPU”分区,按需要的上下文长度加载模型,就能在NPU上开始推理了。
硬件、推理软件、应用生态几头一起推,AMD和Unsloth正把NPU加速送到更多开发者和用户手边。
应用更多,本地推理更省电,PC上的智能体AI因此多出了新的可能性。