AMD携Unsloth打通NPU推理:逾100款智能体应用可本地跑

资讯 快科技 全文 1318 字 · 约 4 分钟读完 配图 1 张 分类AMDAI 产品智能体

AMD 与 Unsloth 为逾 100 款智能体 AI 应用带来 NPU 支持

所属频道 产品更新算力与芯片智能体与 Agent

用户第一次能在 Unsloth Desktop 上用上 AMD XDNA 2 NPU 加速。逾 100 款兼容的智能体 AI 应用及工作流程,由此可以把推理放到本地 NPU 上跑。

AMD 和 Unsloth 这次联手,目标是让逾 100 款智能体 AI 应用及工作流程在受支持的 AMD Ryzen AI PC 上调用本地 NPU 做推理。AMD XDNA 2 NPU 也是 Unsloth Desktop 支持的第一款神经网络处理器(NPU)。兼容应用通过 Unsloth Desktop 的 API,就能连到跑在 NPU 上的受支持模型。

为什么这件事有分量?全天候在线的 AI 助手和智能体,得在用户照常使用 PC 的同时高效完成推理。这次合作给出的新选项是绕开 GPU:让 AMD XDNA 2 NPU 持续承担低功耗推理,把 CPU 和 GPU 资源留给其他应用。AMD 一直在扩展和优化软件支持,这回的集成也是这条线上的延续,让更多常用工具吃上专用 NPU 加速。

AMD 在其中扮演什么角色?它通过支持 Unsloth Desktop 扩大了受支持的计算资源范围,开发者和用户借助熟悉的应用,就能在本地高效部署并运行智能体工作流程。

Unsloth 的能力覆盖模型开发到部署两个环节:既有能加速微调、压低 GPU 显存占用的开源工具,也有不用写代码就能训练和推理的桌面应用。支持 AMD NPU 之后,这套生态可用的计算资源从 CPU、GPU 延伸到 NPU,用户多了一种高能效的推理选择,逾 100 款兼容的智能体应用及工作流程也能用上这一能力。

具体怎么跑?兼容应用把模型请求发给 Unsloth Desktop API,由 Lemonade 和 FastFlowLM 在 AMD XDNA 2 NPU 上提供模型服务、执行推理。模型响应再回到应用,供其工作流程使用。NPU 只负责加速受支持模型的推理,应用的其他功能仍按需调用 PC 的 CPU 和 GPU。

哪些工具能通过 Unsloth 获得 NPU 加速?Unsloth Desktop API 为兼容应用提供的是符合 OpenAI API 规范的端点。这次集成覆盖逾 100 款智能体 AI 应用及工作流程,Hermes Agent、OpenClaw、Open WebUI、Cline、LangChain、GitHub Copilot 等工具都在其中。

对 PC 用户来说好处在哪?AI 智能体可以跨多个互联工具执行多步骤任务。有了本地 NPU 推理,兼容智能体处理这些任务中的模型请求时能效更高,CPU 与 GPU 则留给任务编排和其他应用。用户花在管理各个步骤上的时间因此减少,可以把更多时间用来审阅结果。

想了解更多,可阅读《AMD × Unsloth:为 Unsloth Desktop 带来全球首个 NPU 支持》,里面讲了 AMD 与 Unsloth 的合作方式,以及在搭载 AMD XDNA 2 NPU 的 PC 上安装 Unsloth Desktop 的方法。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 黄仁勋卸任英伟达CEO:评级下调、数据威胁与AMD做空风波

    【TechWeb】11月20日消息,黄仁勋卸任英伟达CEO带来的震荡仍在AI芯片产业链持续蔓延。19日行业接连爆出多重利空:英伟达遭遇勒索组织数据威胁、穆迪下调其信用评级展望,同时做空机构发布报告质疑AMD订单真实性与流动性安全,叠加台积电对英伟达超额订单提出预付现金要求,AI芯片板块的风险预期快速升温。勒索软件组织G

    来源 腾讯网
  2. 黄仁勋卸任后英伟达评级遭下调,AMD被做空机构质疑订单

    【TechWeb】11月20日消息,黄仁勋卸任英伟达CEO带来的震荡仍在AI芯片产业链持续蔓延。19日行业接连爆出多重利空:英伟达遭遇勒索组织数据威胁、穆迪下调其信用评级展望,同时做空机构发布报告质疑AMD订单真实性与流动性安全,叠加台积电

    来源 TechWeb
  3. 黄仁勋离任连锁反应:英伟达评级遭下调,AMD被做空机构盯上

    【TechWeb】11月20日消息,黄仁勋卸任英伟达CEO带来的震荡仍在AI芯片产业链持续蔓延。19日行业接连爆出多重利空:英伟达遭遇勒索组织数据威胁、穆迪下调其信用评级展望,同时做空机构发布报告质疑另一家由华人CEO主导的芯片企业AMD订单真实性与流动性安全,叠加台积电对英伟达超额订单提出预付现金要求,AI芯片板块的

    来源 AI 行业观察
  4. OpenAI用GPT-4o改芯片电路,AMD旗舰GPU能效最高提14%

    OpenAI 当地时间 18 日发布技术报告,披露 AI 辅助芯片设计进展。自研推理芯片 Jalapeño 2025 年初就交给 GPT-4o 打下手:模型重写浮点加法器、乘法器等电路,新乘法器综合后面积减约 15%、延迟压到一个时钟周期;合计向量计算单元面积减约 13%,矩阵计算单元减约 10%,

    来源 AI 开发者社区
  5. OpenAI用AI改芯片电路:AMD旗舰GPU能效最高提升14%

    OpenAI报告披露GPT-4o辅助芯片设计:自研推理芯片Jalapeño由GPT-4o重写浮点加法器、乘法器等电路,新乘法器面积减约15%、延迟压至一个时钟周期;向量与矩阵计算单元面积分别减约13%、10%,已实片验证。模型还重写RTL,为AMD旗舰GPU提速,压缩约一年工作量。

    来源 AI 产业速递
  6. AMD遭机构做空后跌超7%,被质疑循环交易问题

    美股11月19日,AI芯片公司AMD(AMD.O)跌7.72%。消息面上,做空机构Hunterbrook Capital对AMD建立了空头头寸。 打开网易新闻 查看精彩图片 Hunterbrook Capital旗下Hunterbrook Media发布了一份报告,质疑AMD循环交易与融资担保给该公司带来风险,并提到该

    来源 AI 行业观察
  7. AMD遭Hunterbrook做空:被指循环交易,承诺规模超英伟达

    Hunterbrook Capital称AMD为采购自家芯片的企业提供融资与担保,承诺规模已远超英伟达,而其现金储备却相对不足。报告还指出,AMD增长所倚重的部分产品线,或将面临严格的出口管制。AMD回应称,Hunterbrook报告歪曲了AMD的业务实践与合作关系。报告发布后,AMD盘中最大跌幅11%。

    来源 华尔街见闻
  8. 《GTA 6》Xbox Series S 版是首款采用 AMD FSR 4.1 超分技术的游戏

    IT之家 11 月 19 日消息,《侠盗猎车手 6》(GTA 6)Xbox Series S 版似乎是首款使用 AMD FSR 4.1 超分辨率技术的主机游戏。 上个月,微软宣布,Xbox Series X/S 游戏主机以及 Xbox ROG Ally X 掌机将在后续更新中获得 AMD 最新的超分辨率技术支持。 FS

    来源 AI 行业观察
  9. AMD遭做空报告指控循环交易,股价盘中跌11%

    对冲基金Hunterbrook Capital发布做空报告,重挫AMD股价。该报告指出AMD在客户融资安排上存在循环交易隐患,且对AI支出放缓高度敏感,AMD方面否认相关指控。周四,AMD股价盘中最大跌幅达11%,低至470.56美元,为当日纳斯达克100指数成分股中跌幅最大的个股。该股此前年内涨幅已逾一倍。截至发稿,

    来源 腾讯网
  10. AMD遭Hunterbrook做空:中国业务与循环融资被质疑,股价收跌7.72%

    (文/王一 编辑/吕栋)继英伟达之后,美国超威半导体公司(AMD)也被做空机构盯上。当地时间11月19日,做空机构亨特布鲁克资本(Hunterbrook Capital)发报告宣布做空AMD,指其中国业务存在政策风险,且该公司采用了与英伟达类似的循环融资模式,一旦人工智能(AI)行业增长放缓,AMD可能陷入财务困境。受

    来源 腾讯网
  11. OpenAI开放GPT-Live-1.1 API:语音智能体可边聊边干活

    IT之家 11 月 20 日消息,OpenAI 今日宣布向开发者开放 GPT-Live-1.1 API 语音模型,允许第三方开发者将其集成到自己的应用程序中,构建能够实时聆听、回应并执行复杂任务的 AI 语音智能体。 据 OpenAI 介绍,GPT-Live-1.1 是 GPT-Live-1 的升级版本,具备全双工语音

    来源 AI 行业观察
  12. 只改一处代码,谷歌 AI 智能体优化 Harness 后任务成功率提升 8 倍

    IT之家 11 月 20 日消息,谷歌研究人员当地时间 11 月 17 日最新发表的研究论文《Harnesses That Improve Themselves》(《能够自我改进的 Harness》)显示,通过让 AI 智能体逐步修改自身运行框架,并对每次修改进行验证,可以显著提高软件工程任务的完成率。 在一项 SWE

    来源 AI 行业观察
  13. Claude开AI工厂:7周造38个模型,狂揽5.5万下载

    Claude开了一家造AI的工厂! 七周,Claude交出38个模型,狂揽约5.5万次下载,杀进100多个GitHub项目。 38个模型累计下载约5.5万次,光是提示注入检测系列就有约1.7万次下载。 这AI工厂背后的「老板」叫Horizon,是一个基于Claude Opus 5.5的智能体。 它开局拿到的,只是一个空

    来源 AI 行业观察
  14. 张博开源Linger:零token费本地跑125B模型,12GB显卡够用

    11月19日,前DeepSeek-VL项目负责人张博在X宣布开源个人Agent Linger,开发主体是张博创办的SIMPLEX AI TECHNOLOGIES PTE. LTD.(以下简称“Simplex AI”),代码已上传GitHub。按项目文档,Linger读取本地邮件、日历和文件,操作用户已登录的浏览器;连接

    来源 腾讯网
  15. OpenAI 开放 GPT-Live-1.1 API:开发者可接入实时双向语音对话

    IT之家 11 月 20 日消息,OpenAI 今日宣布向开发者开放 GPT-Live-1.1 API 语音模型,允许第三方开发者将其集成到自己的应用程序中,构建能够实时聆听、回应并执行复杂任务的 AI 语音智能体。据 OpenAI 介绍,GPT-Live-1.1 是 GPT-Live-1 的升级版本,具备全双工语音交

    来源 腾讯网
  16. 谷歌AI智能体改一处代码成功率翻8倍:Harness自我优化研究

    IT之家 11 月 20 日消息,谷歌研究人员当地时间 11 月 17 日最新发表的研究论文《Harnesses That Improve Themselves》(《能够自我改进的 Harness》)显示,通过让 AI 智能体逐步修改自身运行框架,并对每次修改进行验证,可以显著提高软件工程任务的完成率。在一项 SWE-

    来源 腾讯网
  17. 安谋科技“周易”X3:FP4端侧SoC将量产,X3-pro在筹备

    11月19日,ICCAD-Expo 2026在北京开幕,安谋科技CEO陈锋在高峰论坛发表题为《Agentic AI时代,算力价值重塑与产业新机遇》的主旨演讲,并重磅披露两大产品进展:国内首颗基于“周易”X3架构、原生支持FP4的端侧SoC即将量产,面向Agentic AI全场景计算的“周易”X3-pro升级版也蓄势待发

    来源 快科技
向下滚动自动加载更多