AMD与Unsloth合作:Unsloth Desktop拿下全球首个NPU支持

资讯 快科技 全文 1511 字 · 约 4 分钟读完 配图 8 张 分类AMD芯片

AMD携手 Unsloth 为 Unsloth Desktop 解锁全球首款NPU支持

所属频道 算力与芯片

AMD携手 Unsloth 为 Unsloth Desktop 解锁全球首款NPU支持

AI智能体正在一步步走进日常工作。想让智能体在PC上跑起来,光有强模型不够,硬件和软件还得能配合得上。

Unsloth与AMD NPU的官方文档可点此查看:🦥 AMD NPU | Unsloth 官方文档

AMD这次拉上Unsloth,给Unsloth Desktop加进了NPU支持。采用AMD XDNA 2架构的NPU由此成为全球首个被该应用支持的NPU。双方把Lemonade和FastFlowLM(FLM)集成进来,让Unsloth的用户生态接上了专用NPU的加速能力。这也给NPU的用法添了新路子:在大家熟悉的app里,本地高效地跑智能体推理。

一颗AMD NPU,能撑起100多款智能体应用

AMD携手 Unsloth 为 Unsloth Desktop 解锁全球首款NPU支持

合作的影响不局限于单个应用。Unsloth Desktop API为兼容应用提供符合OpenAI API规范的端点,借这个接口,此次集成向100多款智能体应用及工作流敞开了大门。

从编程辅助到互联的智能体工作流,Hermes Agent、OpenClaw、Open WebUI、Cline、OMP和VS Code等工具足以看出这套生态铺得有多宽。应用经由Unsloth Desktop API调用本地模型推理,Lemonade和FLM则承担面向AMD XDNA 2 NPU的模型服务与推理执行。

两边联手,开发者部署智能体工作负载多了选择,用户在本机体验AI的方式也更丰富。

智能体不必再被电源线拴住

AMD携手 Unsloth 为 Unsloth Desktop 解锁全球首款NPU支持

智能体扛的活越多,省电这件事就越要紧。

AMD XDNA 2 NPU本就是冲着高能效AI推理设计的。把受支持的推理负载交给这个专用引擎,电池续航能拉长,CPU和GPU的资源也能留给别的应用(前提是内存够用)。

站在用户角度,这为更贴合日常PC使用习惯的智能体体验打了底,不插电也能把电池续航用得更充分。对开发者来说,本地AI融入日常工作流多了一种执行选项,低功耗、长时间运行的智能体因此成为可能。

在AMD XDNA 2 NPU上运行Unsloth Desktop的步骤

1. 找一台带XDNA 2 NPU的AMD设备,下载并安装Windows版Unsloth Desktop(下载链接:https://www.amd.com/en/blogs/2026/unlocking-the-amd-ryzen-ai-npu-for-unsloth-desktop.html)。

AMD携手 Unsloth 为 Unsloth Desktop 解锁全球首款NPU支持

2. 打开模型中心(Model Hub)页面,点筛选图标,在下拉列表里选NPU。

AMD携手 Unsloth 为 Unsloth Desktop 解锁全球首款NPU支持

3. 点击“Enable NPU”(启用 NPU)。

AMD携手 Unsloth 为 Unsloth Desktop 解锁全球首款NPU支持

4. 下载你想跑的NPU模型。要注意,不同模型吃的内存不一样。比如Qwen 3.6 35B A3B模型用满上下文长度时,需要约28 GB可供NPU使用的内存;按Windows默认50%的共享内存分配比例,机器得配64 GB内存。

AMD携手 Unsloth 为 Unsloth Desktop 解锁全球首款NPU支持

5. 等下载结束(哪怕看着像卡住了,下载其实还在走)。之后回到“New Chat”(新建聊天),在下拉菜单里往下滚,找到“NPU”分区,按需要的上下文长度加载模型,就能在NPU上开始推理了。

硬件、推理软件、应用生态几头一起推,AMD和Unsloth正把NPU加速送到更多开发者和用户手边。

应用更多,本地推理更省电,PC上的智能体AI因此多出了新的可能性。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 黄仁勋卸任英伟达CEO:评级下调、数据威胁与AMD做空风波

    【TechWeb】11月20日消息,黄仁勋卸任英伟达CEO带来的震荡仍在AI芯片产业链持续蔓延。19日行业接连爆出多重利空:英伟达遭遇勒索组织数据威胁、穆迪下调其信用评级展望,同时做空机构发布报告质疑AMD订单真实性与流动性安全,叠加台积电对英伟达超额订单提出预付现金要求,AI芯片板块的风险预期快速升温。勒索软件组织G

    来源 腾讯网
  2. 黄仁勋卸任后英伟达评级遭下调,AMD被做空机构质疑订单

    【TechWeb】11月20日消息,黄仁勋卸任英伟达CEO带来的震荡仍在AI芯片产业链持续蔓延。19日行业接连爆出多重利空:英伟达遭遇勒索组织数据威胁、穆迪下调其信用评级展望,同时做空机构发布报告质疑AMD订单真实性与流动性安全,叠加台积电

    来源 TechWeb
  3. 黄仁勋离任连锁反应:英伟达评级遭下调,AMD被做空机构盯上

    【TechWeb】11月20日消息,黄仁勋卸任英伟达CEO带来的震荡仍在AI芯片产业链持续蔓延。19日行业接连爆出多重利空:英伟达遭遇勒索组织数据威胁、穆迪下调其信用评级展望,同时做空机构发布报告质疑另一家由华人CEO主导的芯片企业AMD订单真实性与流动性安全,叠加台积电对英伟达超额订单提出预付现金要求,AI芯片板块的

    来源 AI 行业观察
  4. 一句"AMD loves gamers"翻车:社区笔记贴出苏姿丰原话,评论区变大型打脸现场

    11月17日,AMD日本官方X账号转发了一条苏姿丰为玩家签名显卡的活动报道,并配文称“AMD最重视与玩家的交流”,以“AMD loves gamers”作结。本意是拉近与玩家社区的距离,结果帖文下方很快被附上了一条X平台社区笔记——笔记内容并非网友情绪化的反驳,而是直接引用了苏姿丰本人的原话。活动照片还带着温度,CEO

    来源 TechWeb
  5. HPE推ProLiant Gen13服务器:搭载第六代AMD EPYC,主打AI推理与安全

    为此,HPE以全新ProLiant Gen13服务器作出系统性回应。HPE此次推出的两款ProLiant Gen13服务器,融合HPE深厚的工程技术积淀与AMD EPYC 9006 SP7处理器的性能优势,在核心密度、内存带宽及I/O能力等方面实现进一步提升,为企业应对AI时代多元化、复杂化的计算需求提供强劲算力支持。

    来源 TechWeb
  6. HPE ProLiant Gen13上新:第六代AMD EPYC加持,面向AI推理与企业负载

    为此,HPE以全新ProLiant Gen13服务器作出系统性回应。HPE此次推出的两款ProLiant Gen13服务器,融合HPE深厚的工程技术积淀与AMD EPYC 9006 SP7处理器的性能优势,在核心密度、内存带宽及I/O能力等方面实现进一步提升,为企业应对AI时代多元化、复杂化的计算需求提供强劲算力支持。

    来源 TechWeb
  7. AMD苏姿丰给出2027年指引:服务器营收翻倍,总营收增幅超80%

    11月19日,AMDCEO苏姿丰在第三季度财报电话会议上给出了极为激进的业绩指引:预计2027年公司服务器业务营收将实现同比翻倍,整体营收增幅超过80%。这一表态正值全球AI算力需求持续井喷、竞争对手英伟达深陷高层动荡的微妙窗口期,AMD正加速抢占数据中心市场份额。

    来源 TechWeb
  8. AMD苏姿丰给出2027年目标:服务器营收翻倍,总营收增幅超80%

    11月19日,AMDCEO苏姿丰在第三季度财报电话会议上给出了极为激进的业绩指引:预计2027年公司服务器业务营收将实现同比翻倍,整体营收增幅超过80%。这一表态正值全球AI算力需求持续井喷、竞争对手英伟达深陷高层动荡的微妙窗口期,AMD正加速抢占数据中心市场份额。

    来源 TechWeb
  9. HPE发布ProLiant Gen13服务器:搭载AMD第六代EPYC,主打AI推理与安全

    【TechWeb】11月19日消息,HPE正式推出两款搭载第六代AMD EPYC™处理器的HPE ProLiant Gen13服务器。面向AI推理与智能体AI等新兴工作负载带来的计算需求,全新系列产品进一步提升计算性能、内存带宽及I/O能力,助力企业加速智能体AI、AI推理、数据分析、虚拟化、仿真与建模等多元工作负载的

    来源 AI 行业观察
  10. AMD苏姿丰立目标:2027年服务器营收翻倍,总营收增超80%

    【TechWeb】11月19日,AMDCEO苏姿丰在第三季度财报电话会议上给出了极为激进的业绩指引:预计2027年公司服务器业务营收将实现同比翻倍,整体营收增幅超过80%。这一表态正值全球AI算力需求持续井喷、竞争对手英伟达深陷高层动荡的微妙窗口期,AMD正加速抢占数据中心市场份额。 服务器营收翻倍的具体指向,是EPY

    来源 AI 行业观察
  11. Anthropic上市首日冲高回落,美股三大指数齐跌,道指失守5万点

    费城半导体指数跌2.4%,AMD遭做空重挫7.7%,英伟达跌3.3%,创52周新低。甲骨文跌3%,盘中创一年新低。CoreWeave跌6.1%。10年期美债收益率下行1.5个基点。美元指数涨0.2%,创18个月新高。离岸人民币跌至一个月低位、触及6.70关口。WTI原油涨1.1%。黄金创去年9月以来最低。白银跌3%。比

    来源 华尔街见闻
  12. 高盛拆解圣诞行情:12月15日前先跌,散户撑起当前买盘

    高盛认为,当前美股买盘结构高度依赖散户支撑。上周散户净买入美股高达62亿美元,为近11周单周峰值,资金集中涌入英伟达、AMD等半导体龙头。而当市场带着"恐惧"进入年末,波动率往往收敛,指数涨幅因此相当有限,且通常需要先经历一轮调整。

    来源 华尔街见闻
  13. 英伟达停售H200:25%关税通道终结

    当地时间11月17日,英伟达临时首席执行官科莱特·克雷斯在财报电话会上确认,公司将停止向中国销售H200 AI芯片——这意味着由黄仁勋此前与特朗普政府协商达成的对华特殊供货安排正式告终。这也是黄仁勋辞职之后,英伟达召开的首次财报沟通会,对华先进芯片供给毫无悬念地成为市场焦点议题。

    来源 TechWeb
  14. AMD遭做空报告指控循环交易,股价盘中跌11%

    对冲基金Hunterbrook Capital发布做空报告,重挫AMD股价。该报告指出AMD在客户融资安排上存在循环交易隐患,且对AI支出放缓高度敏感,AMD方面否认相关指控。周四,AMD股价盘中最大跌幅达11%,低至470.56美元,为当日纳斯达克100指数成分股中跌幅最大的个股。该股此前年内涨幅已逾一倍。截至发稿,

    来源 腾讯网
  15. 三张旧显卡拼出一支AI团队!他把3090、核显和NPU全榨干了

    作者:刘文轩AI硬件越来越贵,家里压箱底的显卡还能做什么?一张RTX 3090、一张RTX 3060,再加上一张已经不算年轻的RTX A2000。没有最新旗舰卡,也没有堆出一台价格惊人的算力服务器,再把CPU里的核显和NPU一起拉来“打工”。Techno Tim折腾了四个月,这些原本分散在不同电脑里的硬件,被装进同一台

    来源 腾讯网
  16. 英伟达克雷斯任临时CEO:AI芯片节奏未改,散热厂商同步看涨

    【TechWeb】11月19日,行业媒体Digitimes发布报道,聚焦黄仁勋辞任后英伟达首次财报电话会议。针对外界“换帅是否会打乱AI芯片供货”的疑虑,临时CEO科莱特·克雷斯(Colette Kress)明确回应:公司业务照常开展。克雷斯在会上强调,英伟达未来产品的开发与推出节奏保持不变,公司的运营表现、业务展望及

    来源 腾讯网
  17. 阿里巴巴 CEO 吴泳铭:2027、2028 年将是中国算力最紧缺的两年

    据界面新闻今日报道,在 2027 财年第二季度财报分析师电话会上,#阿里巴巴#集团 CEO 吴泳铭表示,2027 年和 2028 年,将是中国算力最紧缺的两年。2027 年以后,阿里云的芯片供给都会以国产平头哥芯片为主,同时也会采购其他国产芯片来支持内部的推理需求。

    来源 IT之家
  18. 国产芯片三级跳:前三季度3311亿元投资、1475起事件超2024全年

    今年前三季度,国内半导体产业获得的投资已经超过去年全年。投中嘉川CVSource统计的金额是3311亿元,投资事件1475起。进入11月,计算芯片企业的新融资仍在披露。 资本愿意等待的产品,已经有了不同的模样。有的芯片卖进了客户机房,新资金用来准备下一代;有的刚从工厂拿回样片,还要经过测试和整机适配。融资新闻把这些公司

    来源 AI 行业观察
向下滚动自动加载更多