AMD 与 Unsloth 为逾 100 款智能体 AI 应用带来 NPU 支持
用户首次可以通过 Unsloth Desktop 使用 AMD XDNA 2 NPU 加速,让逾 100 款兼容的智能体 AI 应用及工作流程能够利用本地 NPU 进行推理。
有何新进展?AMD 与 Unsloth 正携手让逾 100 款智能体 AI 应用及工作流程,能够在受支持的 AMD Ryzen AI PC 上使用本地 NPU 推理。AMD XDNA 2 NPU 是 Unsloth Desktop支持的首个神经网络处理器(NPU)。通过 Unsloth Desktop 的 API,兼容应用可以连接到在 NPU 上运行的受支持模型。
这为何重要?全天运行的 AI 助手和智能体需要在用户执行日常 PC 任务的同时高效开展推理。此次合作让用户在 GPU 之外有了新的选择:利用 AMD XDNA 2 NPU 持续执行低功耗推理,同时为其他应用保留 CPU 和 GPU 资源。这项集成延续了 AMD 不断扩展和优化软件支持的工作,让更多常用工具能够利用专用 NPU 加速。
AMD 发挥什么作用?通过支持 Unsloth Desktop,AMD 正在扩展受支持的计算资源,让开发者和用户能够通过熟悉的应用,在本地高效部署和运行智能体工作流程。
Unsloth 带来哪些能力?Unsloth 覆盖模型开发与部署,既提供可加速微调、降低 GPU 显存需求的开源工具,也提供无需编写代码即可进行训练和推理的桌面应用。对 AMD NPU 的支持,让这一生态系统的计算资源从 CPU 和 GPU 进一步扩展至 NPU,为用户提供高能效的推理选择,并让逾 100 款兼容的智能体应用及工作流程能够利用这一能力。
它如何运作?兼容应用向 Unsloth Desktop API 发送模型请求,由 Lemonade 和 FastFlowLM 在 AMD XDNA 2 NPU 上提供模型服务并执行推理。模型响应随后返回应用,供其工作流程使用。NPU 负责加速受支持模型的推理,应用的其他功能则继续按需使用 PC 的 CPU 和 GPU。
通过 Unsloth 可以使用哪些支持 NPU 加速的工具?Unsloth Desktop API 为兼容应用提供符合 OpenAI API 规范的端点。这项集成覆盖逾 100 款智能体 AI 应用及工作流程,包括 Hermes Agent、OpenClaw、Open WebUI、Cline、LangChain 和 GitHub Copilot 等工具。
这能为 PC 用户带来哪些益处?AI 智能体可以跨多个互联工具执行多步骤任务。借助本地 NPU 推理,兼容的智能体能够在执行这些任务时,以更高能效处理模型请求,同时为任务编排和其他应用保留 CPU 与 GPU 资源,帮助用户减少管理各个步骤所需的时间,将更多时间用于审阅结果。
了解更多:请阅读《AMD × Unsloth:为 Unsloth Desktop 带来全球首个 NPU 支持》,了解 AMD 与 Unsloth 如何携手合作,以及如何在搭载 AMD XDNA 2 NPU 的 PC 上安装 Unsloth Desktop。
《AMD 与 Unsloth 为逾 100 款智能体 AI 应用带来 NPU 支持》转载自互联网,如有侵权,联系我们删除,QQ:369-8522。
相关图文
-
黄仁勋被传筹备新半导体公司 拟募资500亿美元启动创业
快科技11月20日消息,据科技媒体Semafor记者Rohan Goswami预测,黄仁勋可能创办一家新的半导体公司。Goswami在周一的一档节目中指出,从他与科技人士和业内高管的讨论来看,英伟达董事会与黄仁... -
当季坚果“大”有来头 京东七鲜超市打造新鲜零食新选择
随着消费升级与健康意识提升,消费者对坚果的需求正从“营养解馋”转向“效期新鲜、配方精简、品质可感”。京东七鲜超市今年再度上新多款当季新坚果,以环球甄选的超大果径... -
把物体移到左边为什么难 ArtArk编辑双榜第一里的空间推理
从一个相对位置读懂改图当反馈要求把某个对象移到另一对象的左侧,编辑需要处理相对位置。画面中的前后、上下和遮挡关系,也会决定修改后的结果是否符合请求。空间关系把抽象的画面理解变成... -
以实战淬炼全维安全:赛力斯SRC 2026安全众测大赛圆满收官
历时一个多月的赛力斯2026安全众测大赛,在近期落下帷幕,圆满收官!本次大赛共招募了1000+涵盖不同研究方向的白帽安全研究人员。在授权范围内,参赛研究者围绕WEB安全、移动应用安全、整车安全... -
手机用两三年不卡顿怎么选:1600次循环电池与系统维护解析+FAQ
REDMI K100 标准版起售价3499元(12GB+256GB),10000mAh电池对应两三年长周期使用。荣耀WIN RT起售价3499元(12GB+256GB),25000转主动风扇对应长时间高负载场景。一加Ace 6T起售价3399元...









