AMD 锐龙 AI 处理器里的 XDNA 2 NPU,成了第一颗支持 Unsloth Desktop 本地界面的神经网络处理器。OpenClaw、Hermes 等一百多款 AI 智能体可以直接在笔记本上本地跑,请求不用发到云端。离线办公、对隐私敏感的场景,这一点挺实在。
技术路径不复杂。应用把模型请求发给 Unsloth Desktop API,Lemonade 和 FastFlowLM 接住,模型服务和推理都压在 NPU 上。CPU 和 GPU 就腾出来了,省下的算力可以干别的活。带电池的设备也能多撑一会儿,续航收益是实打实的。轻薄本尤其受益,本地 AI 不用再跟图形任务抢资源。
另一条战线在开源硬件。一颗开源处理器核,凭什么进服务器芯片的计算核心?香山的做法是开放、可复用的设计,企业接入的门槛因此降了下来。它跟 AMD 走的路不一样:AMD 用 NPU 做端侧 AI 加速,香山用开放架构去争数据中心的算力位置。开源核要进服务器,靠的是生态和可维护性,单点性能反倒排在后面。
两件事放一起看,AI 芯片的比拼方式变了。光堆算力峰值不够,还得看谁能把推理负载高效卸下来,谁能让开发者低成本接进去。厂商拼的是整套软硬件协同的效率,单颗芯片的跑分没那么管用了。AMD 把智能体拉到本地,香山把开源核塞进服务器,路线不同,方向一致:算力要更专用,也要更开放。