快科技6月11日消息,AMD主導開發的開源本地AI服務器解決方案Lemonade發布了10.7版本,正式集成NVIDIA CUDA后端,首次實現對NVIDIA GPU的完整本地AI推理適配。
Lemonade此前已廣泛支持AMD Ryzen AI NPU、Radeon/Instinct GPU、x86_64 CPU及Apple Metal GPU,唯獨缺失對NVIDIA產品的專門優化。
![]()
此次10.7版本在Windows與Linux雙平臺上同步集成Llama.cpp的CUDA后端,配合NVIDIA GPU檢測功能,用戶可在NVIDIA硬件上獲得與AMD硬件一致的本地AI體驗。
該項目還首次在Linux上加入stable-diffusion.cpp的CUDA后端,同時帶來跨廠商的Vulkan擴展支持,進一步拓寬了GPU適配范圍。
本次更新還帶來Lemonade產品路線中的重要工具lemonade bench,專用于在Llama.cpp、FastFlowLM、vLLM、Ryzen AI等多后端之間進行端到端的LLM推理性能對比,降低開發者測試門檻。
除此之外,LMX-Omni模型支持、原生Prometheus實時監控端點等增強功能一同上線,穩步推進Lemonade向全場景本地AI引擎演進。
值得關注的是,本次CUDA后端的合并是由外部開發者提交,最終由AMD官方合并進主線,標志著AMD向跨廠商AI生態邁出了重要一步。
AMD Lemonade項目持續在GitHub發布開源版本,目前10.7已可通過項目主頁下載體驗,開發者可根據硬件需求選擇適當后端組合,實現從云端API到本地部署的平滑過渡。
![]()
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.