河南
快科技6月11日消息，AMD主導開發的開源本地AI服務器解決方案Lemonade發布了10.7版本，正式集成NVIDIA CUDA后端，首次實現對NVIDIA GPU的完整本地AI推理適配。
Lemonade此前已廣泛支持AMD Ryzen AI NPU、Radeon/Instinct GPU、x86_64 CPU及Apple Metal GPU，唯獨缺失對NVIDIA產品的專門優化。
此次10.7版本在Windows與Linux雙平臺上同步集成Llama.cpp的CUDA后端，配合NVIDIA GPU檢測功能，用戶可在NVIDIA硬件上獲得與AMD硬件一致的本地AI體驗。
該項目還首次在Linux上加入stable-diffusion.cpp的CUDA后端，同時帶來跨廠商的Vulkan擴展支持，進一步拓寬了GPU適配范圍。
本次更新還帶來Lemonade產品路線中的重要工具lemonade bench，專用于在Llama.cpp、FastFlowLM、vLLM、Ryzen AI等多后端之間進行端到端的LLM推理性能對比，降低開發者測試門檻。
除此之外，LMX-Omni模型支持、原生Prometheus實時監控端點等增強功能一同上線，穩步推進Lemonade向全場景本地AI引擎演進。
值得關注的是，本次CUDA后端的合并是由外部開發者提交，最終由AMD官方合并進主線，標志著AMD向跨廠商AI生態邁出了重要一步。
AMD Lemonade項目持續在GitHub發布開源版本，目前10.7已可通過項目主頁下載體驗，開發者可根據硬件需求選擇適當后端組合，實現從云端API到本地部署的平滑過渡。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
