AISpot

搜尋

找到 2 筆;也可以試試 語意搜尋

llama.cpp releasesAI 評分41

llama.cpp 修復 Metal GPU capture 路徑記憶體洩漏

llama.cpp 發布 b11791 建置,Metal 後端修復了 GPU capture 路徑中的記憶體洩漏並清理了相關邏輯(#30890)。該版本同步更新 macOS/iOS、Linux、Android、Windows 各平台預編譯包,macOS Apple Silicon 的 KleidiAI 啟用版與 openEuler 建置仍為 DISABLED。Metal 修復主要影響在 Apple Silicon 上使用 Metal 後端跑本地推理的使用者。

MLX LM releasesAI 評分56

MLX 發布 v0.31.2,新增 Gemma 4 支援與快取最佳化

MLX 發布 v0.31.2,新增 Gemma 4 模型支援及其工具呼叫解析器,並加入 Nemotron super 支援。本次更新為非可裁剪快取引入系統提示與使用者訊息快取,重構批次生成器,修復推測解碼輸出損壞、GatedDeltaNet 快取記憶體洩漏等問題,同時新增伺服器 --allowed-origins 引數。