AISpot

搜尋

找到 1 筆;也可以試試 語意搜尋

llama.cpp releasesAI 評分45

llama.cpp 修復 fit 漏算 NextN 層的解除安裝問題

llama.cpp 修復了 fit 在自動分配 GPU 層數時漏算 NextN 層的問題:這些層不含權重,fit 只按 n_layer + 1 計數,而載入器按 n_layer_all + 1 計算 n_gpu_layers,導致本應全部解除安裝的模型仍把第 0 層留在 CPU(雙卡跑 Qwen3.8-27B 時顯示 offloaded 65/66 layers)。