llama.cpp releases● 精選AI 評分62
llama.cpp b12000 支援 OCP FP8 E4M3 量化
llama.cpp 發布 b12000，新增 OCP FP8 E4M3 支援，覆蓋模型轉換、CPU 推理與 gguf-py 工具鏈，並修復 RedHatAI/Qwen3.8-27B-NVFP4 的轉換問題。轉換路徑補齊了 FP8 權重與 input_scales 的處理，改為結合 dtype 判斷，避免按行 FP8 被誤判走 NVFP4。
找到 1 筆；也可以試試 語意搜尋
llama.cpp 發布 b12000，新增 OCP FP8 E4M3 支援，覆蓋模型轉換、CPU 推理與 gguf-py 工具鏈，並修復 RedHatAI/Qwen3.8-27B-NVFP4 的轉換問題。轉換路徑補齊了 FP8 權重與 input_scales 的處理，改為結合 dtype 判斷，避免按行 FP8 被誤判走 NVFP4。