llama.cpp 放寬 ggml SCALE 檢視限制並修復 OpenVINO 崩潰

先了解這件事AI 綜述

10 月 27 日，llama.cpp 發布建置 b11923，放寬 ggml SCALE 運算元的輸入要求：此前 src0 必須一維連續，現在只要求 dim-0 連續、允許任意行步長，與 Metal 後端一元運算元的行為一致。CPU（f32、bf16 按位元組步長定址行）、CUDA（步長感知核心，用 fastdiv 做行分解）與 Metal（新增 bf16 scale）均已適配，SYCL 仍限定連續輸入。test_scale 增加了 view 變體測試，已在 CPU、Metal、CUDA 上驗證。同批改動中，CUDA 在非連續檢視上跳過 softcap 融合——融合核心把 src 與 dst 當稠密陣列讀寫，這類計算圖改走 strided 核心，直到融合支援步長。10 月 29 日的 b11977 修補 ggml-openvino：translate_scale 原先直接使用原始輸入，動態路徑下 VIEW 會被展開為整個源張量，導致輸出帶上源張量的尺寸、回拷時越界，test-backend-ops 的 SCALE 檢視用例因此崩潰；修復方式是像其他轉換器那樣用 process_view_input_new 切片輸入，並直接拒絕非連續檢視上的原地 SCALE。對在本地跑模型、使用 OpenVINO、CUDA 或 Metal 後端的人來說，含非連續檢視的 SCALE 計算不再崩潰或寫錯結果。

AI 根據 2 則報導生成 · 10/29 05:30 更新

本事件熱度走勢

為什麼熱

過去 48 小時，有 1 個獨立來源報導，最近 6 小時新增 0 個。熱度 0.3，熱門榜第 191 名。

熱度以 48 小時內的獨立來源計，同一來源只算一次，每 24 小時權重減半。

事件紀錄

最早報導

10/27 08:53

最近更新

10/29 04:45

同一事件的報導集中在這裡，新的進展會繼續補充。