AISpot
熱點事件 · 持續更新

llama.cpp 放寬 ggml SCALE 檢視限制並修復 OpenVINO 崩潰

2 則報導1 個報導來源 更新

先了解這件事AI 綜述

10 月 27 日,llama.cpp 發布建置 b11923,放寬 ggml SCALE 運算元的輸入要求:此前 src0 必須一維連續,現在只要求 dim-0 連續、允許任意行步長,與 Metal 後端一元運算元的行為一致。CPU(f32、bf16 按位元組步長定址行)、CUDA(步長感知核心,用 fastdiv 做行分解)與 Metal(新增 bf16 scale)均已適配,SYCL 仍限定連續輸入。test_scale 增加了 view 變體測試,已在 CPU、Metal、CUDA 上驗證。同批改動中,CUDA 在非連續檢視上跳過 softcap 融合——融合核心把 src 與 dst 當稠密陣列讀寫,這類計算圖改走 strided 核心,直到融合支援步長。10 月 29 日的 b11977 修補 ggml-openvino:translate_scale 原先直接使用原始輸入,動態路徑下 VIEW 會被展開為整個源張量,導致輸出帶上源張量的尺寸、回拷時越界,test-backend-ops 的 SCALE 檢視用例因此崩潰;修復方式是像其他轉換器那樣用 process_view_input_new 切片輸入,並直接拒絕非連續檢視上的原地 SCALE。對在本地跑模型、使用 OpenVINO、CUDA 或 Metal 後端的人來說,含非連續檢視的 SCALE 計算不再崩潰或寫錯結果。

AI 根據 2 則報導生成 · 更新

報導時間線

沿著報導,了解事件的不同側面;點標題看單篇報導的摘要與原文連結。

10月29日星期四 · 1 則

  1. llama.cpp releases官方

    llama.cpp 修復 OpenVINO 後端 SCALE 步幅檢視崩潰

    llama.cpp 合入 ggml-openvino 補丁,修復 SCALE 運算對非連續步幅檢視輸入的處理:此前 translate_scale 直接使用原始輸入,動態路徑下檢視被展開為整個源張量,導致輸出尺寸錯誤並在回拷時越界,使 test-backend-ops 的 SCALE 檢視用例崩潰。修復方式是按其他轉換器的做法用 process_view_input_new 切片輸入,同時對非連續檢視上的原地 SCALE 直接拒絕。

10月27日星期二 · 1 則

  1. llama.cpp releases官方

    llama.cpp:ggml SCALE 支援非連續檢視

    llama.cpp 新建置 b11923 放寬了 ggml SCALE 運算元的輸入要求:此前 src0 必須一維連續,現在只需 dim-0 連續、允許任意行步長,與 Metal 後端一元運算元的行為一致。CPU(f32、bf16 按位元組步長定址行)、CUDA(步長感知核心,用 fastdiv 做行分解)與 Metal(新增 bf16 scale)均已適配,SYCL 仍限定連續輸入。test_scale 增加了 view 變體測試,已在 CPU、Metal、CUDA 上驗證;

本事件熱度走勢

最高 1.0

為什麼熱

過去 48 小時,有 1 個獨立來源報導,最近 6 小時新增 0 個。熱度 0.3,熱門榜第 188 名。

熱度以 48 小時內的獨立來源計,同一來源只算一次,每 24 小時權重減半。

事件紀錄

最早報導
最近更新

同一事件的報導集中在這裡,新的進展會繼續補充。