AISpot
熱點事件 · 持續更新

llama.cpp 修復 CLAMP 非連續檢視定址錯誤

2 則報導1 個報導來源 更新

先了解這件事AI 綜述

llama.cpp 在 10 月先後修復了 CLAMP 運算元在非連續檢視上的定址錯誤,涉及 ggml 的 CPU、CUDA 與 OpenCL 後端。10 月 6 日發布的 b11449 針對 CPU 與 CUDA:CUDA 此前按 ggml_nelements 做平坦處理、忽略檢視 stride,CPU 則把第 j 行按 j*nb01 定址、忽略 nb02 與 nb03;修復後兩者都改為遵循 dims 1..3 的 stride,CUDA 的 supports_op 要求行連續,與 Metal 保持一致,CUDA 的 clamp 核心改用 fastdiv 處理檢視 stride,test_clamp 也新增了非連續檢視用例。10 月 15 日發布的 b11639 補齊 OpenCL 後端:原 clamp 核心把源與目標當作一維連續陣列索引,遇到新增的 CLAMP v=1 情形會讀錯元素,因此新增跨步核心 kernel_clamp_nc,在源不連續時自動啟用,與其他一元運算元的做法一致。兩處改動都隨各自版本提供 macOS Apple Silicon、Linux、Windows、Android 等多平台建置,涵蓋 CPU、CUDA、Vulkan、ROCm、OpenCL 等後端。對在本地用 llama.cpp 跑模型的人來說,這些修復意味著含 CLAMP 運算元的模型在 CPU、CUDA 和 OpenCL(例如 Snapdragon 的 Adreno GPU)上不再因非連續檢視而算出錯誤結果。

AI 根據 2 則報導生成 · 更新

報導時間線

沿著報導,了解事件的不同側面;點標題看單篇報導的摘要與原文連結。

10月15日星期四 · 1 則

  1. llama.cpp releases官方

    llama.cpp 修復 OpenCL 非連續檢視 CLAMP 計算錯誤

    llama.cpp 為 OpenCL 後端新增跨步核心 kernel_clamp_nc,修復輸入為非連續(strided)檢視時 CLAMP 讀錯元素的問題。原 clamp 核心把源與目標當作一維連續陣列索引,遇到新增的 CLAMP v=1 情形會取錯資料;現在源不連續時自動改用新的 strided 核心,與其他一元運算元的做法保持一致。

10月6日星期二 · 1 則

  1. llama.cpp releases官方

    llama.cpp 修復 ggml CLAMP 非連續檢視定址錯誤

    ggml 修復了 CLAMP 運算元在非連續檢視上的定址錯誤,涉及 CPU 與 CUDA 後端。CUDA 此前按 ggml_nelements 做平坦處理、忽略檢視 stride,CPU 則把第 j 行按 j*nb01 定址、忽略 nb02/nb03;現在兩者都改為遵循 dims 1..3 的 stride,且 CUDA 的 supports_op 要求行連續,與 Metal 一致。

本事件熱度走勢

最高 1.0

為什麼熱

過去 48 小時,有 0 個獨立來源報導,最近 6 小時新增 0 個。熱度 0.0。

熱度以 48 小時內的獨立來源計,同一來源只算一次,每 24 小時權重減半。

事件紀錄

最早報導
最近更新

同一事件的報導集中在這裡,新的進展會繼續補充。