搜尋
依意思最接近的 5 筆
llama.cpp releasesAI 評分40
llama.cpp 為 Hexagon(高通 NPU)後端加入 LIGHTNING_INDEXER 運算元的初始支援:prefill 走流水線化的 HMX 路徑,decode 採用 q8_0 gather transpose 加雙塊計算。隨後的提交補齊 K 的 f32 與 q4_0 支援,移除 HMX q4_0 K 預處理中的標量 VTCM 讀取與向量溢位,並統一 kparams 對齊、支援維度摺疊。
llama.cpp releasesAI 評分42
llama.cpp 發布 b12110 建置,版本號提升至 0.9.0。隨版本一同更新的多平台預編譯包覆蓋 macOS Apple Silicon/Intel、iOS XCFramework、Windows 與 Linux 的 CPU、CUDA 12/13(12.8/13.4 庫)、Vulkan、ROCm 10.0、OpenVINO、SYCL,以及 Android 與驍龍 CPU/Adreno GPU/Hexagon NPU 建置。
llama.cpp releasesAI 評分49
llama.cpp 的 OpenCL 後端加入對 IQ3 量化的初步支援,覆蓋 iq3_s 與 iq3_xxs 兩種型別。這批提交為 Adreno GPU 補齊了 AOS/SOA 矩陣向量乘、tiled 矩陣乘、noshuffle 的 GEMM/GEMV 與 dp4a 路徑,並最佳化了 Adreno 上的解碼與窄 batch 場景。改動由高通工程師參與合入,建置產物中已包含 Windows arm64 OpenCL Adreno 版本。
llama.cpp releasesAI 評分45
llama.cpp 發布 b12050 版本,主要改動是在 Vulkan 後端改進 RDNA3 與 RDNA4 顯示卡上小 n 場景的 split-K 選擇,其餘為清理測試中的註釋程式碼、按請求移除部分測試。
量子位AI 評分45
10 月 19 日深圳 RISC-V 中國峰會上,阿里達摩院玄鐵首次發布面向自動駕駛與具身智慧的車規產品路線圖,並推出車規增強處理器玄鐵 E908A。E908A 是首款同時達到 ASIL-B 與 ASIL-D 的 RISC-V CPU IP,單點安全度量 SPFM 業內首次超過 90%,面向安全島、域控與車載閘道器。路線圖顯示下一代 C950A 目標效能為現有 RISC-V 車規產品的 5 倍;