AISpot

搜尋

依意思最接近的 5 筆

llama.cpp releasesAI 評分40

llama.cpp 的 Hexagon 後端新增 LIGHTNING_INDEXER 運算元支援

llama.cpp 為 Hexagon(高通 NPU)後端加入 LIGHTNING_INDEXER 運算元的初始支援:prefill 走流水線化的 HMX 路徑,decode 採用 q8_0 gather transpose 加雙塊計算。隨後的提交補齊 K 的 f32 與 q4_0 支援,移除 HMX q4_0 K 預處理中的標量 VTCM 讀取與向量溢位,並統一 kparams 對齊、支援維度摺疊。

llama.cpp releasesAI 評分42

llama.cpp 版本號升至 0.9.0

llama.cpp 發布 b12110 建置,版本號提升至 0.9.0。隨版本一同更新的多平台預編譯包覆蓋 macOS Apple Silicon/Intel、iOS XCFramework、Windows 與 Linux 的 CPU、CUDA 12/13(12.8/13.4 庫)、Vulkan、ROCm 10.0、OpenVINO、SYCL,以及 Android 與驍龍 CPU/Adreno GPU/Hexagon NPU 建置。

llama.cpp releasesAI 評分49

llama.cpp 的 OpenCL 後端初步支援 IQ3 量化

llama.cpp 的 OpenCL 後端加入對 IQ3 量化的初步支援,覆蓋 iq3_s 與 iq3_xxs 兩種型別。這批提交為 Adreno GPU 補齊了 AOS/SOA 矩陣向量乘、tiled 矩陣乘、noshuffle 的 GEMM/GEMV 與 dp4a 路徑,並最佳化了 Adreno 上的解碼與窄 batch 場景。改動由高通工程師參與合入,建置產物中已包含 Windows arm64 OpenCL Adreno 版本。

量子位AI 評分45

達摩院玄鐵首發車規路線圖,推出 RISC-V 處理器 E908A

10 月 19 日深圳 RISC-V 中國峰會上,阿里達摩院玄鐵首次發布面向自動駕駛與具身智慧的車規產品路線圖,並推出車規增強處理器玄鐵 E908A。E908A 是首款同時達到 ASIL-B 與 ASIL-D 的 RISC-V CPU IP,單點安全度量 SPFM 業內首次超過 90%,面向安全島、域控與車載閘道器。路線圖顯示下一代 C950A 目標效能為現有 RISC-V 車規產品的 5 倍;