llama.cpp 新增對 Mistral Le Chonk 模型的支援
llama.cpp 發布 b11998 版本,新增對 Mistral 新模型 Le Chonk 的適配,同時把 DSA 與 sdpark 擴充套件到該模型。該版本照例同步更新各平台預編譯包,覆蓋 macOS Apple Silicon、iOS、Windows 的 CUDA 12/13、Vulkan、OpenVINO、SYCL、ROCm 10.0,以及 Linux、Android 和高通的 Adreno GPU、Hexagon NPU。
原標題:b11998
閱讀原文
| 評分 | 45 / 38(平均 41,門檻 60) |
|---|---|
| 狀態 | 未入選 |
原文
相關報導
llama.cpp b11572 新增 vLLM d3 模型支援
llama.cpp 發布 b11572,新增對 vLLM d3 模型的支援(d2 同步更新),並加入 pplx-decider 模型支援,同時澄清命名規則、加強校驗。該版本照例提供 macOS/iOS、Linux、Windows、Android、openEuler 的預編譯包,覆蓋 CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 以及驍龍 CPU/Adreno GPU/Hexagon NPU 等後端。
Mistral 發布 1 萬億引數開放模型 Le Chonk
Mistral 發布 1 萬億引數的 Mistral Large 4,暱稱 Le Chonk,任何人都可以自由使用和定製,目前處於預覽階段,最終版本將在本月底前推出。該模型定位是與領先的通用模型競爭,但專門針對程式設計和網路防禦,以及製造、金融、電氣工程等細分領域做了最佳化。Mistral 聯合創始人兼首席科學家 Guillaume Lample 表示,許多其他實驗室不會重點投入的領域還有很大改進空間。
llama.cpp 新增 Flint 模型支援,多平台建置同步更新
llama.cpp 建置 b11803 合併了對新模型 Flint(FlintForCausalLM)的支援,該提交由 Codex 協助完成,合作者包括 Hugging Face 的 Sigbjørn Skjæret。同版本的預編譯產物覆蓋 macOS/iOS、Linux、Android、Windows 與 openEuler,包含 CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 等後端。
llama.cpp 發布 b11384 版本,覆蓋多平台預編譯包
llama.cpp 發布 b11384 版本,官網為 llama.app,並附 GitHub 建置證明。該版本提供 macOS、iOS、Linux、Android、Windows 及 openEuler 的預編譯包,涵蓋 Apple Silicon、CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 與 Snapdragon 的 CPU、Adreno GPU、Hexagon NPU 等後端。
llama.cpp b11531 重構 chat API,同步更新多平台建置
llama.cpp 發布 b11531,主要變更是重構 chat API(#30210)。同步重新整理的預編譯產物覆蓋 macOS Apple Silicon、Ubuntu、Windows、Android 與 openEuler,包含 CUDA 12/13、Vulkan、ROCm 10.0、SYCL、OpenVINO,以及 Snapdragon 的 Adreno GPU 與 Hexagon NPU 版本。