AISpot

llama.cpp b11899 更新:mtmd 新增能力查詢介面並支援音訊流

llama.cpp releases版本更新地端推論開源開發工具

llama.cpp 發布 b11899 建置,多模態模組 mtmd 新增 mtmd_helper_get_capabilities 介面,用於查詢模型能力,並加入 audio_stream 音訊流支援,同時恢復舊 API 以保持相容,涉及 audio_gen_spk_ref 與 text_gen。

原標題:b11899
閱讀原文

評分42 / 42(平均 42,門檻 60)
狀態未入選

原文

mtmd: add mtmd_helper_get_capabilities ( #31183 ) mtmd: add mtmd_helper_get_capabilities cap audio_stream add back old api for compat audio_gen_spk_ref, text_gen Website: https://llama.app Attestations: https://github.com/ggml-org/llama.cpp/attestations/59906184 macOS/iOS: macOS Apple Silicon (arm64) macOS Apple Silicon (arm64, KleidiAI enabled) DISABLED macOS Intel (x64) iOS XCFramework Linux: Ubuntu x64 (CPU) Ubuntu arm64 (CPU) Ubuntu s390x (CPU) Ubuntu x64 (Vulkan) Ubuntu arm64 (Vulkan) Ubuntu x64 (CUDA 12) - CUDA 12.8 libraries Ubuntu x64 (CUDA 13) - CUDA 13.4 libraries Ubuntu arm64 (CUDA 13) - CUDA 13.4 libraries Ubuntu x64 (ROCm 10.0) Ubuntu x64 (OpenVINO) Ubuntu x64 (SYCL FP32) Ubuntu x64 (SYCL FP16) Linux arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - setup guide Android: Android arm64 (CPU) Android arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - setup guide Windows: Windows x64 (CPU) Windows arm64 (CPU) Windows arm64 (OpenCL Adreno) Windows x64 (CUDA 12) - CUDA 12.4 DLLs Windows x64 (CUDA 13) - CUDA 13.4 DLLs Windows arm64 (CUDA 13) - CUDA 13.4 DLLs Windows x64 (Vulkan) Windows arm64 (Vulkan) Windows x64 (OpenVINO) Windows x64 (SYCL) Windows x64 (ROCm 10.0) openEuler: DISABLED openEuler x86 (310p) openEuler x86 (910b, ACL Graph) openEuler aarch64 (310p) openEuler aarch64 (910b, ACL Graph) UI: UI

相關報導

llama.cpp releasesAI 評分29

llama.cpp 發布 b11796,為 mtmd_gen 增加狀態物件

llama.cpp 發布建置版本 b11796,核心改動是為多模態生成介面 mtmd_gen 增加狀態物件(#30902),即把生成狀態獨立管理。該版本照例提供 macOS/iOS、Linux、Android、Windows 的多後端預編譯包,覆蓋 Apple Silicon、CUDA 12/13、Vulkan、ROCm 10.0、OpenVINO、SYCL 與驍龍 CPU/Adreno/Hexagon。

llama.cpp releases● 精選AI 評分76

llama.cpp 在 mtmd 中支援 Soprano TTS 語音模型

llama.cpp 合併 PR #28607,在 mtmd 中加入 Soprano TTS 語音生成支援,可載入 Soprano-80M 與 Soprano-1.1-80M。兩個模型均為 Qwen3 主幹加 Vocos 解碼器:轉換指令碼可自動識別 checkpoint,把主幹匯出為 qwen3、把 decoder.pth 匯出為 mmproj,同時新增 Soprano 預分詞器(小寫、空白摺疊、逐數字切分、[UNK] 兜底)與 Vocos 計算圖和 ISTFT。

llama.cpp releasesAI 評分46

llama.cpp 新增 LiquidAI d1-omni-600M 決策模型

llama.cpp 建置 b11488 新增 LiquidAI/d1-omni-600M 決策模型支援,服務端可通過 images 與 input_audio 直接接收音訊輸入,模型與多模態輸入打通。同時決策型別 d1omni 更名為 lfm2-d1-omni,images 成為 files 的別名,無記憶的 lfm2 被限定為非因果模式,CUDA 後端保留 conformer 的 GLU sigmoid。四筆改動均標註由 Claude Opus 5.5 協助完成;