AISpot

llama.cpp 新增 mtmd_audio_stream，支援 Voxtral Realtime

llama.cpp releases版本更新地端推論開源開發工具

llama.cpp 發布 b11675 建置，在 mtmd 多模態工具庫中新增 mtmd_audio_stream 介面，並加入對 Voxtral Realtime 即時音訊模型的支援。

llama.cpp 新增音訊流式介面 mtmd_audio_stream 並支援 Voxtral Realtime，本地推理可接入即時語音模型，同時列出各平台後端建置狀態，對用 llama.cpp 做多模態與即時音訊的開發者有參考價值。

llama.cppVoxtral即時音訊本地推理開源

原標題：b11675
閱讀原文

評分65 / 66（平均 65，門檻 60）
狀態精選

全文翻譯

mtmd：新增 mtmd_audio_stream + 支援 voxtral-realtime ( #30629 ) mtmd：新增 mtmd_audio_stream + 支援 voxtral-realtime 處理審查意見 網站： https://llama.app 證明： https://github.com/ggml-org/llama.cpp/attestations/56510441 macOS/iOS： - macOS Apple Silicon (arm64) - macOS Apple Silicon (arm64, KleidiAI enabled) 已停用 - macOS Intel (x64) - iOS XCFramework Linux： - Ubuntu x64 (CPU) - Ubuntu arm64 (CPU) - Ubuntu s390x (CPU) - Ubuntu x64 (Vulkan) - Ubuntu arm64 (Vulkan) - Ubuntu x64 (CUDA 12) - CUDA 12.8 庫 - Ubuntu x64 (CUDA 13) - CUDA 13.4 庫 - Ubuntu arm64 (CUDA 13) - CUDA 13.4 庫 - Ubuntu x64 (ROCm 10.0) - Ubuntu x64 (OpenVINO) - Ubuntu x64 (SYCL FP32) - Ubuntu x64 (SYCL FP16) - Linux arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - 設定指南 Android： - Android arm64 (CPU) - Android arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - 設定指南 Windows： - Windows x64 (CPU) - Windows arm64 (CPU) - Windows arm64 (OpenCL Adreno) - Windows x64 (CUDA 12) - CUDA 12.4 DLLs - Windows x64 (CUDA 13) - CUDA 13.4 DLLs - Windows arm64 (CUDA 13) - CUDA 13.4 DLLs - Windows x64 (Vulkan) - Windows arm64 (Vulkan) - Windows x64 (OpenVINO) - Windows x64 (SYCL) - Windows x64 (ROCm 10.0) openEuler： - 已停用 - openEuler x86 (310p) - openEuler x86 (910b, ACL Graph) - openEuler aarch64 (310p) - openEuler aarch64 (910b, ACL Graph) UI： - UI

由 AI 翻譯，以原文為準。

原文
mtmd: add mtmd_audio_stream + support voxtral-realtime ( #30629 ) mtmd: add mtmd_audio_stream + support voxtral-realtime address review Website: https://llama.app Attestations: https://github.com/ggml-org/llama.cpp/attestations/56510441 macOS/iOS: macOS Apple Silicon (arm64) macOS Apple Silicon (arm64, KleidiAI enabled) DISABLED macOS Intel (x64) iOS XCFramework Linux: Ubuntu x64 (CPU) Ubuntu arm64 (CPU) Ubuntu s390x (CPU) Ubuntu x64 (Vulkan) Ubuntu arm64 (Vulkan) Ubuntu x64 (CUDA 12) - CUDA 12.8 libraries Ubuntu x64 (CUDA 13) - CUDA 13.4 libraries Ubuntu arm64 (CUDA 13) - CUDA 13.4 libraries Ubuntu x64 (ROCm 10.0) Ubuntu x64 (OpenVINO) Ubuntu x64 (SYCL FP32) Ubuntu x64 (SYCL FP16) Linux arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - setup guide Android: Android arm64 (CPU) Android arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - setup guide Windows: Windows x64 (CPU) Windows arm64 (CPU) Windows arm64 (OpenCL Adreno) Windows x64 (CUDA 12) - CUDA 12.4 DLLs Windows x64 (CUDA 13) - CUDA 13.4 DLLs Windows arm64 (CUDA 13) - CUDA 13.4 DLLs Windows x64 (Vulkan) Windows arm64 (Vulkan) Windows x64 (OpenVINO) Windows x64 (SYCL) Windows x64 (ROCm 10.0) openEuler: DISABLED openEuler x86 (310p) openEuler x86 (910b, ACL Graph) openEuler aarch64 (310p) openEuler aarch64 (910b, ACL Graph) UI: UI

相關報導

llama.cpp releasesAI 評分46

llama.cpp 新增 LiquidAI d1-omni-600M 決策模型

llama.cpp 建置 b11488 新增 LiquidAI/d1-omni-600M 決策模型支援，服務端可通過 images 與 input_audio 直接接收音訊輸入，模型與多模態輸入打通。同時決策型別 d1omni 更名為 lfm2-d1-omni，images 成為 files 的別名，無記憶的 lfm2 被限定為非因果模式，CUDA 後端保留 conformer 的 GLU sigmoid。四筆改動均標註由 Claude Opus 5.5 協助完成；

地端推論開源llama.cppLiquidAId1-omni-600M多模態本地推理
2 個來源 · 2 則報導閱讀原文
llama.cpp releases● 精選AI 評分77

llama.cpp 新增 Muse Spark Open 多模態模型支援

llama.cpp 合併 PR #30616，新增 Muse Spark Open 模型支援，可處理文字、視覺與音訊三種輸入。該模型是 latent space MoE：殘差流保持 8192 維，256 個專家位於 4096 維，經上下投影連線，採用 top-8 sigmoid 路由與修正偏置，注意力為三層 2048 視窗滑窗加一層無 rope 的全域性層。

模型地端推論Muse Spark Openllama.cppMoE多模態本地推理
8 個來源 · 11 則報導閱讀原文
llama.cpp releasesAI 評分18

llama.cpp 修復 Windows 下 mtmd 的 strdup 棄用警告

llama.cpp 合併提交 #29863，修復 mtmd 在 Windows 上使用已棄用 strdup 函式產生的編譯警告，由 Hugging Face 的 Adrien Gallouët 提交。該提交隨新版本發布，覆蓋 macOS、Linux、Windows、Android 及 openEuler 等多個平台建置，其中 macOS Apple Silicon 的 KleidiAI 啟用版與 openEuler 部分建置被標記為 DISABLED。

地端推論開源llama.cppWindows建置發布strdup
1 個來源 · 2 則報導閱讀原文