AISpot

llama.cpp server 新增 /tts 語音合成介面

llama.cpp releases版本更新地端推論開源

llama.cpp 的 server 在 b11781 建置中加入 POST /tts 端點,可直接為 TTS 模型提供語音合成服務。該端點支援通過 form-data 上傳 speaker_ref 參考音色、向 API 暴露 seed,並補齊 /tts 的路由、文件與 server_schema;mtmd 同時新增音訊輸出流 API。

語音合成被做成 llama.cpp 服務端的標準端點,本地部署 TTS 不必再自己拼介面,對用 llama.cpp 自建推理服務的人最直接。

原標題:b11781
閱讀原文

評分76 / 70(平均 73,門檻 60)
狀態精選

全文翻譯

server:為 TTS 模型新增 POST /tts 端點(#26603) mtmd:新增音訊輸出流 API 新增 /tts 端點 新增文件 接通 mtmd_helper_model_can_chat 通過 form-data 上傳 speaker_ref 向 API 暴露 seed 修復 pcm 的 header wip 修復 penalty_last_n 修復 server_output_limits 修復 pocket-tts 流 wip 新增用於 tts 的 server_schema 新增伺服器路由 server:從 multipart 表單欄位強制轉換 seed 和 stream 表單欄位以字串形式到達,因此 -F seed=42 和 -F stream=true 被 schema 拒絕。seed 加入整數字段,按 long long 解析,以便完整的 uint32 seed 可以容納,而 stream 在 以字串形式到達時按布林值讀取。 Co-authored-by: Pascal [email protected] 網站: https://llama.app 認證: https://github.com/ggml-org/llama.cpp/attestations/58065712 macOS/iOS: macOS Apple Silicon(arm64) macOS Apple Silicon(arm64,啟用 KleidiAI)已停用 macOS Intel(x64) iOS XCFramework Linux: Ubuntu x64(CPU) Ubuntu arm64(CPU) Ubuntu s390x(CPU) Ubuntu x64(Vulkan) Ubuntu arm64(Vulkan) Ubuntu x64(CUDA 12)- CUDA 12.8 庫 Ubuntu x64(CUDA 13)- CUDA 13.4 庫 Ubuntu arm64(CUDA 13)- CUDA 13.4 庫 Ubuntu x64(ROCm 10.0) Ubuntu x64(OpenVINO) Ubuntu x64(SYCL FP32) Ubuntu x64(SYCL FP16) Linux arm64(Snapdragon:CPU、Adreno GPU、Hexagon NPU)- 安裝指南 Android: Android arm64(CPU) Android arm64(Snapdragon:CPU、Adreno GPU、Hexagon NPU)- 安裝指南 Windows: Windows x64(CPU) Windows arm64(CPU) Windows arm64(OpenCL Adreno) Windows x64(CUDA 12)- CUDA 12.4 DLL Windows x64(CUDA 13)- CUDA 13.4 DLL Windows arm64(CUDA 13)- CUDA 13.4 DLL Windows x64(Vulkan) Windows arm64(Vulkan) Windows x64(OpenVINO) Windows x64(SYCL) Windows x64(ROCm 10.0) openEuler: 已停用 openEuler x86(310p) openEuler x86(910b,ACL Graph) openEuler aarch64(310p) openEuler aarch64(910b,ACL Graph) UI: UI

由 AI 翻譯,以原文為準。

原文
server : add POST /tts endpoint for TTS models ( #26603 ) mtmd: add audio out stream api add /tts endpoint add docs wire up mtmd_helper_model_can_chat upload speaker_ref via form-data expose seed to api fix header for pcm wip fix penalty_last_n fix server_output_limits fix pocket-tts stream wip add server_schema for tts add server routing server: coerce seed and stream from multipart form fields Form fields arrive as strings, so -F seed=42 and -F stream=true were rejected by the schema. seed joins the integer fields, parsed as a long long so a full uint32 seed fits, and stream is read as a boolean when it comes as a string. Co-authored-by: Pascal [email protected] Website: https://llama.app Attestations: https://github.com/ggml-org/llama.cpp/attestations/58065712 macOS/iOS: macOS Apple Silicon (arm64) macOS Apple Silicon (arm64, KleidiAI enabled) DISABLED macOS Intel (x64) iOS XCFramework Linux: Ubuntu x64 (CPU) Ubuntu arm64 (CPU) Ubuntu s390x (CPU) Ubuntu x64 (Vulkan) Ubuntu arm64 (Vulkan) Ubuntu x64 (CUDA 12) - CUDA 12.8 libraries Ubuntu x64 (CUDA 13) - CUDA 13.4 libraries Ubuntu arm64 (CUDA 13) - CUDA 13.4 libraries Ubuntu x64 (ROCm 10.0) Ubuntu x64 (OpenVINO) Ubuntu x64 (SYCL FP32) Ubuntu x64 (SYCL FP16) Linux arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - setup guide Android: Android arm64 (CPU) Android arm64 (Snapdragon: CPU, Adreno GPU, Hexagon NPU) - setup guide Windows: Windows x64 (CPU) Windows arm64 (CPU) Windows arm64 (OpenCL Adreno) Windows x64 (CUDA 12) - CUDA 12.4 DLLs Windows x64 (CUDA 13) - CUDA 13.4 DLLs Windows arm64 (CUDA 13) - CUDA 13.4 DLLs Windows x64 (Vulkan) Windows arm64 (Vulkan) Windows x64 (OpenVINO) Windows x64 (SYCL) Windows x64 (ROCm 10.0) openEuler: DISABLED openEuler x86 (310p) openEuler x86 (910b, ACL Graph) openEuler aarch64 (310p) openEuler aarch64 (910b, ACL Graph) UI: UI

相關報導

llama.cpp releases● 精選AI 評分75

llama.cpp 新增即時語音轉寫 API

llama.cpp 的 server 加入 Realtime transcription API,可按 GA Realtime 規範提供基於 WebSocket 的即時語音轉寫會話,會話物件採用 type transcription,輸入格式、轉寫模型、輪次檢測與降噪放在 audio.input 下。API key 中介軟體現在會在 WebSocket 握手階段鑑權,支援 Bearer、原始 key 與 X-Api-Key,401 在升級前返回;

llama.cpp releasesAI 評分46

llama.cpp 新增 LiquidAI d1-omni-600M 決策模型

llama.cpp 建置 b11488 新增 LiquidAI/d1-omni-600M 決策模型支援,服務端可通過 images 與 input_audio 直接接收音訊輸入,模型與多模態輸入打通。同時決策型別 d1omni 更名為 lfm2-d1-omni,images 成為 files 的別名,無記憶的 lfm2 被限定為非因果模式,CUDA 後端保留 conformer 的 GLU sigmoid。四筆改動均標註由 Claude Opus 5.5 協助完成;

llama.cpp releasesAI 評分42

llama.cpp b11521 服務端預設埠改為 9931

llama.cpp 新版本 b11521 把內建 server 的預設埠改為 9931,依賴預設埠的啟動指令碼與容器埠對映需相應調整。該版本同時放出各平台預編譯包,覆蓋 macOS Apple Silicon、iOS XCFramework、Ubuntu(CUDA 12/13、Vulkan、ROCm 10.0、OpenVINO、SYCL)、Windows x64/arm64、Android,以及 Snapdragon 的 CPU、Adreno GPU 與 Hexagon…