llama.cpp server 新增 /tts 語音合成介面
llama.cpp 的 server 在 b11781 建置中加入 POST /tts 端點,可直接為 TTS 模型提供語音合成服務。該端點支援通過 form-data 上傳 speaker_ref 參考音色、向 API 暴露 seed,並補齊 /tts 的路由、文件與 server_schema;mtmd 同時新增音訊輸出流 API。
語音合成被做成 llama.cpp 服務端的標準端點,本地部署 TTS 不必再自己拼介面,對用 llama.cpp 自建推理服務的人最直接。
原標題:b11781
閱讀原文
| 評分 | 76 / 70(平均 73,門檻 60) |
|---|---|
| 狀態 | 精選 |
全文翻譯
由 AI 翻譯,以原文為準。
原文
相關報導
llama.cpp 新增即時語音轉寫 API
llama.cpp 的 server 加入 Realtime transcription API,可按 GA Realtime 規範提供基於 WebSocket 的即時語音轉寫會話,會話物件採用 type transcription,輸入格式、轉寫模型、輪次檢測與降噪放在 audio.input 下。API key 中介軟體現在會在 WebSocket 握手階段鑑權,支援 Bearer、原始 key 與 X-Api-Key,401 在升級前返回;
llama.cpp 新增 mtmd_audio_stream,支援 Voxtral Realtime
llama.cpp 發布 b11675 建置,在 mtmd 多模態工具庫中新增 mtmd_audio_stream 介面,並加入對 Voxtral Realtime 即時音訊模型的支援。
llama.cpp 新增 LiquidAI d1-omni-600M 決策模型
llama.cpp 建置 b11488 新增 LiquidAI/d1-omni-600M 決策模型支援,服務端可通過 images 與 input_audio 直接接收音訊輸入,模型與多模態輸入打通。同時決策型別 d1omni 更名為 lfm2-d1-omni,images 成為 files 的別名,無記憶的 lfm2 被限定為非因果模式,CUDA 後端保留 conformer 的 GLU sigmoid。四筆改動均標註由 Claude Opus 5.5 協助完成;
llama.cpp b11521 服務端預設埠改為 9931
llama.cpp 新版本 b11521 把內建 server 的預設埠改為 9931,依賴預設埠的啟動指令碼與容器埠對映需相應調整。該版本同時放出各平台預編譯包,覆蓋 macOS Apple Silicon、iOS XCFramework、Ubuntu(CUDA 12/13、Vulkan、ROCm 10.0、OpenVINO、SYCL)、Windows x64/arm64、Android,以及 Snapdragon 的 CPU、Adreno GPU 與 Hexagon…
llama.cpp 為 Mellum2.1 與 Mellum 加入 MTP 支援
llama.cpp 建置 b11695 為 Mellum2.1 和 Mellum 加入 MTP(多 token 預測)支援,並把 Mellum 的 rope 構造改為內聯方式。