llama.cpp 加入 Chatterbox TTS 語音合成支援
llama.cpp 建置 b12097 在 mtmd 多模態模組中新增 Chatterbox TTS 語音合成支援,並帶有內建音色支援,改動來自合併的 PR #30993,Hugging Face 的 Sigbjørn Skjæret 等人參與評審。
llama.cpp 把 Chatterbox TTS 併入 mtmd 多模態模組,讓本地推理棧直接具備語音合成與內建音色能力,對用 llama.cpp 搭建本地語音或多模態流程的開發者最有參考價值。
原標題:b12097
閱讀原文
| 評分 | 48 / 62(平均 55,門檻 60) |
|---|---|
| 狀態 | 未入選 |
原文
相關報導
llama.cpp server 新增 /tts 語音合成介面
llama.cpp 的 server 在 b11781 建置中加入 POST /tts 端點,可直接為 TTS 模型提供語音合成服務。該端點支援通過 form-data 上傳 speaker_ref 參考音色、向 API 暴露 seed,並補齊 /tts 的路由、文件與 server_schema;mtmd 同時新增音訊輸出流 API。
llama.cpp 支援 Pocket TTS 預置音色,無需音色克隆
llama.cpp 建置 b12061 為 Kyutai 的 pocket-tts 模型加入免克隆的預置音色支援,使用者不必提供參考音訊即可選音色。轉換指令碼把官方權重中的音色狀態還原成提示嵌入並寫入 mmproj,服務端在 GET /props 的 voices 欄位列出可用音色,/tts 的 voice 欄位與 --tts-voice 引數用於選擇。未指定音色時預設取第一個預置音色,否則輸出近乎靜音;
llama.cpp 新增 Nemotron 3.5 Transcribe 支援
llama.cpp 建置 b12087 通過 mtmd 加入 Nemotron 3.5 Transcribe 語音轉寫支援,並校驗其 mmproj 形狀、在 encode_windows 中歸一化 mel。convert 工具修復 Nemotron-H 目標下 draft 模型的詞表、對映生成的 speaker kernel,並拒絕非 BF16 的 Transcribe checkpoint。mtmd 的 speaker FIFO 預測改為本地計算。
llama.cpp 新增 mtmd_audio_stream,支援 Voxtral Realtime
llama.cpp 發布 b11675 建置,在 mtmd 多模態工具庫中新增 mtmd_audio_stream 介面,並加入對 Voxtral Realtime 即時音訊模型的支援。
llama.cpp b11899 更新:mtmd 新增能力查詢介面並支援音訊流
llama.cpp 發布 b11899 建置,多模態模組 mtmd 新增 mtmd_helper_get_capabilities 介面,用於查詢模型能力,並加入 audio_stream 音訊流支援,同時恢復舊 API 以保持相容,涉及 audio_gen_spk_ref 與 text_gen。