搜尋：realtime API

llama.cpp releases10/22 23:29AI 評分42

llama.cpp 修復 realtime API 音訊提交時序

llama.cpp 建置 b11828 修復了 server 端 realtime API 的音訊提交時機問題：原先把「流耗盡」當作提交完成的近似判斷，導致尾部仍在解碼的音訊混入已提交內容、drain 前的最後一次提交把兩段音訊合併、連續提交塌縮成一次。現在 mtmd_audio_stream_flush() 會記錄本次重新整理音訊的結束行號，槽位維護結束行 FIFO，等該行之前的全部行解碼完畢才完成對應提交。

地端推論開源 llama.cpp realtime API 音訊流提交時序版本發布

1 個來源 · 2 則報導閱讀原文

llama.cpp releases● 精選10/21 04:14AI 評分75

llama.cpp 新增即時語音轉寫 API

llama.cpp 的 server 加入 Realtime transcription API，可按 GA Realtime 規範提供基於 WebSocket 的即時語音轉寫會話，會話物件採用 type transcription，輸入格式、轉寫模型、輪次檢測與降噪放在 audio.input 下。API key 中介軟體現在會在 WebSocket 握手階段鑑權，支援 Bearer、原始 key 與 X-Api-Key，401 在升級前返回；

地端推論開源 llama.cpp 即時轉錄 WebSocket Realtime API

1 個來源 · 2 則報導閱讀原文