llama.cpp 修復 realtime API 音訊提交時序
llama.cpp 建置 b11828 修復了 server 端 realtime API 的音訊提交時機問題:原先把「流耗盡」當作提交完成的近似判斷,導致尾部仍在解碼的音訊混入已提交內容、drain 前的最後一次提交把兩段音訊合併、連續提交塌縮成一次。現在 mtmd_audio_stream_flush() 會記錄本次重新整理音訊的結束行號,槽位維護結束行 FIFO,等該行之前的全部行解碼完畢才完成對應提交。
10 月 21 日,llama.cpp 發布 b11780,其 server 按 GA Realtime 規範新增基於 WebSocket 的即時語音轉寫 API:會話物件型別為 transcription,輸入格式、轉寫模型、輪次檢測與降噪都放在 audio.input 下。API key 中介軟體改為在 WebSocket 握手階段鑑權,支援 Bearer、原始 key 與 X-Api-Key 三種形式,鑑權失敗會在升級前返回 401。該版本還修復了若干會話排程問題:等待音訊的即時槽位不再落入 prompt loop 去搶佔 slot_batched,槽位就緒後才啟動會話,並在 input_audio_buffer.committed 中按規範給出 item_id 與 previous_item_id。10 月 22 日的 b11828 修復音訊提交時序:此前以「流耗盡」作為提交完成的近似判斷,會讓尾部仍在解碼的音訊混入已提交內容、drain 前最後一次提交合並兩段音訊、連續提交被壓縮成一次;現在 mtmd_audio_stream_flush() 記錄本次重新整理音訊的結束行號,槽位維護結束行 FIFO,等該行之前的全部行解碼完畢才完成對應提交。該建置的 attestation 列表中,macOS Apple Silicon 的 KleidiAI 版本標註為 DISABLED。這會直接影響在本地或自建 server 上做即時語音轉寫的使用者,使其會話邊界與鑑權行為更可靠。
AI 根據 2 則報導生成 · 更新
沿著報導,了解事件的不同側面;點標題看單篇報導的摘要與原文連結。
llama.cpp 建置 b11828 修復了 server 端 realtime API 的音訊提交時機問題:原先把「流耗盡」當作提交完成的近似判斷,導致尾部仍在解碼的音訊混入已提交內容、drain 前的最後一次提交把兩段音訊合併、連續提交塌縮成一次。現在 mtmd_audio_stream_flush() 會記錄本次重新整理音訊的結束行號,槽位維護結束行 FIFO,等該行之前的全部行解碼完畢才完成對應提交。
llama.cpp 的 server 加入 Realtime transcription API,可按 GA Realtime 規範提供基於 WebSocket 的即時語音轉寫會話,會話物件採用 type transcription,輸入格式、轉寫模型、輪次檢測與降噪放在 audio.input 下。API key 中介軟體現在會在 WebSocket 握手階段鑑權,支援 Bearer、原始 key 與 X-Api-Key,401 在升級前返回;
過去 48 小時,有 1 個獨立來源報導,最近 6 小時新增 0 個。熱度 0.3,熱門榜第 225 名。
熱度以 48 小時內的獨立來源計,同一來源只算一次,每 24 小時權重減半。
同一事件的報導集中在這裡,新的進展會繼續補充。