llama.cpp releasesAI 評分42
llama.cpp 即時介面異常不再崩潰,改為返回 error 事件
llama.cpp 建置 b12119 中,server 的 realtime(WebSocket)介面遇到異常時不再讓程序崩潰,而是向客戶端傳送 error 事件。同一批改動把 WebSocket 處理器統一走 ex_wrapper,並在聊天模板拒絕新工具時保留上一輪的工具列表。語法無法轉換的工具 schema 現在會被直接拒絕。
找到 3 筆;也可以試試 語意搜尋
llama.cpp 建置 b12119 中,server 的 realtime(WebSocket)介面遇到異常時不再讓程序崩潰,而是向客戶端傳送 error 事件。同一批改動把 WebSocket 處理器統一走 ex_wrapper,並在聊天模板拒絕新工具時保留上一輪的工具列表。語法無法轉換的工具 schema 現在會被直接拒絕。
llama.cpp 的 server 加入 Realtime transcription API,可按 GA Realtime 規範提供基於 WebSocket 的即時語音轉寫會話,會話物件採用 type transcription,輸入格式、轉寫模型、輪次檢測與降噪放在 audio.input 下。API key 中介軟體現在會在 WebSocket 握手階段鑑權,支援 Bearer、原始 key 與 X-Api-Key,401 在升級前返回;
llama.cpp 建置 b11828 修復了 server 端 realtime API 的音訊提交時機問題:原先把「流耗盡」當作提交完成的近似判斷,導致尾部仍在解碼的音訊混入已提交內容、drain 前的最後一次提交把兩段音訊合併、連續提交塌縮成一次。現在 mtmd_audio_stream_flush() 會記錄本次重新整理音訊的結束行號,槽位維護結束行 FIFO,等該行之前的全部行解碼完畢才完成對應提交。