10 月 21 日,llama.cpp 發布 b11780,其 server 按 GA Realtime 規範新增基於 WebSocket 的即時語音轉寫 API:會話物件型別為 transcription,輸入格式、轉寫模型、輪次檢測與降噪都放在 audio.input 下。API key 中介軟體改為在 WebSo… 看完整事件
llama.cpp 修復 realtime API 音訊提交時序
llama.cpp 建置 b11828 修復了 server 端 realtime API 的音訊提交時機問題:原先把「流耗盡」當作提交完成的近似判斷,導致尾部仍在解碼的音訊混入已提交內容、drain 前的最後一次提交把兩段音訊合併、連續提交塌縮成一次。現在 mtmd_audio_stream_flush() 會記錄本次重新整理音訊的結束行號,槽位維護結束行 FIFO,等該行之前的全部行解碼完畢才完成對應提交。
原標題:b11828
閱讀原文
| 評分 | 42 / 42(平均 42,門檻 60) |
|---|---|
| 狀態 | 未入選 |
原文
相關報導
llama.cpp 新增 mtmd_audio_stream,支援 Voxtral Realtime
llama.cpp 發布 b11675 建置,在 mtmd 多模態工具庫中新增 mtmd_audio_stream 介面,並加入對 Voxtral Realtime 即時音訊模型的支援。
llama.cpp server 新增 /tts 語音合成介面
llama.cpp 的 server 在 b11781 建置中加入 POST /tts 端點,可直接為 TTS 模型提供語音合成服務。該端點支援通過 form-data 上傳 speaker_ref 參考音色、向 API 暴露 seed,並補齊 /tts 的路由、文件與 server_schema;mtmd 同時新增音訊輸出流 API。
llama.cpp server 拒絕部分媒體截斷
llama.cpp 發布 b11415,其 server 端現在會拒絕部分媒體截斷(partial media truncation)的請求。此次提交只保留 keep_first 修復,去掉了 mtmd 測試輔助改動——clip_image_f32_batch 改為按值儲存條目後該改動已無法編譯;同時刪除視覺測試,因為沒有測試夾具能在複用快取的情況下切到兩個相鄰媒體塊之間,該測試與修復本身無關。
llama.cpp b11538 修復 MSVC 下 CUDA 舍入問題
llama.cpp 發布 b11538 建置,修復 CUDA 後端的舍入問題,使 MSVC 下 CPU 與 GPU 的計算結果一致。本次發布包覆蓋 macOS/iOS、Linux、Windows、Android 與 openEuler,其中 CUDA 12/13 預編譯包分別對應 CUDA 12.8 與 13.4 庫,Linux 與 Windows x64 另有 ROCm 10.0、OpenVINO、SYCL、Vulkan 建置,Snapdragon 平台提供 CPU、Adr…
llama.cpp 修復 Responses API 流式事件缺失 output_index
llama.cpp 發布建置 b11768,修復 Responses API 的 SSE 事件中缺失 output_index 的相容性問題:新版本複用 Anthropic 流式程式碼,並移除多餘的 generated_tool_call_ids 與 oai_resp_tool_calls_started。