llama.cpp 服務端新增 /v1/realtime 即時對話與轉寫
llama.cpp 服務端在 /v1/realtime 介面上新增即時對話與語音轉寫能力。範例客戶端預設改為連線伺服器埠 9931,並改用模型卡中的 prompt。此次還修正了多 slot 併發取樣:此前在同一步驟開頭取樣會讀到最後一個解碼 slot 的 logits,導致併發會話輸出互相混淆,現在改為每個 slot 在自身解碼後立即取樣;
找到 6 筆
llama.cpp 服務端在 /v1/realtime 介面上新增即時對話與語音轉寫能力。範例客戶端預設改為連線伺服器埠 9931,並改用模型卡中的 prompt。此次還修正了多 slot 併發取樣:此前在同一步驟開頭取樣會讀到最後一個解碼 slot 的 logits,導致併發會話輸出互相混淆,現在改為每個 slot 在自身解碼後立即取樣;
llama.cpp 發布 v0.8.0,新增 LiquidAI LFM3 模型家族,包括文字 LFM3-1.7B、視覺 LFM3-VL-2B、音訊 LFM3-Audio-2B 與 LFM3-Omni-2B,並配套實驗性流式音訊輸入 API。服務端新增 /v1/realtime 端點,實現 OpenAI realtime 協議,用於即時對話與轉寫,另有 POST /tts 文字轉語音端點,推理努力等級也可通過 API 選擇。
Meta CEO 馬克·扎克伯格宣布,Muse AI 助手已支援即時語音對話,該功能已在 iOS 應用上線。聊天時頂部的虛擬形象會隨說話內容同步做動畫;使用者可以直接用語音告訴助手想要什麼語氣、由它自行決定,也可以在形象設定裡挑選預設音色。實測中語音回覆速度較快,但助手查詢資訊時偶爾會停頓。
Google 推出 Gemini 3.8 Live with Live Avatar,在原生即時對話模型上加入近即時影片生成,讓 AI 能聽、能看、能說並帶動態虛擬形象。該功能即日起在 Gemini Enterprise 上線,支援 97 種語言的原生語音到語音同步,唇形與表情可隨語言切換自適應。它支援非同步工具呼叫,可在對話不中斷的情況下後臺取數,輸出內容統一嵌入 SynthID 水印;自訂虛擬形象目前僅通過企業白名單開放。
香港中文大學(深圳)與安菲翁科技提出 DuplexAgent-RSI,讓語音智慧體在全雙工即時對話的同時,把搜尋、推理與編碼任務交給後臺執行。系統以 Policy、Intake、Hold、Worker、Deliver、Memory 六個模組組成協作控制層,並用 Duplex-Harness-RSI 在模擬測試中自動出題、診斷失敗、配對驗證,迭代協作規則。
百度 10 月 30 日升級搜尋 AI API,限時最低價 4.9 元/千次查詢,低於 DeepSeek 搜尋 API 報價。官方稱搜尋已實現遞迴自我進化,把真實檢索與使用者反饋沉澱為訓練訊號閉環迴流,整體迭代效率提升 80% 以上。產品側同步升級搜尋框(多步查詢後直接交付結果,覆蓋 170 餘種工具場景)、AI 鏡頭(多目標追蹤與 9 種方言即時對話)和 GUI 視覺化(場景覆蓋提升 5 倍),並推出 AI 互動劇與互動應用。