llama.cpp server 新增 /tts 語音合成介面
llama.cpp 的 server 在 b11781 建置中加入 POST /tts 端點,可直接為 TTS 模型提供語音合成服務。該端點支援通過 form-data 上傳 speaker_ref 參考音色、向 API 暴露 seed,並補齊 /tts 的路由、文件與 server_schema;mtmd 同時新增音訊輸出流 API。
依意思最接近的 30 筆
llama.cpp 的 server 在 b11781 建置中加入 POST /tts 端點,可直接為 TTS 模型提供語音合成服務。該端點支援通過 form-data 上傳 speaker_ref 參考音色、向 API 暴露 seed,並補齊 /tts 的路由、文件與 server_schema;mtmd 同時新增音訊輸出流 API。
Mistral 發布語音合成模型 Voxtral Mini TTS 3,官方稱其在 35 種以上語言和 50 多種方言上達到當前最佳的表達力。模型支援隱式指令跟隨,能從對話內容中讀出情緒、語速與重音;也支援顯式控制,用 [emotion=sad][pace=slow] 這類標籤逐行設定情緒和節奏。
開發者 Saarth 發布免費開源的 macOS 語音助手 Atticus:按住 Control-Option-Space 說出或輸入任務,開啟應用、播放 Spotify 歌單、網頁搜尋等簡單操作完全本地處理,通常一秒內完成,開啟應用約 0.08 秒;複雜任務則通過 claude -p 轉交 Claude,因此不需要 API key,直接用已有的 Claude Pro 或 Max 訂閱,平均單個任務成本不到一美分。
OpenAI 開發者帳號宣布新增九個語音預設,全部由法語、德語、印地語、日語和韓語的母語演員錄製,覆蓋五種語言。官方同步給出 custom voices 入門指南連結,指向 developers.openai.com 的 API 文件,供開發者瞭解如何開始使用。推文未說明音色名稱、可用模型、價格與開放範圍。
ChatGPT Voice 開始推送 GPT-Live-1.1 及其輕量版 GPT-Live-1.1 Quip,跨語言的語音口音更自然,Live 在搜尋時會用更多樣的短句提示。新增語音覆蓋法語、德語、印地語、日語、韓語和墨西哥西班牙語,另有英語的 Bubbie,可見選項因地區和帳號而異。使用者可在 Settings > Voice 中選擇語音。
Reddit 的 r/LocalLLaMA 版塊一則帖子下,使用者討論用低成本硬體本地跑大模型。有人稱 2014 至 2018 年的 2 至 4 路 DDR3 CPU 伺服器最省錢,可讓 Qwen 3.8 Flash 跑到 15 tok/s 以上;也有人表示雙 7900XTX 不到 2000 美元即可支援 27B Q8 模型超過 220k 上下文。
OpenAI 為 ChatGPT、Codex 和 dots 的語音功能推送 GPT-Live-1.1,新增法語、德語、印地語、墨西哥西班牙語、韓語和日語的新語音,口音更自然,並減少了「checking...」這類停頓。該更新今日起向所有使用者推送,API 稍後支援。
LM Studio 推出 Read Aloud 朗讀功能,由本地小型 TTS 模型驅動。該模型是 GradiumAI 的 Phonon,語音合成在本地完成。官方目前只公布了模型來源,未說明支援的語言、平台、音色數量或可調引數。
《The Verge》一名作者開始連載自己日常使用本地 AI 的體驗,此前他一直不願把最私人的資料交給雲端服務。他認為如今在本地執行較強模型已越來越可行,但不確定是否值得為一臺配了大容量、價格不菲記憶體的電腦或筆記本花大錢。文章還提到 Apple 對新款 Mac 桌面機的宣傳。他自認不是 AI 專家,會邊用邊寫。
Mistral AI 公布 Voxtral Small Transcribe 3,稱其在多語言轉寫、說話人分離和上下文偏置三項能力上達到當前最優(state-of-the-art)。該模型能檢測說話人何時結束髮言,使語音 agent 無需等待即可及時回應,面向需要即時語音互動的場景。官方此次只披露能力定位,未公布引數規模、基準分數、價格、許可證或上線時間,也未給出與同類模型的對比結果和開放使用方式。
阿布扎比技術創新研究院(TII)發布 1.6B 引數的語音識別模型 Falcon-ASR,主打阿拉伯語與阿聯酋方言,同一套權重還支援英語、法語、西班牙語和葡萄牙語。在六個阿拉伯語測試集上,它取得 20.92% 的平均詞錯率,比其所用榜單快照中最佳公開結果 23.17% 低 2.25 個百分點;內部阿聯酋方言評測為 22.73% WER、10.19% CER,比次優的 Qwen3-Omni 低 4.07 個百分點。
SpaceXAI 宣布 Grok Voice 3.0 在語音 agent 任務上達到前沿水平,延遲較此前降低 40%。官方給出的落地案例是 SpaceX 內部:該模型能自主處理 70% 的 Starlink 客服來電,無需人工介入。官方本次只披露延遲降幅與自主解決率兩項指標,未說明模型規模、開放渠道、定價與上線時間,也未提供與其他語音模型的對比資料。
企業語音 AI 平台 PolyAI 的 CTO Shawn Wen 在 HumanX 大會上表示,全雙工模型雖已實現,語音 AI 仍未迎來自己的「ChatGPT 時刻」,下一步的關鍵是讓推理足夠快、對話足夠自然。會議記錄工具 Otter 的 CMO Alex Gay 指出,說話人識別、意圖捕捉並與組織知識結合才是自動化的關鍵,Otter 還在研發可代表參會者的數字孿生。兩人都提到 ASR 模型常漏掉關鍵詞,轉寫不準會讓後續動作全部出錯、使用者失去信任;
Cerebras 聯合創始人兼 CEO Andrew Feldman 在 TechCrunch Disrupt 2026 上稱,人人家裡都有一臺 AI 裝置的未來並不遙遠,個人 AI 助理會像手機一樣部分在本地執行、部分回到雲端。他預計這些助理會非常瞭解使用者、擁有獨立的安全邊界,還能接入信用卡代為購物。Feldman 自己已用一組 agent 整理日程、準備通話物件的背景資料,但他表示消費級創意留給其他創業者,Cerebras 只做平台。
ttok 1.0 發布,預設分詞器從 GPT-4 改為 GPT-5/GPT-6。OpenAI 尚未官方確認 GPT-6 沿用 GPT-5 系列的分詞器,但 William Liu 的實驗顯示,5.5、5.6 Sol/Terra/Luna 與 6 Astra/Sol/Luna 這七個 GPT 模型在 31 個樣本上 token 數完全一致,均為 44,794,GPT-6 在這批語料上沒有增加輸入 token。
Meta Omnilingual ASR 被《時代》評為 2026 年度最佳發明之一。這套模型系列可為 1600 多種語言提供語音識別能力,其中 500 種低覆蓋語言此前從未被任何 ASR 系統支援。Meta 表示,多數 ASR 系統只覆蓋網際網路語料充足的語言,此次發布是邁向通用轉錄系統的重要一步。
@SpaceXAI 發布語音到語音模型 Grok Voice 3.0,官方稱其為全球最智慧的語音到語音模型。該模型回應時間低於一秒,擅長處理客戶來電,且成本低於其他前沿模型。官方暫未公布具體價格、可用範圍與上線時間。
Mistral 在 Voxtral 3 中附帶發布了語音 agent SDK,底層基於 LiveKit 建置。該 SDK 把語音流程串成一條流式管線:Transcribe 負責收音轉寫,一個推理模型負責思考並呼叫工具,Speech 負責生成回覆,三段串聯以支援自然、即時的語音對話。官方推文只給出這套管線結構,未披露價格、上線時間與語言支援等細節。
AnyLanguageModel 1.0 發布:這個 Apple Foundation Models 框架的替代方案只需換成 import AnyLanguageModel,同一份會話程式碼即可呼叫系統模型、llama.cpp、MLX、Core ML 本地模型,以及 OpenAI、Anthropic、Gemini、Ollama、Private Cloud Compute 等託管服務。
Mistral 推出 Voxtral 3 語音模型系列,並配套語音 agent SDK,將監聽、推理、工具呼叫和發音整合進一條即時流式處理管線。轉寫模型 Voxtral Small Transcribe 3 支援 50+ 語言、說話人分離和關鍵詞上下文偏置,官方稱它在多語言轉寫與說話人分離基準上優於 Whisper、Scribe v2 和 Gemini 3.5 Transcribe;Mini 版僅有 4B 引數,每分鐘 0.0035 美元。
LLM 從零將 TypeScript 編譯器移植為 Rust 版 tsc-rs 併發布,Claude Opus 5.5 用兩週、約 24,047 美元 API 費用完成;此前用 OpenAI 的 GPT-5.6 Sol 與 GPT 6 Astra 花掉逾 40 萬美元仍未突破約 84% 相容度。
OpenAI 為 ChatGPT 加入音訊檔案上傳功能,可生成轉錄、總結錄音內容並針對錄音提問,還能把會議、訪談或講座整理成結構化筆記或跟進郵件草稿。該功能面向付費 ChatGPT 訂閱與工作區開放,實際可用性受工作區設定、地區、客戶端版本和模型影響。官方提示轉錄可能包含錯誤,不同語言的表現也存在差異。
Mistral AI 上線 Pro Voice 的專業語音適配功能:使用者錄製最長 30 分鐘音訊,即可高保真復刻自己的聲音。官方稱復刻後的音色可在其支援的所有語言中使用,並強調“極高保真度”。公告未披露該功能的開放範圍、訂閱價格與具體上線時間。
llama.cpp 的 server 加入 Realtime transcription API,可按 GA Realtime 規範提供基於 WebSocket 的即時語音轉寫會話,會話物件採用 type transcription,輸入格式、轉寫模型、輪次檢測與降噪放在 audio.input 下。API key 中介軟體現在會在 WebSocket 握手階段鑑權,支援 Bearer、原始 key 與 X-Api-Key,401 在升級前返回;
vLLM 與 SGLang 新增由 TorchTPU 驅動的原生 PyTorch 後端,開發者可用熟悉的 PyTorch 工具在 TPU 上執行並調優推理服務。引擎內建最佳化過的 TPU kernel、基於 TPU Sync 的 KV cache 管理和分離式 serving(disaggregated serving),這些能力由專案維護者與官方合作完成。
面向 Mac(Apple Silicon)的記賬應用 Pulse Local 進入 beta,用完全跑在本機的模型回答消費問題,本地模式不需要帳號,不上傳賬本,也不傳送分析與崩潰日誌。它把 CSV 賬單匯入後,由微調的 Qwen3 0.6B 將問題轉成結構化查詢,金額計算交給程式碼,另一個 4B 檢查模型複核答案,兩者不一致時直接回答不確定;官方稱這讓錯誤答案從約五分之一降到三次測試共 494 題中的 5 題。
Whistle 是一個 16.9 MB 的單檔案端側語音識別模型,無依賴、在 CPU 上執行,與 Needle 共用同一套 C++ 引擎。它支援英語、德語、法語、西班牙語、義大利語、荷蘭語和波蘭語,單次最多處理 30 秒 16 kHz 單聲道音訊,可自動檢測語種,並輸出逐詞時間戳與語音嵌入。
ElevenLabs 正式上線 OpenRouter,提供 9 個文字轉語音模型和 2 個語音轉文字模型。已通過 OpenRouter 呼叫語言模型的應用,用同一個 OpenRouter API key 呼叫 POST /api/v1/audio/speech 與 POST /api/v1/audio/transcriptions 即可獲得語音能力,無需另購 ElevenLabs 套餐。
BetterWispr 是一款免費開源的 Mac 聽寫應用,Apache 2.0 許可,語音識別全程在本機完成,不需要帳號或雲端回退。按住 ⌥ Space 說話、鬆開即完成轉寫,文字直接落在當前應用,快捷鍵可自訂。內建 Apple speech、Parakeet 與 Whisper 共九個模型,Parakeet 覆蓋英語、日語和 25 種歐洲語言,也可接入 OpenAI 相容等外部 API。
越來越多 AI 助手無需下載 App,直接通過 iMessage、RCS、SMS、WhatsApp 等簡訊渠道使用,可記憶上下文、連線已有應用並代為完成任務。Instinct 在 2026 年 9 月完成 10 億美元融資、估值達 100 億美元,仍處私測;Caddy 自 2026 年 4 月起公測;Fambot 2026 年 9 月初推出測試版並獲 350 萬美元 pre-seed 融資,測試期免費,未來擬收約一份 Netflix 訂閱的費用;