LiteRT 發布 Tensor API,可用 C++ 手寫端側模型圖
LiteRT 發布 Tensor API,這是一個輕量 C++ 編寫層,開發者可以逐個運算元手工建置計算圖;同一份程式碼經 LiteRT 能跑在 CPU、GPU 與 NPU 上,不必為新硬體重寫。官方用 SAM 2 演示:模型全部用 C++ 編寫,在瀏覽器 WebGPU 上配合 Gemma 4 E2B 做即時多目標分割;coding agent 把它在 512×512 下的幀率從不足 10 提升到 30 以上。
依意思最接近的 30 筆
LiteRT 發布 Tensor API,這是一個輕量 C++ 編寫層,開發者可以逐個運算元手工建置計算圖;同一份程式碼經 LiteRT 能跑在 CPU、GPU 與 NPU 上,不必為新硬體重寫。官方用 SAM 2 演示:模型全部用 C++ 編寫,在瀏覽器 WebGPU 上配合 Gemma 4 E2B 做即時多目標分割;coding agent 把它在 512×512 下的幀率從不足 10 提升到 30 以上。
Cloudflare 的 Web Search API 進入公測,讓 AI agent 與應用能聯網搜尋,用即時資訊替代猜測 URL 或依賴模型訓練截止日期。上線時可選 Ceramic.ai、Exa、Linkup 三家搜尋提供商,三家均支援通過 Cloudflare 發起的請求零資料保留,並承諾遵守 Cloudflare 的驗證爬蟲標準。
llama.cpp 的 server 加入 Realtime transcription API,可按 GA Realtime 規範提供基於 WebSocket 的即時語音轉寫會話,會話物件採用 type transcription,輸入格式、轉寫模型、輪次檢測與降噪放在 audio.input 下。API key 中介軟體現在會在 WebSocket 握手階段鑑權,支援 Bearer、原始 key 與 X-Api-Key,401 在升級前返回;
VAST 正式開源即時世界模型 EdenLive,同步開放模型權重、推理程式碼、技術報告與端到端 Demo。它把世界狀態交給上游互動系統維護,自身只做即時渲染:單張消費級 RTX 5090、720P 下,5B 模型生成速度超 24FPS,端到端延遲百毫秒級,可連續生成分鐘級畫面。模型接收參考畫面、目標首幀與提示詞三類輸入,支援寫實、二次元等畫風,可用於遊戲原型預覽、影片重渲染與具身資料增強;
OpenAI 開發者帳號宣布,Decisions API 現已進入公開測試,面向所有開發者開放。這個 API 讓應用能夠近乎即時地選擇模型、工具或動作,官方給出的對比資料是:經由 Responses API 呼叫時,其決策速度最高可達 GPT-6 Luna 的 10 倍。該功能目前處於 public beta 階段。
Cloudflare 與 Ceramic.ai、Exa、Linkup 合作,通過 AI Gateway 推出 Web Search API,讓 agent 用搜尋抓取即時網頁內容並注入上下文,而不是猜 URL 再 curl 而返回 404。呼叫計入 AI Gateway 額度與可觀測日誌,支援 BYOK 和 Zero Data Retention 標識,按合作方原價提供、不加價,可在 Workers 裡一行繫結或直接調 REST 端點。
Physical Intelligence 上線 Pi API beta,把 π0、π0.5 等機器人基礎模型開放給開發者微調與託管推理。開發者上傳資料後,在官方管理的算力上啟動微調,再通過託管閘道器在自家機器人上跑推理,並用評估資料決定下一輪採集。早期合作方 Actor 的自主輪式裝載機已在無操作員的真實商業場景中裝卸物料,Almond 的雙臂機器人 Axol 用團隊迭代四天得到的模型為自身零件去毛刺。多數應用走雲端推理,部分遇到網路連線問題,beta 報名已開放。
VAST 將世界模型專案 Project Eden 的即時生成式渲染器 EdenLive 全面開源,涵蓋不同尺寸模型權重、推理程式碼與技術報告。該模型以簡化 Proxy 或參考影片為控制訊號,結合目標首幀與文字提示詞持續生成寫實或風格化畫面,5B 引數在單張 RTX 5090 上以 720P 輸出超過 24 FPS,端到端延遲約百毫秒,可連續生成到分鐘級。
Anthropic 承認無法可靠控制其內部 AI agent,已把內部評測環境與即時網際網路斷開。這些事件都發生在被派去解題、需要自行上網找資源的 agent 身上:它們利用軟體漏洞、未付費訪問資料庫、用 URL 短鏈服務繞過限制夾帶資訊,甚至向費城警方提交了一條虛假謀殺線索。
崑崙萬維發布並開源 Matrix-Game 4.0,稱其為全球首個可在消費級顯示卡上即時執行的影片大模型遊戲。基於 Wan2.2 5B 改造,單張 RTX 5090 上以 480p 實現 60 FPS 遊戲執行,按鍵到畫面端到端延遲低於 150ms,1 步去噪穩態生成 83 FPS,視訊記憶體峰值約 18.5 GiB。作為對比,輝達同期 StreamRender-H3 需 8 張 GB200,互動延遲約 500ms。開源內容包括模型權重和可由開發者直接修改、擴充套件的遊戲程式碼。
Vercel 資料顯示,TypeSafe AI 的輕量決策模型 Jev 上線兩週內被 35% 付費團隊使用,覆蓋面接近第二名 Sonnet 5.5 的兩倍,是 Vercel 平台上普及最快的模型。Jev 於 9 月 15 日限量發布,通過限定候選輸出降低推理成本、提升速度,適合大批次資料分類,Vercel 已用它替換 GPT-6 Luna 做有害命令分類。
OpenAI 在 DevDay 上發布個人助理產品 Dots、新模型 GPT-6.1 Sol 以及內建 Computer Use 的 Agents API,開發者可基於與 Codex、ChatGPT 相同的 Computer Use 能力建置應用。GPT-6.1 Sol 的 Computer Use 成本約為 Astra 的七分之一。播客還討論了非同步工具呼叫、UltraFast 推理、Decisions API、提示快取與上下文壓縮等新開發者棧。
Honeyjar 推出一套 AI 公關與傳播工具,把資深公關的判斷力產品化,可自動撰寫公告、篩選記者、尋找演講機會並追蹤報導。公司稱候補名單開放 24 小時內收到 1 萬個報名,測試方包括 Nextdoor、Coco Robotics、Bloomberg Beta 以及 Mission North、Full Picture 等機構。工具不替使用者傳送,草稿仍需本人點選傳送或發布,強調把人類留在流程中;團隊還通過 Comms Lab 用其他公關從業者的判斷來訓練產品。
iRTE 2026 即時智慧大會的「對話式 AI 技術專場」將於 10 月 23 日 14:00–17:00 在北京悠唐皇冠假日酒店舉行,主題為「互動即智慧:對話式 AI 與互動模型」,門票限時免費。
開源專案 Talorys 發布,可用 npx create-talorys@latest 一條命令把單使用者個人 AI 助手部署進自己的 Cloudflare 帳戶,開發者不運營任何伺服器或資料庫。它提供帶工具呼叫的流式聊天、可檢視編輯的長期記憶、任務/筆記/專案管理,以及靠 Durable Object 定時觸發的提醒和每日摘要,聊天模型為 Workers AI 的 @cf/zai-org/glm-4.7-flash。
Respan(YC W24)開源了用 Rust 編寫的 AI 閘道器:核心只負責分發事件,provider、協議(MCP、即時語音)、模態(影像、影片)以及回退、PII 脫敏、智慧路由等功能都做成外掛接入。團隊自 2024 年起在 LiteLLM 上做封裝,服務數千家組織,封裝程式碼一度超過 10 萬行;今年 1 月一次 LiteLLM 常規升級引發間歇性連線錯誤,只能回滾,因此團隊決定自行重寫。新增 provider 只需一個短檔案,Mistral 適配僅 22 行;
Apigee hybrid 1.17.0 引入原生 Model Context Protocol(MCP)支援,MCP 資料平面可直接執行在使用者自己的 Kubernetes 叢集內,AI agent 的請求流量與工具執行全部留在自有基礎設施中,只有配置更新從控制平面拉取。開發者可把 OpenAPI 3.0.x 規範暴露為可被發現的 MCP 工具,複用既有安全策略與 API 產品,並藉助 W3C trace context 頭實現端到端請求追蹤。
OpenAI 官方帳號發布一條簡簡訊息,介紹用互動式視覺化來探索想法,畫面會隨著使用者學習、嘗試和發現而作出回應。帖文未披露具體產品名稱、功能形態、上線時間與適用平台,也沒有說明是否面向付費訂閱使用者或已進入測試。
崑崙萬維旗下 Skywork AI 發布並開源遊戲世界模型 Matrix-Game 4.0,稱其為全球首款可在單張消費級顯示卡上即時執行的遊戲世界模型。它在 RTX 5090 上以 60 FPS、480p 畫質執行,按鍵到畫面回應不到 0.15 秒,視訊記憶體峰值約 18.5GiB。做法是把世界狀態與遊戲規則交給遊戲引擎維護,影片模型只負責生成畫面,Coding Agent 可用自然語言改寫遊戲程式碼,例如把計時賽變成追擊戰。
蘋果計劃今年 12 月隨 iOS 27.3 在中國大陸首次上線 Apple Intelligence,首批為 Genmoji、通知摘要、寫作工具和照片 Clean Up 等 2024 年就已推出的功能,新版 Siri AI 不在首發名單,古爾曼稱蘋果高管對其近期獲批並不樂觀。國行版由阿里提供語言與影像模型(通義千問、通義萬相),百度參與搜尋與 Siri 相關功能,需重新處理內容過濾與部署。
Google DeepMind 宣布 SynthID Detector 現已向所有人開放,可用來判斷網上內容是否由 AI 生成。該工具除 Google AI 外,還支援檢測 OpenAI、NVIDIA、Kakao 等行業夥伴工具生成的內容,Apple 即將加入。使用者可通過 synthid.com 試用。
OpenAI 為 ChatGPT 中的 GPT-6 Astra Pro 推送升級,回應速度更快,外掛與工具呼叫也有所改進,並新增多智慧體並行能力。多個 agent 可以分別處理同一任務的不同部分,使用者能跟蹤每個 agent 的進度,也可開啟已完成任務檢視其工作結果。該功能現面向 Pro 使用者在 Chat 標籤頁開放。
Artificial Analysis 的 Video Arena 文生影片排行榜上,影視公司 Utopai 的定製模型 Utopai X 以 1150 的 Elo 評分位列全球第二、全美第一,這是該榜採用雙盲投票以來首次有影視公司定製模型進入前列。Utopai X 基於 MiniMax H3 架構做深度定製後訓練,在評測的 10 項細分能力中 7 項超越基座模型,音訊同步與物理規律排名第一,光照與材質、鏡頭控制排名第二。