Model Explorer 支援自訂編譯器 IR 視覺化除錯
Google AI Edge 的 Model Explorer 現在支援自訂編譯器中間表示,並提供 TOSA、VGF、PTE 等開源介面卡,面向端側機器學習。開發者可用分層圖視覺化、分屏檢視和逐節點 trace 疊加來發現匯出迴歸、驗證硬體委託,在本地定位到週期級的延遲瓶頸。
依意思最接近的 30 筆
Google AI Edge 的 Model Explorer 現在支援自訂編譯器中間表示,並提供 TOSA、VGF、PTE 等開源介面卡,面向端側機器學習。開發者可用分層圖視覺化、分屏檢視和逐節點 trace 疊加來發現匯出迴歸、驗證硬體委託,在本地定位到週期級的延遲瓶頸。
Pi 1.4.0 發布,Codemode 的 models.classify() 現在接受圖片輸入,覆蓋 TypeSafe 的 Jev 與 Cloudflare 的 Clef 模型,可在 typesafe、cloudflare-workers-ai 與 OpenRouter 使用。壓縮與分支摘要改用模型自身輸出上限,長推理不再因固定上限報錯,compaction.reserveTokens 只決定何時開始壓縮。
Anthropic 在 Google Cloud 上線 Claude 模型(Anthropic 託管),即由 Anthropic 運營的 Claude API,使用者通過自己的 Google Cloud 專案呼叫。存取權限由 Google Cloud IAM 控制,賬單由 Google Cloud Marketplace 結算,採購與權限管理沿用現有的 GCP 體系。該服務上的 Claude Opus 5.5 支援 fast mode。
Models API 的模型資訊新增 capabilities.server_tools 欄位,GET /v1/models 與 GET /v1/models/{model_id} 現在會直接返回每個模型是否接受 web search 和 code execution 工具。要判斷模型是否支援程式碼執行工具,看 capabilities.server_tools.code_execution;
OpenAI 宣布其前沿模型與 Codex 智慧體工作流將上架 Google Cloud 的 Model Garden。企業可以在已經使用的 Google Cloud 環境中呼叫 OpenAI 的模型和 Codex 工作流,不必遷出既有的建置環境。官方目前只表示「即將到來」,未披露具體上線時間、包含哪些模型以及定價方式。
AnyLanguageModel 1.0 發布:這個 Apple Foundation Models 框架的替代方案只需換成 import AnyLanguageModel,同一份會話程式碼即可呼叫系統模型、llama.cpp、MLX、Core ML 本地模型,以及 OpenAI、Anthropic、Gemini、Ollama、Private Cloud Compute 等託管服務。
Cloudflare 推出新一類 System One 抽取模型,首個模型 Clairic 已在 Workers AI 上線預覽(@cf/cloudflare/clairic),並計劃近期釋出開放權重。它單次前向、不生成 token,只對輸入計費,通常一秒內返回。可從非結構化文字(最多附 4 張圖片)中抽取名稱、日期、金額、列表等帶置信度的型別化數值,也能估算與預測未來序列並給出 80% 區間;找不到答案時返回 null。
Claude Code 發布 v2.1.302,新增 CLAUDE_CODE_AUTO_MODE_MODEL 環境變數,用於指定客戶端 auto mode 分類器所用的模型,但不改變服務端 auto mode 的模型。/config 新增 Idle compaction 行,可關閉或重新開啟空閒壓縮。
據 The Information 報導,Anthropic 正準備推出一款新模型,其推理與直覺判斷據稱超過現役所有商用 Claude 模型,並能從有限指令推斷出使用者未明說的目標。試用者舉例稱,讓它修復一個 Bug,它可能找出導致該 Bug 的一整類底層問題,並主動詢問是否一併修復;該模型的名稱、發布時間與評測成績均未公布。
Mistral 上線 Responses API 公開預覽,專為在其平台上建置 Agent 設計。每次回應會把模型的回答、推理過程和工具呼叫拆成獨立條目返回,應用比用 Chat Completions 更容易逐步處理每個環節。該 API 支援 Mistral 託管的全部聊天模型,包括 Large 4。
Recursive 發布免費編碼模型 Flint,以 Apache 2.0 許可在 Hugging Face 開放下載,可在筆記本上離線執行。它是 40B 引數的混合專家模型,每次只啟用 2.5B 引數;在搭載 M4 Pro 的 MacBook Pro 上約 131 tokens/秒,約為同機 Gemma 4、Nemotron 3.5 Lightning 的兩倍;在 SWE-Bench Verified 上優於所有 50B 以下模型。
OpenAI 開發者帳號宣布,Decisions API 現已進入公開測試,面向所有開發者開放。這個 API 讓應用能夠近乎即時地選擇模型、工具或動作,官方給出的對比資料是:經由 Responses API 呼叫時,其決策速度最高可達 GPT-6 Luna 的 10 倍。該功能目前處於 public beta 階段。
10 月 16 日,範式智慧聯合睿思智聯發布一站式生產級 AI 部署平台模域(ModelSphere),面向企業免費開源,以 Apache 2.0 協議在 GitHub 上線。平台把算力管理、模型部署與執行最佳化整合為統一流程,可統一混合排程華為昇騰、天數智芯、摩爾線程、海光 DCU 等國產晶片,無需為不同晶片重寫底層程式碼。
Hugging Face 的 yuvraj sharma 用 HuggingChat 裡的 ML Intern agent,幾天內做出 6 個公開模型,其中把 Qwen-Image 2.1 自帶的 9B 提示改寫器蒸餾成 0.8B 版本,可在 CPU 執行,輸出有效率 99.7%,token 消耗約為教師模型的四分之一。該專案含 9B 模型標註 8,797 條樣本,算力成本 16 美元。
Codex 0.165.0 新增內建 Google Cloud Vertex AI 供應商,用 model_provider = "gcp" 即可配置,模型目錄同時加入 GPT-6.1 Terra。支援的模型預設允許在對話過程中調整 reasoning effort;新 profile 預設啟用 memory v2,並可從外部 agent 匯入記憶。會話選擇器新增倉庫篩選、agent 命令中心支援按目錄分組,另修復了供應商報「模型不存在」仍反覆重試的問題。
Gemini API 發布了命令列客戶端 gemini-api 的 beta 版,它無狀態、零依賴,面向 AI coding agent、指令碼和 CI 流水線。該工具基於 Interactions API,可生成文字與媒體內容、分析檔案,並執行 Gemini 託管智慧體(managed agents)。官方同步提供了 CLI 使用指南,目前處於測試階段。
Models API 新增 capabilities.thinking.types.disabled 欄位:GET /v1/models 與 GET /v1/models/{model_id} 現在會標明每個模型是否接受 thinking: {type: "disabled"},也就是能否關閉思考。開發者因此可以在呼叫前先查詢該欄位,從而避免向不支援該引數的模型傳送關閉思考的請求,具體用法見 Using the Models API 文件。
llama.cpp 發布 b11364 版本,新增對 nimble 決策模型的支援(PR #29844)。該版本覆蓋 macOS、iOS、Linux、Android、Windows 與 openEuler 平台,提供 CPU、CUDA 12/13、Vulkan、ROCm 10.0、OpenVINO、SYCL、Snapdragon 的 Adreno GPU 與 Hexagon NPU 等後端建置;
OpenAI 發布官方 CLI,可用 Homebrew 或 Go 安裝,在終端直接呼叫 REST API。命令按資源組織為 openai <resource> <command>:普通端點需要 OPENAI_API_KEY,管理端點需要 OPENAI_ADMIN_KEY,例如 openai responses create --model gpt-5.5。
Ollama 模型庫新增 Google DeepMind 的 embeddinggemma-2 頁面,地址為 ollama.com/library/embeddinggemma-2,使用者可通過 Ollama 拉取該嵌入模型。該條目由 Ollama 官方帳號發布,指向 Google DeepMind 的這一模型。原文未給出模型規模、上下文長度、許可證或效能資料等細節。
Ollama 上線由 Recursive SI 開發的約 40B 引數 MoE 開源模型 Flint,面向端側 agentic coding 場景。官方給出短上下文下的生成速度:M4 Pro MacBook Pro 上超過 125 tps,64GB 視訊記憶體的 NVIDIA RTX Spark 上超過 150 tps。
Anthropic 託管的 Claude 模型現已在 Google Cloud 上正式可用(GA)。使用者可在 Google Cloud 上使用完整的 Claude Platform 功能,並直接用 Google Cloud 的 IAM 憑證做權限管理、用 Google Cloud 賬單結算,同時支援承諾消費(commitment)的抵扣。面向已在 Google Cloud 上統一採購與權限管理的團隊。
MLX 發布 v0.40.8-rc0,新增對 Flint 模型的支援。為了讓 Flint 在 prompt 中保留數值型別與 schema 順序,版本會在保留解碼後的 API 值之外,同時保留源端 tool JSON;在匯入 safetensors 時組裝 ModelOpt expert banks,並禁止在轉換前直接建立 Flint NVFP4。共享 MLX attention 新增可選的 learned sinks 與裝置端 causal mask,由 Flint 啟用;
研究者提出 SELFCOMPACT,讓語言模型自行決定何時、以何種方式壓縮 agent 軌跡,取代按固定 token 閾值觸發的定時壓縮。長軌跡中的思維鏈與工具呼叫會累積過時內容,干擾後續生成並最終撐爆上下文視窗,而固定間隔壓縮不關注軌跡結構,可能在推導或搜尋中途丟棄部分結果。該方案在推理階段引入兩個元件,其中之一是模型可主動呼叫的壓縮工具,用於總結已累積的內容。
llama.cpp 的 server 元件新增了 /v1/systemone API,支援 laya、julia-1、lev、openjev、kev 五個模型。該 PR 包含模型轉換、服務端程式碼、共享提示字首、視覺支援,並新增 openjev tiny 模型用於測試。建置覆蓋 macOS、Linux、Windows、Android 等平台,但明確不支援 date_facts。
OpenAI 的 Ted Sanders 解釋了公司的模型命名規則:模型按規模從小到大排為 Luna < Terra < Sol < Astra,模型越大效能越可靠、冷門事實召回越好,但每 token 成本更高。版本號同時反映發布順序、與其他版本的關係和改進幅度,例如 6.1 在 5.6 之後發布、與其他 6.1 模型在訓練資料和風格上相近(所以不叫 5.7),但提升幅度不足以稱為 7。
Ollama 官方帳號公布了一份完整清單,連結指向其站點搜尋頁 ollama.com/search。該頁面即 Ollama 的模型檢索入口,可按名稱查詢平台上架的模型。原帖只給出這一連結,沒有說明清單收錄了多少個模型、涵蓋哪些類別,也沒有提到新增或下架的條目。
Gemini API 的 Computer Use 工具已正式可用(GA),同時覆蓋 Interactions 與 GenerateContent 兩套 API。此前該工具處於預覽狀態,如今轉為通用可用,意味著開發者可在正式環境中呼叫它讓模型操作計算機介面。
OpenAI 發布官方公告,稱其模型即將登陸 Google Cloud,公告日期為 2026 年 10 月 21 日。目前頁面未披露具體上線時間、覆蓋哪些模型以及定價,也未說明會開放給哪些 Google Cloud 區域。訊息在 Hacker News 上已有討論,但暫無評論。
Claude 模型以 Anthropic 託管的方式上線 Google Cloud,官方稱新功能與 beta 會與原生 Claude Platform 同日可用。即日起在 Google Cloud 上可用的是 Opus 5.5 的 Fast mode、程式碼執行與 Skills API 等能力。這意味著雲端使用者不必等雲平台單獨適配,就能用上與原生平台同步的新功能。