ThinkingCap 版 Gemma-4-26B-A4B 思考量平均減少 38.9%
BottleCap AI 發布 ThinkingCap 系列第五個模型,把 Google gemma-4-26B-A4B-it 的平均思考 token 減少 38.9%,十二項基準準確率平均只降 0.15pp。單項降幅最高為 LongBench v2 的 69.1%,AA-LCR 降 59.3%;迴圈輸出率從 3.64% 降到 0.76%;IFBench 反而提升 1.83pp,AA-LCR 準確率下降 4.00pp 是主要代價。取樣設定和 vLLM 服務棧不變,可直接替換;
這是 ThinkingCap 首次用於 Google 模型,也是該系列精度代價最小的一次;迴圈率從 3.64% 降至 0.76%,對在 vLLM 上部署 Gemma-4-26B-A4B 的團隊意味著可直接換用的推理成本下降。
原標題:Gemma-4-26B-A4B with 39-69% less thinking at same accuracy
閱讀原文
| 評分 | 66 / 66(平均 66,門檻 76) |
|---|---|
| 狀態 | 未入選 |
相關報導
AI 程式設計模型集體滿口黑話:思維鏈壓縮省 70% Token
量子位發文吐槽,Fable、Sol 等與 Coding 沾邊的模型普遍輸出「15/15 全綠」「單腿啞火」這類黑話。文中分析,除 Coding 過擬合外,更主要的原因是廠商為省 Token 把思維鏈壓縮成「穴居人語」,OpenAI 最早這麼做,同樣一句話的 Token 消耗比白話文少 70%;Claude 自 Opus 4.6 起也開始如此。作者稱最新 Opus 5.5 語言能力回升明顯,而 Gemini 因輸出風格正常、排版層級清晰,被社群視為少數還能正常溝通的 AI。
Models API 新增欄位,可查詢模型能否關閉 thinking
Models API 新增 capabilities.thinking.types.disabled 欄位,用來標明某個模型是否接受 thinking: {type: "disabled"} 來關閉思考。GET /v1/models 與 GET /v1/models/{model_id} 現在都會返回這項能力資訊,開發者可在發起請求前先確認哪些模型支援關掉思考,不必等呼叫失敗。具體用法見官方 Using the Models API 文件。
Google 發布 EmbeddingGemma 2,740M 引數開源端側多模態嵌入模型
Google DeepMind 發布 EmbeddingGemma 2,一個 Apache 2.0 許可、740M 引數的開源端側多模態嵌入模型,基於 Gemma 4 架構,把文字、程式碼、影像、音訊與影片對映到同一嵌入空間。它按需模組化:純文字最低 270M 引數,另有 170M 視覺與 300M 音訊編碼器;MRL 支援把 768 維向量截斷到 128 維,本地儲存最多省 6 倍。
Gemini 4 Argon 發布:API 定價 2 美元/百萬輸入 token
Google 發布前沿模型 Gemini 4 Argon,開發者與企業可通過 AI Studio 和 Gemini 平台 API 呼叫,Google AI Ultra 訂閱者可在 Antigravity 使用,Ultra 與 Pro 訂閱者可在 Gemini 應用和搜尋 AI Mode 使用。入門價每百萬輸入 token 2 美元、輸出 10 美元,快取輸入減免 95%,官方稱其在衡量金融、程式設計、法律、稅務的 Vals Index 上排名第一。
@AIatMeta: Today we published a technical report on Muse Glimmer, our 30B open-weight model built for agentic …
Meta 公布了 Muse Glimmer 的技術報告,這是一個 30B 開放權重模型,面向消費級硬體上的 agentic 任務。它在 4-bit 精度下可在配備單張消費級 GPU 的 Mac 或 PC 上以實用速度執行,官方稱其在工具呼叫與多步規劃上領先同尺寸開放模型。報告還披露了模型架構、蒸餾配方與量化方案等細節。