v0.40.9-rc2 修復 Flint 在 think:false 下的回覆
v0.40.9-rc2 修復 Flint 在關閉思考(think:false)時的回覆:會關閉 thinking 區段,讓 Flint 直接作答。預設設定和 think:true 的提示詞行為保持不變,此次還更新了模板。該提交由 GitHub 驗證簽名,於 10 月 22 日打上 v0.40.9-rc2 標籤,屬於候選版本。
原標題:v0.40.9-rc2: flint: fix replies with thinking disabled (#19216)
閱讀原文
| 評分 | 40 / 42(平均 41,門檻 60) |
|---|---|
| 狀態 | 未入選 |
原文
相關報導
Models API 新增欄位,可查詢模型能否關閉 thinking
Models API 新增 capabilities.thinking.types.disabled 欄位,用來標明某個模型是否接受 thinking: {type: "disabled"} 來關閉思考。GET /v1/models 與 GET /v1/models/{model_id} 現在都會返回這項能力資訊,開發者可在發起請求前先確認哪些模型支援關掉思考,不必等呼叫失敗。具體用法見官方 Using the Models API 文件。
田淵棟參與創立的 Recursive 開源 40B 本地程式設計模型 Flint
田淵棟參與創立的 Recursive_SI 發布首個模型 Flint-40B-A2B,已在 Hugging Face 以 Apache 2.0 開放權重。這是一個總引數 400 億、每 Token 僅啟用 25 億的 MoE 智慧體程式設計模型,在 M4 Pro MacBook Pro 上生成速度超過每秒 125 Token,在 64GB 記憶體的 NVIDIA RTX Spark 上超過每秒 150 Token。
Pi 1.3.0 發布:GPT-6 中途切換思考等級保留快取
Pi 1.3.0 發布,在 OpenAI GPT-6 模型上通過 API key 在會話中途調整 thinking level 現在會保留 prompt cache;Kimi Code 改用 Chat Completions 協議後,對話中途新增工具同樣不再讓快取失效。新增 sessionShareDestination 設定,可選擇把 /share 上傳到自動、GitHub gist 或 Radius。
ThinkingCap 版 Gemma-4-26B-A4B 思考量平均減少 38.9%
BottleCap AI 發布 ThinkingCap 系列第五個模型,把 Google gemma-4-26B-A4B-it 的平均思考 token 減少 38.9%,十二項基準準確率平均只降 0.15pp。單項降幅最高為 LongBench v2 的 69.1%,AA-LCR 降 59.3%;迴圈輸出率從 3.64% 降到 0.76%;IFBench 反而提升 1.83pp,AA-LCR 準確率下降 4.00pp 是主要代價。取樣設定和 vLLM 服務棧不變,可直接替換;
王琰發布 TraceForge:自生成思維鏈反超蒸餾原版
獨立研究員王琰發布技術報告 TraceForge,提出用同族模型自行生成思維鏈、只向閉源模型借答案的合法路徑。以 Qwen3.5-9B-Base 做學生、5,000 條題目訓練後,自生成思維鏈在 HumanEval+ 比直接蒸餾 Claude Fable 5 真實思維鏈高 3.7 分、MBPP+ 高 7.1 分,且 MBPP+ 領先在每個 checkpoint 上都成立。報告還給出更徹底的變體:連答案也交給同族最強模型生成,全程不讓任何閉源 token 進入梯度;