搜尋
找到 3 筆;也可以試試 語意搜尋
Apple Machine Learning Research● 精選AI 評分65
研究者提出 SELFCOMPACT,讓語言模型自行決定何時、以何種方式壓縮 agent 軌跡,取代按固定 token 閾值觸發的定時壓縮。長軌跡中的思維鏈與工具呼叫會累積過時內容,干擾後續生成並最終撐爆上下文視窗,而固定間隔壓縮不關注軌跡結構,可能在推導或搜尋中途丟棄部分結果。該方案在推理階段引入兩個元件,其中之一是模型可主動呼叫的壓縮工具,用於總結已累積的內容。
Hacker News front pageAI 評分66
BottleCap AI 發布 ThinkingCap 系列第五個模型,把 Google gemma-4-26B-A4B-it 的平均思考 token 減少 38.9%,十二項基準準確率平均只降 0.15pp。單項降幅最高為 LongBench v2 的 69.1%,AA-LCR 降 59.3%;迴圈輸出率從 3.64% 降到 0.76%;IFBench 反而提升 1.83pp,AA-LCR 準確率下降 4.00pp 是主要代價。取樣設定和 vLLM 服務棧不變,可直接替換;
OpenAI News● 精選AI 評分92
OpenAI 於 2026 年 10 月 2 日發布 GPT-6 系列模型指南,該系列包含三款模型:GPT-6 Astra(輸入 $10/輸出 $50 每百萬 token)、GPT-6.1 Sol(輸入 $2/輸出 $10)和 GPT-6 Luna(輸入 $0.1/輸出 $0.5)。指南建議按任務難度匹配模型與推理等級,並利用提示快取(快取輸入最高便宜 95%)和壓縮控制成本,同時提供 Fast 與 Ultrafast 加速模式。