strands-decider 架構實測:編碼器延遲減半但泛化更差
AWS 工程師 Marc Brooker 用實驗比較編碼器與解碼器架構在 strands-decider 上的表現,結論是這一規模下兩者都沒有明顯優勢。編碼器-only 的 e1b 延遲中位數約 35ms,低於基於 Qwen3.5 改造的 2B 解碼器 v19 的 65ms,精度大致相當,但 prompt 變長後擴充套件性更差;
公開給出解碼器與編碼器在同規模任務上的逐項精度、校準與延遲對比資料,並解釋延遲差異來自 Gated DeltaNet 線性層與全注意力的取捨,對關注 agent 模型架構選型的開發者有參考價值。
原標題:Strands Decider: Why Not an Encoder?
閱讀原文
| 評分 | 65 / 65(平均 65,門檻 76) |
|---|---|
| 狀態 | 未入選 |
相關報導
Strands 開源 2B 決策模型 Strands Decider 2B
Strands Labs 開源了 2B 引數的決策模型 Strands Decider 2B,權重已上 Hugging Face,訓練資料與指令碼一併公開。它基於 Qwen3.5-2B 去掉 LM head、換成約百萬引數的 pointer head 並加 rank-16 LoRA 微調,只能從給定選項中作答或打分,因此不支援編碼、聊天與摘要。
使用者實測 Opus 5.5 程式設計能力遠超 Astra
一位有基礎程式設計經驗的使用者稱,用 Opus 5.5 在約兩打提示詞內完成了一整款遊戲,包括玩法、畫面、音效與音樂,全程未寫一行程式碼;模型還能自寫測試、最佳化速度並修復觀察到的 bug。在室內導航對比中,Opus 5.5 的掃描與追蹤準確,Astra 開箱即用效果差,評分約 2/10 對 9/10。該使用者也指出 Claude 常提示工具使用過多或任務未完成,且超出額度後無法繼續使用。
@OpenAIDevs: Let your app choose the right model, tool, or action in near real-time with Decisions API, now avai…
OpenAI 開發者帳號宣布,Decisions API 現已進入公開測試,面向所有開發者開放。這個 API 讓應用能夠近乎即時地選擇模型、工具或動作,官方給出的對比資料是:經由 Responses API 呼叫時,其決策速度最高可達 GPT-6 Luna 的 10 倍。該功能目前處於 public beta 階段。
Strata 讓 125B 的 Qwen3.8-Flash-Next 在消費級顯示卡上執行
開源專案 Strata 可在普通遊戲 PC 上本地執行 125B 引數的 Qwen3.8-Flash-Next,支援聊天、寫程式碼、讀圖和接入 coding agent,資料不出本機。官方實測 RTX 5070(12GB)在 Q2_0 量化下寫答案 94 tokens/s、讀 32K 提示 2650 tokens/s;RTX 3090(24GB)預計可達 100-140 tokens/s。
使用者吐槽 Codex 速度比 Claude 慢約 10 倍
一位 Reddit 使用者發帖稱 Codex 的生成速度(tps)比 Claude 慢約 10 倍,且其 harness 在通過 subagent 做大量並行工作時表現很差。該使用者表示自己持有 4 個 Claude Max 訂閱,另購一份 ChatGPT 訂閱以探索 astra,但認為 Codex 在實際工作中完全派不上用場。