Inception 發布 Mercury 3:擴散模型速度超 1000 token/秒
Inception 發布擴散架構大模型 Mercury 3,稱在多項基準上超過 GPT-6 Luna 與 Claude Haiku 5.5,NVIDIA GPU 上速度達 1068 token/秒,為後兩者的 4–8 倍。其引數量比 Mercury 1 擴大 40 倍以上,上下文從 Mercury 2.5 的 260K 提升到 1M。定價為每百萬輸入 token 0.20 美元、輸出 0.70 美元,發布期五折,快取輸入再降 90%。
擴散 LLM 首次被證明可以規模化:引數放大 40 倍仍保持每秒千 token 級速度,並結合 1M 上下文和每百萬 token 0.1 美元的發布期價格,對延遲敏感的 agent、語音與即時檢索場景有參考價值。
原標題:Mercury 3: Diffusion at scale
閱讀原文
| 評分 | 72 / 70(平均 71,門檻 76) |
|---|---|
| 狀態 | 未入選 |
相關報導
Meta 開源 816B 多模態 MoE 模型 Muse Spark Open
Meta 發布開放權重模型 Muse Spark Open,採用混合專家架構,總引數約 816B、每 token 啟用約 42B,可輸入文字、影像、音訊和影片,輸出文字,上下文視窗最高 100 萬 token。模型針對 agentic coding 訓練,能閱讀程式碼庫、編寫與除錯程式碼並呼叫工具。官方提供 BF16 與 NVFP4 兩種權重,BF16 約 1.5TB,NVFP4 為 4 位精度、面向 NVIDIA Blackwell GPU。
用 ML Intern 幾天做出 6 個模型,9B 改寫器壓到 0.8B
Hugging Face 的 yuvraj sharma 用 HuggingChat 裡的 ML Intern agent,幾天內做出 6 個公開模型,其中把 Qwen-Image 2.1 自帶的 9B 提示改寫器蒸餾成 0.8B 版本,可在 CPU 執行,輸出有效率 99.7%,token 消耗約為教師模型的四分之一。該專案含 9B 模型標註 8,797 條樣本,算力成本 16 美元。
微軟發布 Decision-1 決策模型,比 GPT-6 Sol 快 35 倍
微軟推出決策評分模型 Microsoft-Decision-1,已在 Microsoft Foundry 上線,並將登陸 OpenRouter。該模型基於 Qwen3.5-9B 後訓練,用於路由、分類、優先順序排序、驗證與工作流控制,支援是/否、多選、評分及對 AI 回答和 agent 動作的 rubric 打分。官方稱其在 36 項基準、近 15 萬道題中準確率最高,P50 延遲比 GPT-6 Sol 快約 35 倍、比第二名 Quyet-1.0-Large 快 4.5 倍;
Third Moment 用 GPT-6 與 Codex 併發執行 1 萬個 agent
AI 實驗室 Third Moment Research 藉助 OpenAI 的 GPT-6 Astra、GPT-6.1 Sol 與 Codex,可同時執行 1 萬個 agent,單次自主研究持續 36–48 小時。Codex 曾定位量化回測瓶頸並部署快取與記憶體打包最佳化,把一年美股訂單級資料的回測從約 3 小時縮短到 3–5 分鐘,回測時間減少 97%。
Ninfer 4080 讓 16GB 顯示卡跑 100k 上下文
開發者 roofkid 發布 Ninfer 4080,在 RTX 4080 16GB 上以 100k 上下文執行 ISTA-DASLab-Qwen-3.8-27B-GSQ,實測最高 prefill 2720 tok/s、生成 262 tok/s。專案採用 DFlash2 推測解碼與 KV 壓縮,程式碼已在 GitHub 開源並提供 Docker 映象。