搜尋
找到 10 筆
機器之心● 精選AI 評分70
清華大學助理教授陳勇超創立的超衍智慧發布首個 35B 模型 Apex-35B-V1.0,基於 Qwen3.6-35B-A3B 做中訓練與後訓練,兼顧程式設計、Agent、問答與科研任務。在 21 項基準中,該模型對同量級 Qwen3.6-35B-A3B 領先 20 項,對 Recursive 的 40B 模型 Flint 取得 18 項領先、1 項持平。FrontierScience 得 40.0 分、PaperBench 60.9 分、HLE 47.2 分,部分專案超過 500B、800B 級模型。
r/LocalLLaMA top of the dayAI 評分61
開發者 nubela 發布 gufo 分支 gufo-Qwen3.6-35B-A3B-Q6dense,在 Strix Halo 上實現 3095 tok/s prefill、190 tok/s decode,目標為 3000 tok/s prefill 與 150 tok/s decode。該分支為 Qwen3.6 35B A3B 增加支援,面向優先速度而非智慧的負載;作者自行量化模型並以 Apache 2.0 發布,稱 unsloth 的 GGUF 也可用但效能較低。
量子位● 精選AI 評分89
面壁智慧與 OpenBMB 開源 MiniCPM-V 4.7,其中 35B-A3B 是 MiniCPM-V 系列首個 MoE 模型,約 3G 記憶體就能在 iOS、安卓裝置上流暢執行,iPhone 17 Pro Max 上解碼速度超過每秒 13 個 token。另有實際引數 1.3B 的 1B 版本,主打 OCR、數學與影片理解。
Hugging Face blog● 精選AI 評分83
PyTorch 2.15 在 MPS 後端加入 FP8 張量支援,並讓 MoE 模型解碼速度比 2.14 快 5–6.5 倍。在 M3 Ultra 上配合 torch.compile,Qwen3.6-35B-A3B 從 9.4 提升到 61.3 tokens/s,LFM2.5-8B-A1B 從 23.6 提升到 123.6 tokens/s,詞表 softmax 約快 8 倍。
r/LocalLLaMA top of the dayAI 評分65
llama.cpp 的 PR #29184 提出在 CUDA 後端把共享專家融合進 MMVQ,為部分 MoE 架構帶來提速,例如 Qwen 35B A3B。有評論稱該改動使 TG 速度提升約 5%,並指出僅對部分 MoE 架構有效。
Hugging Face blog● 精選AI 評分73
LiquidAI 發布 d1 決策模型家族的兩款開放權重模型 d1-3B 與實驗性的 d1-omni-600M,二者都基於 Liquid Foundation Models,不逐 token 生成,而是在單次前向傳播中直接給出答案。d1-3B 在 Decision Index 0.2.1 上得 48.57,為 10B 以下最佳,超過 Decider 35B-A3B 的 47.11;
LM Studio blog● 精選AI 評分75
Inco AI 推出開源推理引擎 Splash,專為 Apple Silicon 本地執行 Qwen3.6-35B-A3B 與 Qwen3.8-27B 最佳化,併為每個模型配備 DFlash 2 草稿模型做投機解碼。在 48GB M5 Pro 測試中,Qwen3.8-27B 短提示解碼約 74 tokens/s、32K 上下文 54 tokens/s,約為次快引擎的兩倍;四路併發短提示合計吞吐 170 tokens/s,為次快引擎的 3.9 倍。
r/LocalLLaMA top of the day● 精選AI 評分80
德國 Aleph Alpha 在 Hugging Face 發布 Kolibri-1,總引數 78B、啟用 3.46B,支援最高 100 萬 token 上下文,採用 Apache 2.0 許可。模型基於 20T token 的英德雙語語料訓練(約 62.5% 英語、23.9% 德語、13.6% 程式碼),在 768 張 B300 叢集上訓練約 4 周。社群討論認為其基準表現接近 Qwen 3.5 35B,適合 96GB 視訊記憶體本地部署,但目前尚無量化版本。
量子位AI 評分44
聯想 YOGA Pro 15 RTX Spark 於 10 月 8 日 9:00 開啟全網盲約,為全球首批搭載 NVIDIA RTX Spark N1X 超級晶片的本地智慧體 AIPC。N1X 整合最高 6144 核 Blackwell RTX GPU 與 20 核 Grace CPU,端側算力達 1 Petaflop FP4,整機最高 128GB 統一記憶體、2TB 儲存、80W 滿功耗,可本地執行超千億引數大模型,並出廠預裝 35B 本地模型。
機器之心● 精選AI 評分76
阿里千問與俄亥俄州立大學提出 TRACE,用 Rollout 側真實 FP4 量化結果指導訓練側舍入方向,在四個 Qwen MoE 模型上把聯合 FP4 權重啟用與 FP4 KV Cache 的 RL 效能拉回 BF16 水平。Qwen3.5-35B-A3B 平均分 75.3,高於 BF16 Rollout 的 74.9,遠超普通 QAT 的 59.6 和 QUADS 的 68.8;128K 輸出長度下解碼吞吐最高提升 5.4 倍,端到端 RL step 僅增約 7.4% 開銷。