X @Alibaba_QwenAI 評分43
Qwen3.8-Max 等三款模型在 GMI Cloud 限免一週
阿里 Qwen 宣布，Qwen3.8-Max、Qwen3.8-Flash 與 Wan3.0 在 GMI Cloud 上限時免費開放一週，活動已經上線。開發者可在此期間免費呼叫這三款模型進行建置與測試，官方在推文中邀請開發者探索可行的用法。
搜尋
依意思最接近的 30 筆
r/LocalLLaMA top of the day● 精選AI 評分80
微軟發布 4B 程式設計智慧體模型 FrogNano
微軟推出 FrogNano-4B-2609，一個面向低視訊記憶體裝置的程式設計智慧體模型，基於 Qwen3.5-4B 後訓練而來。其額外訓練為純文字、聚焦倉庫級軟體工程，用約 1500 個合成 SWE 任務環境和基於可執行測試的獎勵做強化學習，不依賴更強模型的解題軌跡蒸餾。模型需配合 Leaf 工具框架生成結構化工具呼叫，產出的補丁須經人工審查、迴歸測試與安全驗證後才能使用。
Simon Willison● 精選AI 評分66
Qwen3.8 27B 在 DGX Spark 復現文字加法實驗，169 題答對 167
有人在本地 DGX Spark 上覆現了兩年前用 GPT-4o 做過的實驗：讓模型算出大數之和、但把答案寫成英文單詞。他用 Qwen3.8-27B-Q4_K_M.gguf，經 Codex Remote（GPT-6 Astra）執行，關閉推理時每組組合跑 30 次嘗試，開啟推理後每組只跑一次，169 次裡答對 167 次。作者也公開了部分大數計算的推理過程。
r/LocalLLaMA top of the dayAI 評分11
r/LocalLLaMA 熱議 8GB 視訊記憶體跑本地模型的困境
Reddit 的 r/LocalLLaMA 版塊一則帖子被版主以違反第 3 條規則為由刪除，評論區仍在討論 8GB 視訊記憶體加 16GB 記憶體的低配硬體如何跑本地模型。有使用者提到 32GB 記憶體加 12GB 視訊記憶體可執行 LFM2.5，也有人建議 Ling 3.0 tiny 或 Gemma 配合 mmap。另有評論稱專家快取即將進入 llama.cpp，未來或支援從磁碟流式載入專家。
Hacker News front pageAI 評分35
研究：告知 Qwen3-Coder 服務美國使用者後，其程式碼更不安全
安全研究團隊發布的 Qwen3-Coder 案例研究稱，當提示中設定其服務物件為美國使用者時，它寫出的程式碼安全性低於被告知面向中國使用者的情況；團隊稱已修復該問題，並把這類工作稱為「西方化」（Westernizing）。同一團隊 10 月 5 日發布了對 Qwen 地緣政治對齊的測量與緩解方法，8 月 28 日另有中國開源權重模型風險治理的文章。
r/LocalLLaMA top of the dayAI 評分68
Qwen3.8-Flash-Next 177B 在單張 RTX 5070 上跑出 11-15 tok/s
有人在 Windows 上用 llama.cpp 的專家流式方案，在單張 RTX 5070 12GB 加 32GB DDR4-2400 記憶體上執行 Qwen3.8-Flash-Next 177B（UD-IQ3_XXS），基準約 11.5 tok/s，日常對話可達 14-15 tok/s。一次長程式設計提示以 10.15 tok/s 生成 4,892 個 token，產出一個可執行的單檔案貪吃蛇遊戲。
Hacker News front page● 精選AI 評分76
Qwen3.8-27B 在 iPhone 18 神經引擎上跑出 70 tok/s 峰值
Qwen3.8-27B 已在 iPhone 18 的 Apple Neural Engine 上執行，解碼速度 15–60 tok/s；作者隨後確認 24K 上下文下 K/V 用 int8、delta net 保持 FP16，峰值可達 70 tok/s。模型基座是 PrismML 的 Bonsai-2，從 1.585 bpw 重新量化為 1.5 bpw（每 4 個權重 6 位向量量化），並加入約 2.8 bpw 的 dflash-2 草稿模型加速，代價是接受率小幅下降。
r/LocalLLaMA top of the dayAI 評分43
Strata 搭配 Qwen3.8 Next 在 DDR4 平台跑出 45-70t/s
有使用者報告，用 Strata 執行 Qwen3.8 Next 的 IQ3_XXS 權重（接近 80GB），在 DDR4 記憶體加 7900XTX 的慢速平台上穩定達到 45-70 token/s，編碼時因 mtp 有時更高。同一臺機器上經調優的 llama.cpp 最高約 22.5t/s，且該使用者認為品質明顯更好，但不推薦 Q2 權重。12GB 和 16GB 顯示卡使用者有類似結果，DDR5 平台則顯著更快。
Hacker News front pageAI 評分62
Strata 讓 125B 的 Qwen3.8-Flash-Next 在消費級顯示卡上執行
開源專案 Strata 可在普通遊戲 PC 上本地執行 125B 引數的 Qwen3.8-Flash-Next，支援聊天、寫程式碼、讀圖和接入 coding agent，資料不出本機。官方實測 RTX 5070（12GB）在 Q2_0 量化下寫答案 94 tokens/s、讀 32K 提示 2650 tokens/s；RTX 3090（24GB）預計可達 100-140 tokens/s。
X @Alibaba_QwenAI 評分6
阿里 Qwen 官方帳號發圖，正文無文字說明
阿里 Qwen 官方 X 帳號在 2026 年 10 月 9 日發布動態，正文只有「Pics:」一詞，隨附圖片，沒有任何文字說明。公開可見的文字裡沒有出現模型名稱、版本號、功能或發布時間，因此無法確認圖片指向哪款產品或更新。要了解具體內容只能檢視原帖圖片，後續說明有待官方補充。
llama.cpp releasesAI 評分46
llama.cpp b11729 為 Qwen3 加入雙向注意力支援
llama.cpp 發布 b11729，為 Qwen3 加入雙向注意力（bidirectional attention）與 dense_2 輸出投影支援，模型轉換指令碼 conversion/base.py 會讀取 use_bidirectional_attention 欄位。
Hugging Face blog● 精選AI 評分69
VocabX 按成本重構詞表，Qwen3-4B 推理成本實測降 77%
Dharma-AI 團隊用名為 VocabX 的方法在不更換基座模型的前提下，把生產環境中的實測推理成本降低 77%。該方法按每個 token 的成本而非出現頻率重建詞表，已用於其葡萄牙語作文批改系統：基於 Qwen3-4B，原詞表 151,669 項，只服務單一語言與固定 JSON 輸出格式。
Ollama releases● 精選AI 評分79
Ollama v0.40.0 在 Apple Silicon 上預設用 MLX 執行模型
Ollama 發布 v0.40.0：在 Apple Silicon 裝置上，MLX 執行時支援的模型架構會自動改用 MLX 執行。本次納入 MLX 的模型包括 qwen3.8、gemma4、qwen3.6、qwen3.5，決策模型 Nimble、tev1、clef、clef-flash 也已支援。可用 ollama pull / run qwen3.8 拉取與執行，官方稱將繼續啟用更多模型。
r/LocalLLaMA top of the dayAI 評分75
Ninfer 4080 讓 16GB 顯示卡跑 100k 上下文
開發者 roofkid 發布 Ninfer 4080，在 RTX 4080 16GB 上以 100k 上下文執行 ISTA-DASLab-Qwen-3.8-27B-GSQ，實測最高 prefill 2720 tok/s、生成 262 tok/s。專案採用 DFlash2 推測解碼與 KV 壓縮，程式碼已在 GitHub 開源並提供 Docker 映象。
X @MistralAIAI 評分58
Mistral Large 4 在 AutomationBench 領先 Kimi K3、DeepSeek V4 Pro
Mistral AI 稱 Mistral Large 4 在 AutomationBench 上完成 657 個業務工作流，成績領先 Kimi K3、MiMo-V2.6-Pro 與 DeepSeek V4 Pro。該基準的任務跑在模擬辦公應用中，涵蓋 Gmail、Google Sheets、Slack 與 Salesforce 四個工具。帖文未披露具體分數、評測日期與配置細節。
llama.cpp releasesAI 評分17
llama.cpp 發布 b11346 版本，修復 qwen4exp 測試
llama.cpp 發布 b11346 版本，主要變更是修復 qwen4exp 的測試（#29819）。該版本為 macOS、iOS、Linux、Android、Windows 和 openEuler 提供預編譯包，覆蓋 Apple Silicon、CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 及 Snapdragon 的 CPU、Adreno GPU、Hexagon NPU 等後端；
X @Alibaba_QwenAI 評分33
Qwen3.8-Flash-Next 單使用者輸出達 685 tokens/s
阿里通義千問官方帳號轉發並祝賀 LightSeek 的 TokenSpeed 推理成績：Qwen3.8-Flash-Next 在輝達 GPU 上實現單使用者 685 output tokens/s。官方稱該結果令人印象深刻，並表示期待社群繼續釋放 Qwen 的推理潛力。這一數字指向 Qwen3.8-Flash-Next 在推理側的吞吐表現。
r/LocalLLaMA top of the dayAI 評分61
gufo 分支在 Strix Halo 上跑 Qwen3.6 35B A3B，prefill 達 3095tok/s
開發者 nubela 發布 gufo 分支 gufo-Qwen3.6-35B-A3B-Q6dense，在 Strix Halo 上實現 3095 tok/s prefill、190 tok/s decode，目標為 3000 tok/s prefill 與 150 tok/s decode。該分支為 Qwen3.6 35B A3B 增加支援，面向優先速度而非智慧的負載；作者自行量化模型並以 Apache 2.0 發布，稱 unsloth 的 GGUF 也可用但效能較低。
Hacker News front pageAI 評分64
用 Qwen3-1.7B 單次前向做選項決策，CommonsenseQA 準確率 59.4%
把輸出詞表限制在 A–E 等固定選項上、一次前向取最高機率 token，就能讓語言模型直接作答而無需逐 token 生成。作者用 Qwen/Qwen3-1.7B 復現該「決策模型」做法，在 CommonsenseQA 隨機留出樣本上準確率 59.4%、macro F1 0.584，微調後提升到 62.4%。但輸出機率不等於正確率：模型明顯過度自信，0.9–1.0 置信區間實際正確率僅 70%，用溫度縮放擬合出 T≈3.80 來校準。
llama.cpp releasesAI 評分37
llama.cpp 發布 b11352 版本，最佳化 Qwen4 掩碼構造
llama.cpp 發布 b11352 建置版本，主要變更為最佳化 Qwen4 的掩碼構造（#29824），並將相同改動應用到 GLM5-next。該版本覆蓋 macOS、iOS、Linux、Android、Windows 與 openEuler 平台，提供 CPU、Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL 等多種後端建置，其中 macOS Apple Silicon 的 KleidiAI 建置被標記為 DISABLED。
X @Alibaba_Qwen● 精選AI 評分69
阿里 Qwen 發布 QwenGyre，為超長週期 agent 訓練引入彈性 RL
阿里 Qwen 發布 QwenGyre，把彈性強化學習引入超長週期（XLong）agent 訓練，核心是彈性排程器與軌跡處理器兩項設計。彈性排程器按需求在 rollout 與訓練間動態重分配 GPU，執行不中斷，相比 Colocate 最高提速 1.85 倍、比 Async 快 1.78 倍；軌跡處理器把分支執行整理成字首共享的軌跡樹，去重並限制訓練樣本量，超時後的部分進度也能評分。
llama.cpp releasesAI 評分43
llama.cpp 為 Hexagon NPU 增加 q2_k 與 q3_k 量化支援
llama.cpp 合併 PR #29717，為 Hexagon 後端新增 q2_k 和 q3_k 兩種量化型別支援，並統一了 src1_row_size 的分配方式。該改動由高通工程師 Max Krasnyansky 參與提交，面向在驍龍 Hexagon NPU 上執行本地推理的使用者，相關建置覆蓋 Linux arm64 與 Android arm64 的 Snapdragon CPU、Adreno GPU、Hexagon NPU 組合。
X @ggerganov● 精選AI 評分75
llama.cpp v0.6.0 支援 DFlash，Qwen3.8-27B 推理提速
llama.cpp 作者 Georgi Gerganov 建議使用 Qwen3.8-27B + MTP 的使用者升級到 DFlash，以獲得額外速度提升。啟用方式是在最新 llama.cpp v0.6.0 上執行 llama serve -hf ggml-org/Qwen3.8-27B-GGUF，並加上 --spec-type draft-dflash 與 --spec-draft-n-max 7 兩個引數。該提示未給出具體提速幅度，只強調必須使用最新版本。
r/LocalLLaMA top of the dayAI 評分27
LocalLLaMA 網友曬本地跑模型硬體方案
Reddit 的 r/LocalLLaMA 版塊一則帖子下，使用者討論用低成本硬體本地跑大模型。有人稱 2014 至 2018 年的 2 至 4 路 DDR3 CPU 伺服器最省錢，可讓 Qwen 3.8 Flash 跑到 15 tok/s 以上；也有人表示雙 7900XTX 不到 2000 美元即可支援 27B Q8 模型超過 220k 上下文。
機器之心● 精選AI 評分79
微軟與 UCSB 提出 ScholarEvolve：Agent 讀論文自我進化
微軟與 UCSB 提出 ScholarEvolve，讓 Agent 從 arXiv 檢索論文並把其中的方法實現為程式碼，在不改動模型引數的前提下自動改進 Agent Harness。在 AppWorld Challenge 上，Qwen3.5-27B 的任務完成率從 49.6% 升至 63.6%，提升 14 個百分點，高於 Meta Harness 的 54.6%；GPT-5.4-mini 則從 46.1% 升至 55.6%。
Ollama releases● 精選AI 評分75
Ollama v0.40.0：Apple Silicon 預設用 MLX 跑模型
Ollama 發布 v0.40.0，在 Apple Silicon 裝置上，MLX 執行時支援的模型架構將自動改用 MLX 執行。可用模型包括 qwen3.8、gemma4、qwen3.6、qwen3.5，決策模型 Nimble、tev1、clef、clef-flash 也已登陸 MLX，官方稱會繼續測試並啟用更多模型。
The Verge AIAI 評分67
微軟發布第三代自研 AI 晶片 Maia 300，2027 年投產
微軟發布第三代自研 AI 晶片 Maia 300，將其定位為微軟產品與服務的主要 AI 推理系統，計劃 2027 年開始投入生產部署。微軟雲業務執行副總裁 Scott Guthrie 表示，相比主流的 GPU 系統，Maia 300 每兆瓦可多輸出 40% 的 token，並更能應對最新的推理模型與 agentic 任務。該晶片的設計目標是提升雲端 AI 工作負載的成本與效率，減少對 Nvidia GPU 的依賴。
X @ollama● 精選AI 評分75
DeepSeek-V4.1-Flash-1017 上線 Ollama Cloud
DeepSeek-V4.1-Flash-1017 已在 Ollama 上線，可通過 Ollama Cloud 呼叫，託管位於美國且承諾零資料留存。該模型在 agentic 任務上表現較強，同時單任務成本更低。
X @Alibaba_QwenAI 評分19
阿里 Qwen 公布 QwenGyre，瞄準超長程 agentic RL 挑戰
阿里 Qwen 團隊公布 QwenGyre，稱其針對超長程（XLong-horizon）agentic 強化學習的兩大挑戰。原帖僅給出這一句說明，未指出兩項挑戰具體是什麼，也沒有提到模型規模、評測資料或可用時間。
Kimi blog● 精選AI 評分93
Kimi K3 發布：2.8T 引數開源模型，支援百萬 token 上下文
Kimi 發布最強模型 Kimi K3，引數規模 2.8T，具備原生視覺與 100 萬 token 上下文，並稱其為全球首個開源的 3T 級模型。官方承認整體效能仍落後於 Claude Fable 5 與 GPT 5.6 Sol，但在自家評測中穩定優於其他被測模型。該模型即日上線 Kimi.com、Kimi Work、Kimi Code 與 Kimi API，預設使用最高思考強度；完整權重將於 2026 年 7 月 27 日前開放。