依意思最接近的 30 筆
llama.cpp 發布 b11953 建置版本，CUDA 後端新增針對 384 個專家的 Top-K MoE 融合運算元（#31288），由 Codex 輔助完成，可加速此類稀疏 MoE 模型在 NVIDIA GPU 上的推理。該版本同步放出 macOS、Linux、Windows、Android 等多平台預編譯包，覆蓋 CUDA 12.8/13.4、ROCm 10.0、Vulkan、SYCL、OpenVINO 及驍龍 Adreno/Hexagon 等後端。
Kyojin 引擎基於 ExLlamaV3 為 AMD Strix Halo（gfx1151、ROCm）打造，讓 GLM-5.3-Flash 與 MiMo-V2.6-Flash 兩個 300B 級 MoE 模型分別裝進單臺 128GB 迷你主機。實測在 Ryzen AI Max+ 395 上，GLM 預填充 580 tok/s、解碼 26-30 tok/s，MiMo 解碼最高 44 tok/s（程式碼場景）。
llama.cpp 發布 b11507 版本，新增 MoE 快取跨多張 GPU 的支援（PR #30112），可讓混合專家模型在多 GPU 環境下更充分地利用視訊記憶體。該版本同時更新了各平台預編譯產物，覆蓋 macOS Apple Silicon、iOS、Linux（CUDA 12/13、Vulkan、ROCm 10.0、SYCL、OpenVINO）、Windows、Android 以及 openEuler 等平台。
Ollama 上線由 Recursive SI 開發的約 40B 引數 MoE 開源模型 Flint，面向端側 agentic coding 場景。官方給出短上下文下的生成速度：M4 Pro MacBook Pro 上超過 125 tps，64GB 視訊記憶體的 NVIDIA RTX Spark 上超過 150 tps。
Meta 發布開源權重模型 Muse Spark Open：816B 總引數、42B 啟用的 MoE，Artificial Analysis 智慧指數 39，為美國開源模型最高分。
a16z 第七版《百強 AI 消費者應用》報告首次新增月收入榜單，Meshy 位列第 31 名，是榜上唯一的 AI 3D 公司。該榜單依據資料分析公司 YipitData 追蹤的美國消費者銀行卡消費資料排名，同榜還有 OpenAI、Anthropic、Canva、Superhuman、Higgsfield。
10 月 16 日，範式智慧聯合睿思智聯發布一站式生產級 AI 部署平台模域（ModelSphere），面向企業免費開源，以 Apache 2.0 協議在 GitHub 上線。平台把算力管理、模型部署與執行最佳化整合為統一流程，可統一混合排程華為昇騰、天數智芯、摩爾線程、海光 DCU 等國產晶片，無需為不同晶片重寫底層程式碼。
Meta 發布開放權重模型 Muse Spark Open，採用混合專家架構，總引數約 816B、每 token 啟用約 42B，可輸入文字、影像、音訊和影片，輸出文字，上下文視窗最高 100 萬 token。模型針對 agentic coding 訓練，能閱讀程式碼庫、編寫與除錯程式碼並呼叫工具。官方提供 BF16 與 NVFP4 兩種權重，BF16 約 1.5TB，NVFP4 為 4 位精度、面向 NVIDIA Blackwell GPU。
Momentic 推出 QA 智慧體 Mo，可自主探索 Web、iOS 與 Android 應用來查詢 bug。在 4 個開源專案、1396 個人工標註 bug 的 60 分鐘限時測試中，Mo 找到 269 個 bug，召回率 19.3%、精確率 84%，單個 bug 成本 2.67 美元；同場 Codex 為 86 個、6.2% 召回，Claude Code 59 個，Devin 27 個。
ggml-openvino 後端更新到 2026.4.1，重點最佳化 Qwen3.5 MoE 推理效能，並新增推理效能分析、預設使用遠端輸出張量、磁碟快取模型直載（cache_only）等能力。在 Arc B390 上以 q4_asym64_all 重量化執行 gemma-4-26B-A4B，pp512 從 66.16 t/s 提升到 1608.73 t/s，tg128 從 25.94 提升到 26.46 t/s，困惑度基本不變。
llama.cpp 發布 b11554，Vulkan 後端改進了 MoE 推理中 mul_mat_id 對重複專家 id 的處理：不再逐個迴圈，而是在預計算階段統一處理。原本受限的 hoist row ids 最佳化現在預設開啟，會生成緊湊的 tile 描述列表、按需發射多個 tile，從而收緊 workgroup 數量上界，尾部執行緒可直接提前退出。
新的 C 語言推理引擎 Janas-LLM 把 MoE 權重留在磁碟、按 token 從 NVMe SSD 流式讀取專家，在 32 GB 記憶體的筆記本上跑起了 48.4 GB 的 Qwen3-Next-80B。
開發者用自研開源推理引擎 TensorSharp，在 RTX 3080 Laptop（16GB 視訊記憶體）+32GB 記憶體+SSD 的普通筆記本上執行 Qwen3.8 Flash Next 176B。做法是量化加 MoE 感知的統一排程，把快取、視訊記憶體、記憶體和 SSD 按專家啟用情況分層協調。對比 Strata：解碼 11.09 對 10.24 tok/s，但整程耗時 16.54 秒對 62.15 秒。
Meta 發布開源權重模型 Muse Spark Open，稱其是美國迄今能力最強的開源權重模型，主打編碼與 agentic 任務。模型總引數 816B、啟用 42B，上下文視窗 1M token，原生支援文字、影像、影片與音訊多模態。官方稱其在長時程任務、複雜軟體工程和多步推理上表現突出。
llama.cpp 建置 b11755 修復了 Metal 後端缺少每 token 9 專家 MoE 核心變體的問題（#30610、#30699），涉及 Apple Silicon 上的 MoE 推理路徑。該版本照例發布全平台預編譯包，覆蓋 macOS/iOS、Linux（CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO）、Android、Windows 及 openEuler 昇騰等後端。
清華 MADSys 實驗室與趨境科技提出 KTransformers-FineTune（KT-FT），讓 CPU 用主存中的權重直接完成 MoE 專家計算、GPU 只負責注意力，LoRA 微調吞吐達到 ZeRO-Offload 等解除安裝基線的 2.5～21.2 倍。該方案已作為執行後端接入 LlamaFactory，CPU 側用 AVX-512/AMX 指令集計算專家，支援微調與推理在同等硬體下一鍵執行。
美國初創公司 Reflection 發布開源權重模型 Beam：501B 總引數、23B 啟用的文字 MoE，面向 coding、agentic 與科研任務，Apache 2.0 全權重本月放出。官方稱預訓練用了 23.8T token，在約 10500 張 GB300 上各跑四周預訓練與 RL，SWE-bench Verified 得分 80.9，推理效率為 GLM 5.2 的 3 到 4 倍。
llama.cpp 建置 b11702 為高通 Adreno X1 系列 GPU 新增 MxFP4 MoE 的 OpenCL bin kernel（gemm_moe_mxfp4_q8_1_dp4a_ila_ldck），並在 X1E 上啟用 dp4a clc，用於加速驍龍裝置上的 MoE 模型推理。
Meta 發布 Muse Spark Open，這是 816B 總參、42B 啟用的 MoE 開放權重模型，支援 1M token 上下文，可輸入文字、影像、影片與音訊。上線價格為每百萬輸入/輸出 token $1.25/$4.25（快取輸入 $0.15），Together 免費端點開放至 10 月 18 日。
llama.cpp 發布 b11912 建置，為 Laguna 模型啟用 MoE amax 重縮放，並宣告 Laguna SM 張量支援，主要是針對該模型的推理適配。此次同時更新了各平台預編譯包，覆蓋 macOS Apple Silicon、iOS、Windows 與 Linux 的 CUDA、Vulkan、ROCm、SYCL 等後端，並新增 arm64 CUDA 13 與 Snapdragon NPU 建置。
llama.cpp 建置 b12060 加入 Clover 模型支援，目前覆蓋的是 AR-only 的 Clover MoE。改動包含 GGUF 轉換、模型載入與因果混合注意力實現，複用共享注意力、迴圈狀態、MoE 與 LoRA 等既有元件；轉換指令碼用 filter_tensors 過濾 Clover 張量並統一採用標準 ssm_a 張量名，同時更新 test-llama-archs.cpp 架構測試。
百度發布 ERNIE 5.5 Flash Base：總引數 280B、每 token 啟用 14B 的稀疏 MoE 基座模型，權重停在預訓練結束、未做任何中期或後訓練。它在 33.5T token 上從零預訓練，訓練上下文最長 128K，微調與推理支援 1M token。架構上用 MLA 與強壓縮注意力 HCA 混合，只有七分之一層保留 token 級全上下文，其餘層把每 128 個 token 壓成一個快取條目，以壓低 KV cache 和長上下文開銷。
llama.cpp 發布 v0.7.0，最核心的變化是新增主機記憶體 MoE 專家的 GPU 快取（--moe-cache-mib），專家改由裝置端 LRU 快取執行，專家解除安裝時解碼最高提速約 2.2 倍，且該快取可跨多張 GPU 共享。版本同時加入 LiliCorr 投機解碼與 GLM5-Next 的 MTP 投機解碼，並支援 K2 Horizon、Prism Bonsai 2 27B、EmbeddingGemma-2、MiniCPM-V 4.7 等一批新模型。
有人做了一款工具，追蹤 AI 行業領袖在影片中的公開表態，並展示他們觀點隨時間的變化。目前收錄了 Dario Amodei（累計 54 條）、Alex Karp（51 條）、Marc Andreessen（49 條）、Sam Altman（45 條）、Palmer Luckey（40 條）、Satya Nadella（23 條）、Elon Musk（21 條）、Yann LeCun（6 條）等人，頁面同時標註本週新增條數，例如 Alexandr Wang 本週有 5 條。
南大系初創公司南芥智慧（SinapisAI）發布首份技術報告，其 Mio 1.0 Lite 在九個公開 benchmark 上平均分 77.15/100 排名第一，平均每請求成本 0.06 元為全場最低，比分數最高的對手 GPT 6.1 Sol 高 6.35 分、成本低 94.0%。系統先為模型建立可量化的能力畫像，再結合任務需求與資源預算做模型選擇與協作，底層模型倉庫已收錄 484 個模型，產品平台於 10 月 8 日開啟公測。
ycombinator 與 Olam Labs 的研究者把上百個 AI agent 放進 Minecraft 及其多種模式，讓它們協作或互相對抗，結果這群 agent 沒能建成「文明」，反而陷進官僚內耗。實驗基於 Mindcraft 與 Mineflayer 指令碼工具搭建，意在為近期多 agent 案例提供參照：一邊是千級 agent 群體解決數百個開放數學問題，一邊是被稱「極其危險」的 OpenAI-Hugging Face 事件。
llama.cpp 的 PR #29184 提出在 CUDA 後端把共享專家融合進 MMVQ，為部分 MoE 架構帶來提速，例如 Qwen 35B A3B。有評論稱該改動使 TG 速度提升約 5%，並指出僅對部分 MoE 架構有效。
AI Engineer 播客最新一期由 swyx 對話 Moshi CEO Anekha Sokhal，主題是她為交易員打造的市場資訊推薦引擎。她把 Moshi 形容為 Bloomberg、Claude 與 Netflix 的結合：行情資料、操作介面，再按交易員的持倉給出定製推薦。她出身 Warwick 數學與統計，在摩根大通做能源衍生品交易，後獲富布賴特獎學金赴美創業。節目還談到可信信源、文件抽取、自建還是採購模型，以及 AI 工程師被要求「你就是整個團隊」的壓力；
llama.cpp 發布 b11962 建置，在 CUDA 的 MMQ 路徑中把 MoE（MUL_MAT_ID）的 gate/up 投影與 GLU 融合成一個運算元，減少中間結果的視訊記憶體讀寫與運算元呼叫開銷。
喬治亞理工與 MIT 團隊提出多智慧體系統 MASCOT，用兩階段訓練緩解多個 AI 角色越聊越像的「角色坍塌」：先讓傾聽者、鼓勵者、分析者等角色分別對齊各自行為，再訓練 Director Agent 選擇下一位發言者與回應策略。在情感對話資料集 ED 上，MASCOT 的角色一致性得分 80.0，比最強基線高 14.1 分，群體互動總分 57.3、提升 5.4 分；40 人盲評中約七成偏好 MASCOT，會議資料集 QMSum 三個子集總體評分也均領先。