llama.cpp 合併了 qwen4exp 的 lightning indexer 最佳化，把索引器打分視訊記憶體減半：原先同時存在兩個 [n_pool, n_idx_h, n_tokens] f32 張量，現在每個 head 單獨計算並原地累加進一個 [n_pool, n_tokens] 分數。同時 CUDA 支援 4 heads、Metal 用函式常量傳 head 數、Vulkan 按 keys×tokens 分塊並向量化 fp16 點積。
推薦理由：你在 Mac Studio 上跑本地模型時，長上下文視訊記憶體佔用和 Metal/Vulkan 後端效能會直接受益，升級 llama.cpp 即可獲得這些最佳化。
llama.cpp 的 PR #29825 把 Qwen Flash Next 的 indexer score 視訊記憶體佔用減半，例如 131072 上下文、ub 2048 時從 3.0 GiB 降到 1.5 GiB，262144 上下文、ub 4096 時從 11.7 GiB 降到 5.6 GiB。作者稱 logits 完全一致，僅分數因 fp32 舍入有差異，pp/tg 速度不變，test-llama-archs 通過。
推薦理由：你準備用 Mac Studio 跑本地模型，這項改動能直接降低長上下文推理的視訊記憶體佔用，讓更多層留在 GPU 上。
微軟發布 FrogNano-4B-2609，一個面向算力有限開發者的 4B 智慧體模型，Hugging Face 上已有 GGUF 量化版本。它由 Qwen3.5-4B 派生，沿用 32 層混合 Gated DeltaNet 與門控注意力架構，後訓練為純文字、聚焦倉庫級軟體工程，用強化學習在約 1500 個 TaskPilot 生成的合成 SWE 環境上訓練，獎勵來自可執行測試，配套五工具的 Leaf harness。與行為蒸餾不同，它不訓練強模型的解題軌跡。
推薦理由：你可以用它的 GGUF 在 Mac Studio 上本地跑一個 4B 倉庫級編碼智慧體，但補丁必須自己審查。
Ai2 開源了 8B 的科學報告生成模型 AstaBrief，可把研究問題和檢索到的文獻片段直接寫成帶引用的報告。它已在 Asta 的 Generate a report 功能中以 Fast mode 上線，與 Claude 驅動的 Thinking mode 並列：Fast mode 平均 51.1 秒生成一份報告，Thinking mode 為 178.5 秒，快約 3.5 倍。模型基於 Qwen3-8B，用 SFT 加 DPO 訓練，一次成稿，跳過了片段摘要與聚類環節。
推薦理由：你正打算在 Mac Studio 上跑開源模型，而 AstaBrief 就是 8B 級 Qwen 系小模型的長文生成配方，附帶的範例工作流可直接改造成本地 PDF 報告生成。
NVIDIA DGX Spark 將新增 64GB 統一記憶體版本，10 月 23 日由 Acer、ASUS、Dell、Gigabyte、HP、MSI 開賣，起價 4999 美元，保留 GB10 Grace Blackwell 晶片、DGX OS 與完整 NVIDIA AI 軟體棧，可完全本地執行最高 1000 億引數模型。兩臺機器可用 QSFP 線經 ConnectX-7 直連，記憶體池化到 128GB，模型上限提到 2000 億引數；
推薦理由：如果你在 Mac Studio 之外考慮本地跑開源模型，這是同價位可對比的 CUDA 方案，且開箱即支援 Ollama、llama.cpp、LM Studio，並能一鍵把本地模型接給 OpenCode 用。