llama.cpp 修復 SWA 檢查點失效邏輯
llama.cpp 發布 b11738 版本,服務端修復了滑動視窗注意力(SWA)檢查點的失效邏輯(#30666),並補充了在 n_past 閾值下會失敗的測試用例。本次更新仍照常提供 macOS、Linux、Windows、Android 等各平台建置,涵蓋 CUDA、Vulkan、ROCm、SYCL 與驍龍 NPU 後端。
找到 5 筆
llama.cpp 發布 b11738 版本,服務端修復了滑動視窗注意力(SWA)檢查點的失效邏輯(#30666),並補充了在 n_past 閾值下會失敗的測試用例。本次更新仍照常提供 macOS、Linux、Windows、Android 等各平台建置,涵蓋 CUDA、Vulkan、ROCm、SYCL 與驍龍 NPU 後端。
llama.cpp 發布 b11461,主要改動是修復 AMD 整合顯示卡在 Vulkan 後端下檢查點(checkpoint)讀取過慢的問題,對應 PR #30049。該版本同時更新了 macOS/iOS、Linux、Android、Windows、openEuler 的預編譯包,覆蓋 Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL,以及 Snapdragon 的 CPU、Adreno GPU 與 Hexagon NPU 後端。
美國新實驗室 Reflection 開源首個模型 Beam:501B 引數 MoE,每 token 僅啟用 23B,支援 1M token 上下文,Apache 2.0 許可,主攻編碼與 agentic 場景。首日支援 transformers、SGLang 與 vLLM,提供 BF16、FP8、NVFP4 三種 checkpoint 及自研 Rust 推理 harness,並附 SFT 與 RL 微調配方。
阿里發布 Qwen-Image-2.1-Turbo,這是基於 Qwen-Image-2.1 的加速 checkpoint,只需 8 步去噪即可生成和編輯影像,權重已在 ModelScope 與 Hugging Face 開放。它沿用同一 7B 視覺生成架構,官方稱步數減少不犧牲品質,仍可從文字生成 2K 影像,並支援用自然語言繼續編輯,例如新增配飾或更換場景。Diffusers 中載入 QwenImage21Pipeline 即可使用推薦的 8 步取樣;
何愷明團隊發布 NAT-ARC,用 ImageNet 上 MAE 預訓練的視覺編碼器解 ARC 抽象推理題,最佳單模型(0.6B 引數)在 ARC-1 上 pass@2 達 63.4%,整合後 70.2%。該方法不依賴 LLM,預訓練階段不使用 ARC 格子,僅複用 MAE 公開 checkpoint,測試時對每題做 LoRA 微調。論文稱這是純視覺方案首次逼近專用 LLM 系統水平,並顯示預訓練打通了視覺路線的 scaling 瓶頸。