蘋果 LensVLM 把長上下文壓成圖片，模型可按需展開原文
蘋果基礎大模型團隊與杜克大學提出 LensVLM，先把長上下文渲染成壓縮頁面影像讓模型瀏覽，再按需展開相關頁面讀取原文，在七項文字問答評測中以 4.3 倍有效壓縮達到 68.9% 平均準確率，接近完整文字參照的 72.4%。模型基於 Qwen3.5-9B-Base 經監督微調與強化學習訓練，15 倍壓縮下準確率由基礎模型的 18.1% 提升到 52.1%；
把長上下文渲染成圖片、再按需展開原文，4.3 倍有效壓縮下準確率接近全文輸入，並給出延遲與 GPU 成本實測，對做長文件問答與 agent 上下文壓縮的開發者有參考價值。
原標題：苹果LensVLM：长上下文压缩成图片，模型边看边「放大」
閱讀原文
| 評分 | 85 / 82（平均 83，門檻 65） |
|---|---|
| 狀態 | 精選 |
相關報導
研究：LLM 用 1866 年電報體壓縮記錄可省近半 token
一份 50 篇材料、約 1300 題的新基準（Telegraph Test，程式碼與資料已開源）顯示，只需一句小寫指令讓模型用 1866 年跨大西洋電纜時代的電報體（cablese）撰寫壓縮記錄，輸出 token 可省 40%–49%，而下游模型讀取這些記錄的準確率不低於明文（恢復比 0.99–1.10）。GLM-5.3-Flash 自身省 48.4%，qwen3.8-27b 省 48.9%，gemma-4-31b 省 40.4%；
llama.cpp b11572 新增 vLLM d3 模型支援
llama.cpp 發布 b11572，新增對 vLLM d3 模型的支援（d2 同步更新），並加入 pplx-decider 模型支援，同時澄清命名規則、加強校驗。該版本照例提供 macOS/iOS、Linux、Windows、Android、openEuler 的預編譯包，覆蓋 CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 以及驍龍 CPU/Adreno GPU/Hexagon NPU 等後端。
llama.cpp 新 PR 將 Qwen4 索引器視訊記憶體減半
llama.cpp 的 PR #29825 通過最佳化索引器分數記憶體，把 Qwen Flash Next 等 Qwen4 模型的視訊記憶體佔用減半。實測在上下文 131072、ub 2048 時從 3.0 GiB 降至 1.5 GiB，262144、ub 4096 時從 11.7 GiB 降至 5.6 GiB。作者稱 logits 逐位一致、pp/tg 速度不變，僅分數因 fp32 舍入有差異；有使用者反饋解碼速度約降 10%。
llama.cpp 新增 Decision 模型支援
llama.cpp 最新建置已加入 Decision 模型支援，新增 /v1/systemone 端點，可在本地進行 Jev 風格推理，兼顧效率與隱私。目前支援多個開源模型，官方表示後續還會增加更多模型。
Ollama v0.40.0：Apple Silicon 預設用 MLX 執行模型
Ollama 發布 v0.40.0，在 Apple Silicon 裝置上，MLX 執行時支援的模型架構會自動改用 MLX 執行。官方範例為 ollama pull qwen3.8 與 ollama run qwen3.8，其他可用模型還包括 gemma4、qwen3.6 和 qwen3.5；決策模型 Nimble、tev1、clef、clef-flash 也已支援 MLX，並新增嵌入模型 embeddinggemma-2 支援。官方表示會繼續測試並啟用更多模型。