AISpot

VLM 中間層隱空間存在可提取的三維場景拓撲

機器之心研究研究

匹茲堡大學研究發現,視覺語言模型(VLM)的中間層隱空間保留了可提取的三維場景拓撲。研究先用物體掩碼聚合視覺標記,再通過跨場景平均剔除顏色、形狀等身份屬性;處理後,中間層的 PCA 佈局與真實場景最吻合,相鄰物體的表徵能量比也更低。把 Dirichlet 能量加入微調目標,並在中間層做 500 步 LoRA 後,Qwen2.5-VL-7B 在 VSI-Bench 簡單相對方向任務上的準確率從 47.9% 升到 60.0%。

該研究把「VLM 是否理解空間」從答題準確率轉向可觀察、可干預的隱空間結構,並給出微調後提升 12.1 個百分點的實測結果,對研究多模態空間認知與訓練設計的人有參考價值。

原標題:VLM脑中真有一张3D地图?匹兹堡大学挖出了新证据
閱讀原文

評分76 / 76(平均 76,門檻 65)
狀態精選

相關報導

機器之心● 精選AI 評分77

人大高瓴與百度等開源 LoopVL:迴圈 Transformer 擴充套件到視覺語言模型

人大、百度、清華等機構開源視覺語言模型 LoopVL,把迴圈 Transformer 擴充套件到多模態:僅 1B 語言主幹、0.14T 訓練 token,就在 MMMU-Pro、MathVision 等評測上追平或超過用約 36T token 訓練的 Qwen3.5-2B、InternVL3.5-2B。模型以 32 層引數展開 128 次層呼叫(H2L3×2),影像只編碼一次,後續迴圈持續更新視覺—語言狀態;

機器之心● 精選AI 評分83

蘋果 LensVLM 把長上下文壓成圖片,模型可按需展開原文

蘋果基礎大模型團隊與杜克大學提出 LensVLM,先把長上下文渲染成壓縮頁面影像讓模型瀏覽,再按需展開相關頁面讀取原文,在七項文字問答評測中以 4.3 倍有效壓縮達到 68.9% 平均準確率,接近完整文字參照的 72.4%。模型基於 Qwen3.5-9B-Base 經監督微調與強化學習訓練,15 倍壓縮下準確率由基礎模型的 18.1% 提升到 52.1%;

X @lmstudio● 精選AI 評分77

@lmstudio: Nemotron 3.5 Super VL from @NVIDIAAI is live in LM Studio!

NVIDIA 的 Nemotron 3.5 Super VL 已在 LM Studio 上線,可直接在本地下載執行。該模型為 120B 總引數、12B 啟用引數的 MoE 架構,支援視覺輸入與推理,並針對視覺理解和工具呼叫做了訓練。官方提示本地執行約需 70GB 記憶體,模型頁面位於 lmstudio.ai。

機器之心● 精選AI 評分72

新基準 VA-Bench 測 12 個多模態模型,完整任務成功率約一半

VA-Bench 用 14 類機器人操作任務、280 個物理驗證場景測試 12 個主流多模態模型,發現目標識別與定位可達 100%、操作語義理解接近 100%,但完整任務成功率最高的 Qwen3.8-max、Opus-5、GPT-5.6-sol 分別只有 53.93%、52.86%、51.55%。測試中模型先觀看成功示範影片,但拿不到物體座標與專家軌跡,需自行決定是否消耗步數切換視角,並直接給出移動距離、旋轉角度與夾爪開合時機。

llama.cpp releasesAI 評分45

llama.cpp b11572 新增 vLLM d3 模型支援

llama.cpp 發布 b11572,新增對 vLLM d3 模型的支援(d2 同步更新),並加入 pplx-decider 模型支援,同時澄清命名規則、加強校驗。該版本照例提供 macOS/iOS、Linux、Windows、Android、openEuler 的預編譯包,覆蓋 CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 以及驍龍 CPU/Adreno GPU/Hexagon NPU 等後端。