10 月 6 日，Google DeepMind 發布 EmbeddingGemma 2，官方稱其為首個原生多模態的端側嵌入開放模型。該模型為 740M 引數，基於 Gemma 4 架構，把文字、程式碼、影像、音訊與影片對映到統一的 768 維向量空間，以 Apache 2.0 許可開源，權重已上線 Hugging F… 看完整事件
EmbeddingGemma 2 發布：740M 開源多模態嵌入模型
EmbeddingGemma 2 是一個 740M 引數的開源權重多模態模型，把文字、影像、影片與音訊對映到統一向量空間，面向隱私優先的端側檢索。開發者可用 MediaPipe Tasks 跨平台整合，或通過 LiteRT 在 CPU、GPU、NPU 上做細粒度效能最佳化。模型支援邊輸入邊搜的媒體檢索、影片關鍵幀定位與零樣本意圖路由等超低延遲本地場景。
開放權重模型把文字、影像、影片、音訊納入同一向量空間並面向端側推理，為在本地做多模態檢索的開發者提供了可跨 CPU、GPU、NPU 部署的新選項。
原標題：Bring multimodal semantic search to the edge with EmbeddingGemma 2
閱讀原文
| 評分 | 78 / 78（平均 78，門檻 65） |
|---|---|
| 狀態 | 精選 |
相關報導
為什麼嵌入模型常用 1536 維？
有使用者在討論區提問，為什麼嵌入模型常選擇 1536 維，而非 1024 或 2048。提問者已理解 64/128/256/512 等硬體友好倍數的意義，但好奇 1536=3×512 這一具體選擇的原因。OpenAI 曾使用 1536 維嵌入，其他廠商也提供或推薦該維度。提問者想知道這是 1024 與 2048 之間經驗性的折中點，還是存在架構或硬體上的特殊便利，並希望有實際訓練或設計嵌入模型的人回答。
llama.cpp 的 OpenVINO 後端更新至 2026.4.1 並大幅最佳化 MoE 效能
ggml-openvino 後端更新到 2026.4.1，重點最佳化 Qwen3.5 MoE 推理效能，並新增推理效能分析、預設使用遠端輸出張量、磁碟快取模型直載（cache_only）等能力。在 Arc B390 上以 q4_asym64_all 重量化執行 gemma-4-26B-A4B，pp512 從 66.16 t/s 提升到 1608.73 t/s，tg128 從 25.94 提升到 26.46 t/s，困惑度基本不變。
llama.cpp b11436 修復 OpenVINO 後端多項 GPU 迴歸
llama.cpp b11436 修復 ggml-openvino 後端的 CI 測試失敗與多項 GPU 迴歸。上游 #29622 給輸入 embedding 圖加入混合 token/embd 分支，後端改為只從計算節點建置 OV 模型，並把同型別連續 DUP 按 CONT 翻譯以避免圖被拆分，修復了 CPU 與 GPU 上首個單 token decode 失敗；