llama.cpp 新增 MiniCPM-OCR-Jev 支援
llama.cpp 建置 b11928 加入 MiniCPM-OCR-Jev,這是一個只打分、不生成文字的 OCR 模型。它以 Qwen3.5-VL 為骨幹,在最後一個 token 上讀取 value head,為影像與其渲染文字的匹配度打分,通過 POST /v1/systemone 的 openbmb-minicpm-ocr-jev 決策型別提供服務。checkpoint 沒有 LM head,因此文字生成請求會被拒絕;
llama.cpp 接入打分式而非生成式的 OCR 模型,走 /v1/systemone 新決策型別,並保留每圖 16384 token 的影像預算,對在本地搭建 OCR 結果校驗流程的開發者最直接。
原標題:b11928
閱讀原文
| 評分 | 58 / 58(平均 58,門檻 60) |
|---|---|
| 狀態 | 未入選 |
原文
相關報導
llama.cpp b11826 新增 MiniCPM-OCR 1.0 支援
llama.cpp 建置 b11826 在 mtmd 多模態模組中加入 MiniCPM-OCR 1.0 支援,本地推理可直接用上這一 OCR 模型。同批預編譯包覆蓋 macOS(Apple Silicon 與 Intel)、iOS、Android、Windows、Linux 及 openEuler,包含 CUDA 12/13、Vulkan、ROCm 10.0、SYCL、OpenVINO 與驍龍 CPU/Adreno GPU/Hexagon NPU 後端。
面壁開源 MiniCPM-V 4.7:35B MoE 約 3G 記憶體跑在手機上
面壁智慧與 OpenBMB 開源 MiniCPM-V 4.7,其中 35B-A3B 是 MiniCPM-V 系列首個 MoE 模型,約 3G 記憶體就能在 iOS、安卓裝置上流暢執行,iPhone 17 Pro Max 上解碼速度超過每秒 13 個 token。另有實際引數 1.3B 的 1B 版本,主打 OCR、數學與影片理解。
llama.cpp b11551 加入 MiniCPM-V 4.7 支援
llama.cpp 建置 b11551 新增 MiniCPM-V 4.7 多模態模型支援,mtmd 與 conversion/minicpm.py 轉換指令碼同步更新。同時允許 mrope 的時間從額外位置槽讀取,GGUF 新增 rope.section_order 後設資料,並處理 grid layout 與相容性問題。
1.3B 的 OXR 開源登頂三項文件解析榜,速度超 PaddleOCR、MinerU
1.3B 引數的開源文件解析模型 OXR 在 OmniDocBench、olmOCR-Bench、DocParsingBench 三項基準上分別取得 97.18、87.84、87.76 分,均列第一。它覆蓋文字、表格、公式、化學結構式等 13 類元素,輸出 Markdown / JSON 並保留版面座標,公式轉 LaTeX、表格轉 HTML。
百度開源文心 Unlimited OCR 2,峰值 KV 快取降約 96%
百度發布並開源文心 Unlimited OCR 2,百頁級單序列峰值 KV 快取從 47GB 降到 1.77GB,減少約 96%。它靠稀疏參考滑動視窗注意力 SR-SWA 與分塊無限解碼,可連續解析 3600 頁以上文件,16 路併發吞吐從 360 提升到 1315 Token/秒。MarathonDocBench 得 77.06、MPDocBench 得 84.59,單步解碼速度分別為全注意力和上代 R-SWA 的 7.0 倍與 5.6 倍。