LiquidAI 發布 LFM2.5-Encoder 350M 多語言編碼器
LiquidAI 發布 LFM2.5-Encoder,含 350M 與 230M 兩個版本,基於 LFM2 架構的雙向掩碼語言模型,支援 15 種語言、8k 上下文,可微呼叫於分類、檢索、重排與語義相似度任務。官方稱其吞吐量追平或超過 ModernBERT,CPU 長上下文更強,並可通過 WebGPU 在瀏覽器執行;GGUF 權重已發布,llama.cpp 支援 PR 已提交。
你準備用 Mac Studio 跑本地模型,這個編碼器有 GGUF 且走 llama.cpp,正好能在 Apple Silicon 上做檢索或重排,補齊 coding agent 的本地 RAG 環節。
原標題:LiquidAI/LFM2.5-Encoder 250M/350M
閱讀原文
| 評分 | 62 / 62(平均 62,門檻 76) |
|---|---|
| 狀態 | 未入選 |
相關報導
Workers AI 上線 EuroLLM 與 Apertus 兩款歐洲開源模型
Cloudflare 在 Workers AI 上線兩款由歐洲公共機構訓練的開源模型:覆蓋全部 24 種歐盟官方語言的 EuroLLM,以及瑞士 ETH Zurich、EPFL 等打造的 Apertus,今天即可申請訪問。Apertus 用逾 15 萬億 token、1500 多種語言訓練,40% 訓練資料非英語,架構、權重、資料與方法全部公開,並按 EU AI Act 與 GDPR 處理訓練退出與個人資料。
llama.cpp 新 PR 將 Qwen 索引器視訊記憶體減半
llama.cpp 的 PR #29825 把 Qwen Flash Next 的 indexer score 視訊記憶體佔用減半,例如 131072 上下文、ub 2048 時從 3.0 GiB 降到 1.5 GiB,262144 上下文、ub 4096 時從 11.7 GiB 降到 5.6 GiB。作者稱 logits 完全一致,僅分數因 fp32 舍入有差異,pp/tg 速度不變,test-llama-archs 通過。
llama.cpp b11352 最佳化 qwen4exp 掩碼建置
llama.cpp 發布 b11352 版本,主要改動是最佳化 qwen4exp 的掩碼(mask)建置(#29824),並將同一改動應用到 GLM5-next。該版本繼續提供 macOS Apple Silicon(arm64)、iOS、Linux、Windows、Android 等平台建置,涵蓋 CUDA 12/13、Vulkan、ROCm 10.0、OpenVINO、SYCL 與 Snapdragon 後端。
llama.cpp 新增 /v1/systemone API,支援 laya 等 5 個模型
llama.cpp 發布 b11361,在 server 中新增 /v1/systemone API,支援 laya、julia-1、lev、openjev、kev 五個模型,並附帶模型轉換指令碼。該版本加入了共享 prompt 字首與視覺輸入支援,新增用於測試的小模型 openjev tiny,文件中明確說明不支援 date_facts。macOS Apple Silicon(arm64)建置正常,但啟用 KleidiAI 的 arm64 版本被標記為 DISABLED;
mlsubgen 本地生成 45 種語言字幕,僅支援 Linux 與 NVIDIA
mlsubgen 是一個完全在本機執行的字幕生成工具,支援 45 種語言,但僅限 Linux 和 NVIDIA 顯示卡。它按語音片段而非整檔案檢測語言,可處理混合語言素材;同時執行兩個語音識別器並由本地 LLM 調和結果,且優先使用檔案內嵌字幕(包括藍光 PGS 點陣圖字幕的 OCR),無字幕可讀時才轉錄音訊。作者在 24 GB RTX A5000 上執行,提供 16、12、8 GB 視訊記憶體配置,需 16–32 GB 系統記憶體和 30–65 GB 模型儲存;