Liquid AI 的 LFM3 系列模型上線 Ollama
Liquid AI 的 LFM3 系列模型已可在 Ollama 本地執行,覆蓋文字、視覺、音訊、omni 與決策模型。文字模型在 4-bit 量化下僅約 1 GB,上下文視窗 256K,官方定位是可隨處執行、並能在單張 GPU 上微調的小模型。
找到 6 筆
Liquid AI 的 LFM3 系列模型已可在 Ollama 本地執行,覆蓋文字、視覺、音訊、omni 與決策模型。文字模型在 4-bit 量化下僅約 1 GB,上下文視窗 256K,官方定位是可隨處執行、並能在單張 GPU 上微調的小模型。
Liquid AI 推出 LFM3 系列,六款 2B 級模型(文字、視覺、音訊、全模態與決策)均從 LFM3-1.7B-Base 派生,可按輸入模態選型,並在單張 GPU 上微調後部署到端側。LFM3-1.7B 比 LFM2.5-2.6B 引數少 35% 卻更強,4bit 量化約 1GB,上下文 256K,8K 上下文下比 LFM2-1.2B 快約 25%。
Liquid AI 發布 LFM3 家族,首發六個約 2B 引數的多模態模型,均源自同一 LFM3-1.7B-Base 骨幹,覆蓋文字、視覺、音訊、omni 以及兩個決策模型。基座以 22T tokens 預訓練,最後 3.5T tokens 的中期訓練將上下文擴至 256K。架構由門控短卷積、256 token 滑窗注意力與全域性注意力三混合而成,8K 上下文下比 LFM2 快約 25%。
阿聯酋 TII 發布 Falcon-Emirati-7B,一個基於 Falcon-H1-Arabic 的方言專用模型,目標是用阿聯酋阿拉伯語的理解與生成方式覆蓋詞彙、語氣和文化語境。底座 Falcon-H1-Arabic 採用 Mamba 與 Transformer 注意力並行的混合架構,家族含 3B、7B、34B 三檔,上下文視窗最高 128K 與 256K token。
Cerebras 詳解如何在自研 WSE-3T 晶圓上部署萬億引數模型:以開源的約 3 萬億引數 Kimi K3 為例,需要 59 片晶圓,可跑到 1000–2000+ tokens/s。每片晶圓有 44GB 片上記憶體,按 4-bit 權重、8-bit KV cache、256k 上下文計算,69 個線性注意力層每片放 2 層、24 個稠密層每片放 1 層。
Liquid AI 的新小模型系列 LFM3 已可在 Ollama 本地執行,面向本地 agent、工具呼叫與結構化輸出。系列包含 1.7B 文字模型(256K 上下文)、影像理解版 lfm3-vl、支援 18 種語言語音識別、翻譯與合成的 lfm3-audio,以及文字、影像、音訊一體的 lfm3-omni;決策模型 d1 也新增 2B 版本。目前 lfm3 與 d1 2B 僅在 rc1 的 Apple 硬體上支援,Linux、Windows 稍後跟進。