@ollama: Nemotron 3.5 Bolt from @NVIDIAAI is live on Ollama.
NVIDIA 的小型視覺語言模型 Nemotron 3.5 Bolt 已在 Ollama 上線,可用於本地快速對話、影像理解與工具呼叫,支援 128K token 上下文視窗,適合在本地執行視覺多模態任務的使用者。
找到 11 筆
NVIDIA 的小型視覺語言模型 Nemotron 3.5 Bolt 已在 Ollama 上線,可用於本地快速對話、影像理解與工具呼叫,支援 128K token 上下文視窗,適合在本地執行視覺多模態任務的使用者。
Ollama v0.40.10 加入 NVIDIA Nemotron 3.5 Bolt E4B,這是 NVIDIA 基於 Gemma 4 的小型視覺語言模型,面向本地對話、影像理解與工具呼叫。它支援 128K token 上下文,並自帶 DFlash 草稿模型用於投機解碼;執行 ollama run nemotron-3.5-bolt:e4b 即可執行。
Anthropic 推出 Claude Haiku 5.5(claude-haiku-5-5),面向高併發與低延遲場景。該模型提供 1M token 上下文視窗、128k 最大輸出 token,並支援通過 effort 引數調節的自適應思考。已在 Claude API、Amazon Bedrock、AWS 上的 Claude Platform、Google Cloud 和 Microsoft Foundry 上線。
Anthropic 推出 Claude Opus 5.5,面向長時間執行的 agentic coding 與知識工作,預設 100 萬 token 上下文、最多 128k 輸出,始終開啟自適應思考,價格從 Opus 5 的每百萬 token 5/25 美元降到 4/20 美元。思考無法關閉:傳 disabled 或 enabled 的 thinking 引數都返回 400,需省略該欄位並用 effort 引數控制深度;
Meta Superintelligence Labs 的首個開源模型 Muse Glimmer 已在 Ollama 上線,採用 Apache 2.0 許可。它是 30B 多模態模型,面向本地執行的 agent 工作負載,上下文長度 128K 以上,支援 low 到 xhigh 四檔推理強度。
Liquid AI 發布 LFM2.5-24B-A2B:24B 引數、每 token 僅啟用 2B 的推理模型,面向端側私有 agent,權重開放,已在 Hugging Face 和官方 Playground 上線。它是 LFM2.5 系列最大也是最後一款模型,上下文從 32K 擴至 131K,詞表由 65K 翻倍到 128K,預訓練從 17T 擴到 33T token。
LiquidAI 發布 LFM2.5-24B-A2B:總引數 24B、每 token 僅 2B 啟用的 MoE 推理模型,專為在本機持續執行的私有 Agent 設計。它先輸出思維鏈再作答,能呼叫工具,上下文由上一代 32K 擴到 131K,詞表從 65K 翻倍至 128K。
Anthropic 推出 Claude Haiku 5.5(claude-haiku-5-5),面向高併發與低延遲場景,支援 1M token 上下文、128k 最大輸出,並預設開啟帶 effort 引數的自適應思考。這是一次破壞性升級:手工 extended thinking(budget_tokens)、temperature/top_p/top_k 取樣引數與 assistant 訊息預填都會返回 400 錯誤,需按遷移指南改寫。
阿聯酋 TII 發布 Falcon-Emirati-7B,一個基於 Falcon-H1-Arabic 的方言專用模型,目標是用阿聯酋阿拉伯語的理解與生成方式覆蓋詞彙、語氣和文化語境。底座 Falcon-H1-Arabic 採用 Mamba 與 Transformer 注意力並行的混合架構,家族含 3B、7B、34B 三檔,上下文視窗最高 128K 與 256K token。
位元組 Seed 團隊發現,DeepSeek-V4 系列在 128K 長上下文檢索中的準確率會隨目標資訊的位置以 4 個 Token 為週期起伏,同一條資訊換個位置最多相差 40.2 個百分點,V4-Pro-Base 也有 34.8 個百分點。原因指向其為省記憶體採用的分塊 KV Cache 壓縮:資訊在壓縮視窗內所處相位不同,檢索能力就出現系統性差異,團隊稱之為相位敏感性,並用基於 Qwen3-0.6B 自訓的多種分塊壓縮模型復現了同樣的週期。
Anyworld 是一款瀏覽器端多人文字冒險遊戲,由房主用 llama.cpp 本地跑模型充當 DM,也支援 OpenAI 等雲 API,玩家只需開啟連結即可加入。行動結果由 Python 真實擲骰決定,模型只負責敘述;支援自訂劇本、隱藏劇情觸發、場外聊天和斷線重連。開發時用 Gemma 4-26B-A4B Q4、128k 上下文,在 RTX 5070 Ti 16GB 上每輪結算約 5 秒。