llama.cpp releasesAI 評分43
llama.cpp 新增 H2O-Lightning-4B 決策模型支援
llama.cpp 加入 h2o-lightning 決策模型型別，支援 h2oai/h2o-lightning-4b——一個在 Qwen3.5-4B 上合併決策 LoRA 的模型。它與已有型別都不相容：輸出是帶前導空格的「 A」而非「A」，最多支援 255 個標籤，訓練文字出自 Python json.dumps，12.0 這類浮點必須原樣輸出為 12.0。
搜尋
依意思最接近的 29 筆
llama.cpp releasesAI 評分40
llama.cpp 為 4 頭 lightning indexer 新增 CUDA 分塊核心
llama.cpp 合併 b11405 版本更新，為 lightning indexer 在 CUDA 與 ROCm 後端新增分塊核心，針對 4 頭場景最佳化。新核心將鍵以半精度暫存、查詢逐頭載入，每執行緒負責一個鍵對兩個 token，避免點積的跨執行緒歸約；同時把乘積改為 float 計算以防 half2 溢位，並讓每個鍵元素只擴充套件一次供所有頭使用。ROCm 上內層迴圈展開 8 次，gfx908 僅用 63 個 VGPR 無溢位，R9700 上核心提速 36 倍。
機器之心AI 評分53
LightSprint 獲 610 萬美元種子輪，多智慧體直改企業程式碼庫
AI 程式設計初創公司 LightSprint 完成 610 萬美元種子輪融資，由 645 Ventures 領投，Y Combinator、January Capital、Rebel Fund 等參與。其平台以多智慧體架構讓產品經理、設計師用自然語言提出需求，先索引企業現有程式碼庫與編碼規範生成實施藍圖，再並行派發雲端智慧體改前端、狀態管理與邏輯分支，輸出沙箱可互動預覽並自動生成 PR，由工程師審查合併，同時接入 GitHub、Linear 與 Slack。
Ollama releases● 精選AI 評分75
Ollama v0.40.0：Apple Silicon 預設用 MLX 跑模型
Ollama 發布 v0.40.0，在 Apple Silicon 裝置上，MLX 執行時支援的模型架構將自動改用 MLX 執行。可用模型包括 qwen3.8、gemma4、qwen3.6、qwen3.5，決策模型 Nimble、tev1、clef、clef-flash 也已登陸 MLX，官方稱會繼續測試並啟用更多模型。
Ollama releases● 精選AI 評分80
Ollama v0.40.0：Apple Silicon 預設用 MLX 跑模型
Ollama 發布 v0.40.0，在 Apple Silicon 裝置上，MLX 執行時支援的模型架構將自動改用 MLX 執行。官方範例為 ollama pull qwen3.8 與 ollama run qwen3.8；預發布期間會繼續測試並啟用更多模型。
Ollama releasesAI 評分48
MLX 新增 Nemotron 3.5 Super，並修復 Nemotron 多項 bug
v0.40.5-rc1 為 MLX 後端新增 Nemotron 3.5 Super 模型支援。同一版本修復了 Nemotron 的層數推斷與分離式 MTP 量化問題，在保留舊別名的基礎上接受官方發布的層命名，並穩定 Mamba softplus、保留 FP32 視覺歸一化。
Ollama releases● 精選AI 評分79
Ollama v0.40.0 在 Apple Silicon 上預設用 MLX 執行模型
Ollama 發布 v0.40.0：在 Apple Silicon 裝置上，MLX 執行時支援的模型架構會自動改用 MLX 執行。本次納入 MLX 的模型包括 qwen3.8、gemma4、qwen3.6、qwen3.5，決策模型 Nimble、tev1、clef、clef-flash 也已支援。可用 ollama pull / run qwen3.8 拉取與執行，官方稱將繼續啟用更多模型。
Ollama releases● 精選AI 評分82
Ollama v0.40.0：Apple Silicon 預設用 MLX 執行模型
Ollama 發布 v0.40.0，在 Apple Silicon 裝置上，MLX 執行時支援的模型架構會自動改用 MLX 執行。官方範例為 ollama pull qwen3.8 與 ollama run qwen3.8，其他可用模型還包括 gemma4、qwen3.6 和 qwen3.5；決策模型 Nimble、tev1、clef、clef-flash 也已支援 MLX，並新增嵌入模型 embeddinggemma-2 支援。官方表示會繼續測試並啟用更多模型。
Ollama releasesAI 評分45
v0.40.4
Ollama 發布 v0.40.4，把 llama.cpp 升級到 b11521，新增對決策模型與 EmbeddingGemma 2 的支援。啟動流程中，Codex 的 /model 選擇器現在會列出本機已安裝的模型；服務端推理路由則改為複用已驗證的 manifest 與已載入模型。MLX 修復了推測回滾後迴圈狀態未壓縮的問題，MLX 與 MLX-C 同步做了版本號提升。
Ollama releases● 精選AI 評分68
Ollama v0.40.2：舊模型首次執行自動升級到 llama.cpp
Ollama v0.40.2 起，此前版本下載的模型會在首次執行時自動在後臺升級，以提升效能與 llama.cpp 相容性。升級會保留原模型作為備份，因此已升級的模型會暫時多佔用磁碟空間，官方表示未來版本會自動清理。需要現在清理可執行文件給出的 jq 指令碼配合 ollama rm 刪除，但這隻刪除備份，日後若要降級到 0.40 以前的版本，需重新拉取這些模型。
Hacker News front page● 精選AI 評分81
Liquid AI 發布 LFM2.5-24B-A2B 端側 agent 模型
Liquid AI 發布 LFM2.5-24B-A2B：24B 引數、每 token 僅啟用 2B 的推理模型，面向端側私有 agent，權重開放，已在 Hugging Face 和官方 Playground 上線。它是 LFM2.5 系列最大也是最後一款模型，上下文從 32K 擴至 131K，詞表由 65K 翻倍到 128K，預訓練從 17T 擴到 33T token。
Ollama releasesAI 評分45
v0.40.4
Ollama 發布 v0.40.4，把 llama.cpp 升級到 b11521，為 decision 模型和 EmbeddingGemma 2 提供支援。MLX 與 MLX-C 版本號同步上調，並修復 MLX 推測回滾後恢復的迴圈狀態未壓縮的問題。launch 方面，Codex 的 /model 選擇器現在會列出已安裝的模型；server 端在推理路由中複用已校驗的 manifest 與已載入模型。
llama.cpp releasesAI 評分42
llama.cpp 最佳化 lightning indexer 視訊記憶體與多後端支援
llama.cpp 合併多項改動，將 indexer 分數視訊記憶體佔用減半：原先同時存在兩個 [n_pool, n_idx_h, n_tokens] f32 張量，現改為逐頭計算並原地累加為單個 [n_pool, n_tokens] 分數。同時 CUDA 支援 4 頭、Metal 以函式常量讀取頭數、Vulkan 按 64 鍵×8 token 分塊並改用 fp16 點積，indexer 改為呼叫 ggml_lightning_indexer 且鍵只讀一次。
X @MistralAIAI 評分40
Mistral Large 4 在 Harvey 法律智慧體基準居開源第一
Mistral AI 官方帳號宣布，Mistral Large 4 在 Harvey 的 Legal Agent Benchmark（LAB）中位列開源模型第一。該推文以「金球獎·法律組」的說法公布這一排名，LAB 是面向法律場景智慧體能力的評測基準。原文未給出具體分數、參評模型數量與評測細節。
Ollama releasesAI 評分43
v0.40.1
Ollama 發布 v0.40.1，服務端新增代理雲端用量與餘額 API，客戶端可藉此讀取帳戶用量與餘額。該版本還把帳號步驟從 CLI 新手引導中移除，修復 Windows 上 llama 讀取超過 2GiB 的 clef head 問題，並讓 manifest 在 Windows 上避免使用符號連結。MLX 方面刪除了已進入上游的 Metal residency 補丁，文件修復了 README 社群整合列表中的 6 個失效連結和應用 README 的下載連結。
Hacker News front pageAI 評分65
AI-DLC 發布：一套工作流核心支援 Claude Code、Codex、Cursor 等七個 harness
awslabs 發布 AI-DLC 最新穩定版，這是一套與 harness 無關的 AI 編碼工作流核心，可原生執行在 Claude Code、Kiro CLI、Kiro IDE、Codex CLI、Cursor、opencode 與 GitHub Copilot 中。macOS、Linux、WSL 和 Windows 各有一條安裝命令，原生安裝自帶 aidlc 命令與各 harness 執行時，無需 Bun 或 Node.js。
X @ollamaAI 評分45
Ollama 上線 LFM2.5 24B，一條命令本地執行
Ollama 模型庫新增 LFM2.5 24B，使用者可用一條命令 ollama run lfm2.5:24b 拉取並在本地執行。該模型引數規模為 24B，官方同時給出了對應的模型庫頁面連結，公告中未披露更多細節。
X @ollama● 精選AI 評分77
Nemotron 3.5 Bolt 74B-A9B 上架 Ollama，原生 2-bit 量化只需 24GB
Ollama 上線 NVIDIA Nemotron 3.5 Bolt 74B-A9B，官方稱其採用原生 2-bit 量化，可壓進 24GB 記憶體，並能與其他應用同時執行。該模型是視覺語言模型（VLM），定位是在本地處理日常 agentic 任務。執行 ollama run nemotron-3.5-bolt 即可拉取執行。
r/LocalLLaMA top of the dayAI 評分75
Ninfer 4080 讓 16GB 顯示卡跑 100k 上下文
開發者 roofkid 發布 Ninfer 4080，在 RTX 4080 16GB 上以 100k 上下文執行 ISTA-DASLab-Qwen-3.8-27B-GSQ，實測最高 prefill 2720 tok/s、生成 262 tok/s。專案採用 DFlash2 推測解碼與 KV 壓縮，程式碼已在 GitHub 開源並提供 Docker 映象。
Ollama releasesAI 評分42
Ollama v0.40.6 預發布：GGUF 新增 q2_0 量化型別
Ollama 發布 v0.40.6 預發布版，GGUF 格式新增 q2_0 張量與檔案型別，為更低位元的模型量化提供支援。該版本還修復了 Windows 上 runner 程序殘留（孤兒程序）的問題，並在 Ollama 雲端上線 clef，同時把 --ask 模式的提問鍵改為識別符號。更新由 jmorganca、dhiltgen、jberg5 提交，共 1 個 commit。
Hugging Face blog● 精選AI 評分78
用 ML Intern 幾天做出 6 個模型，9B 改寫器壓到 0.8B
Hugging Face 的 yuvraj sharma 用 HuggingChat 裡的 ML Intern agent，幾天內做出 6 個公開模型，其中把 Qwen-Image 2.1 自帶的 9B 提示改寫器蒸餾成 0.8B 版本，可在 CPU 執行，輸出有效率 99.7%，token 消耗約為教師模型的四分之一。該專案含 9B 模型標註 8,797 條樣本，算力成本 16 美元。
Hacker News front page● 精選AI 評分91
Mistral Large 4 發布：1T 引數原生多模態，API 今日可用
Mistral AI 發布 Mistral Large 4（代號 Le Chonk），總引數 1T、啟用 49B，原生多模態，即日起通過 API 向所有人開放，開放權重版本將於 10 月底發布。官方稱其是歐美聚合基準上最好的開放權重模型，在網路安全、製造、金融等關鍵負載上達到 SOTA，視覺 grounding 超過閉源前沿模型。該模型端到端在歐洲打造，可通過 Mistral 自有的 Mistral Cloud 基礎設施部署，目前正與網路安全夥伴私下合作。
Ollama releases● 精選AI 評分79
Ollama v0.40.5 支援 NVIDIA Nemotron 3.5 Super 與 Bolt 模型
Ollama v0.40.5 新增 NVIDIA Nemotron 3.5 Super 與 Nemotron 3.5 Bolt 兩個模型支援。Super 是面向編碼、推理、工具呼叫與文件理解的視覺語言模型，採用 120B 引數混合 Mamba-2/Transformer MoE 架構、每 token 啟用 12B，搭配 C-RADIO 視覺編碼器，支援工具呼叫、思考模式開關和最高 1M tokens 上下文；
X @ollamaAI 評分32
Ollama 向 deepseek-v4.1-flash 使用者推送更新模型
Ollama 表示正在把更新後的模型推送給使用 deepseek-v4.1-flash 的使用者，推送範圍由此擴大到該型號。公告未說明新版本號、具體改進內容與完成時間，也未提及是否影響其他模型。
X @ollama● 精選AI 評分75
DeepSeek-V4.1-Flash-1017 上線 Ollama Cloud
DeepSeek-V4.1-Flash-1017 已在 Ollama 上線，可通過 Ollama Cloud 呼叫，託管位於美國且承諾零資料留存。該模型在 agentic 任務上表現較強，同時單任務成本更低。
Hugging Face blog● 精選AI 評分81
LiquidAI 發布 LFM2.5-24B-A2B：2B 啟用引數的端側 Agent 推理模型
LiquidAI 發布 LFM2.5-24B-A2B：總引數 24B、每 token 僅 2B 啟用的 MoE 推理模型，專為在本機持續執行的私有 Agent 設計。它先輸出思維鏈再作答，能呼叫工具，上下文由上一代 32K 擴到 131K，詞表從 65K 翻倍至 128K。
Ollama releasesAI 評分41
Ollama v0.40.3 暫停後臺模型升級以改善請求效能
Ollama 發布 v0.40.3，暫停了後臺模型升級，以改善 embedding 及其他請求的效能。該改動由維護者 jmorganca 提交，屬於行為調整：這一版本不再在後臺升級模型，以免拖慢推理與 embedding 請求。同時，ollama launch claude 不再彈出 Claude connectors 的警告，ollama launch codex 也不再提示 service tiers。
NVIDIA blogAI 評分47
輝達計劃投資 Doctolib 等四家法國 AI 初創
輝達宣布計劃投資 Doctolib、Entalpic、Genesis AI 和 Pigment 四家法國初創，方向分別是醫療智慧體、原子級材料工程、通用機器人和企業規劃平台。輝達稱其在歐洲技術生態的累計承諾投入已接近 100 億美元，此前還投資過 Alice&Bob、Gradium 和 Scintil Photonics。
X @OpenAIAI 評分43
OpenAI 稱新模型強化 COBOL、Fortran 等老舊語言的遷移能力
OpenAI 表示，最新一輪模型能力提升集中在 COBOL、Fortran、Visual Basic 等低資源程式語言，增強了這類軟體的建置與遷移能力。這些語言支撐著銀行、政府和企業長期依賴的系統；OpenAI 的目標是理解數十年的業務邏輯，並在保留可用部分的前提下幫助開發者完成現代化改造。OpenAI 稱會圍繞開發者與企業客戶提出的實際難題推進，並公開徵集下一批需要支援的語言與工作流。