開源離線 AI 助手 Survival LLM 發布,按記憶體選模型
免費開源的離線 AI 助手 Survival LLM 發布,AI 模型與應急資料庫都裝在本地,聯網完成設定後即可斷網使用,提問不會離開電腦。它會按電腦記憶體自動選擇模型,從 128GB 記憶體 Mac 上的 Nemotron 3.5 Super(80GB 下載)到 16–31GB 機型的 IBM Granite 4.2 8B(6GB)。
官方給出按記憶體分檔的模型清單與實測成績(22 道停電與急救題各檔答對 14–21 道)以及精確的下載體積,對想在本地跑模型、準備斷網應急方案的人有直接參考價值。
原標題:Survival LLM: AI assistant and emergency library that runs on your own computer
閱讀原文
| 評分 | 65 / 66(平均 65,門檻 76) |
|---|---|
| 狀態 | 未入選 |
相關報導
@lmstudio: Nemotron 3.5 Super VL from @NVIDIAAI is live in LM Studio!
NVIDIA 的 Nemotron 3.5 Super VL 已在 LM Studio 上線,可直接在本地下載執行。該模型為 120B 總引數、12B 啟用引數的 MoE 架構,支援視覺輸入與推理,並針對視覺理解和工具呼叫做了訓練。官方提示本地執行約需 70GB 記憶體,模型頁面位於 lmstudio.ai。
llama.cpp UI 新增 Discover,可瀏覽下載 HuggingFace GGUF 並斷點續傳
llama.cpp 的圖形介面新增 Discover Models 檢視,可直接在應用內瀏覽並下載 HuggingFace 上的 GGUF 模型,由 Enable Discover Models 開關控制。下載支援暫停與續傳:暫停後保留已下載的分片檔案,重啟或重新開啟後仍能接著磁碟上的進度繼續。下載項按倉庫聚類,主權重會順帶拉取匹配的 draft sidecar(DFlash 優先於 MTP)以啟用投機解碼,決策模型等無法執行的模型已從目錄與搜尋中過濾。
Llmspeed 上線:按硬體和模型查本地大模型推理速度
Llmspeed 是一個可按硬體或模型查詢本地大模型推理速度的網站,用於在購買硬體前預估實際體驗。它覆蓋 RTX 5090、RTX 3090、Mac Studio M5 Ultra 512GB、DGX Spark、Strix Halo 與純 CPU 等三十餘種配置,以及 Qwen 3.6/3.8 27B、GPT-OSS 120B、DeepSeek V4 Flash、GLM-5.3 Flash 等模型,給出短提示、單裝置下的速度估計。
llama.cpp 新增 LiquidAI d1-omni-600M 決策模型
llama.cpp 建置 b11488 新增 LiquidAI/d1-omni-600M 決策模型支援,服務端可通過 images 與 input_audio 直接接收音訊輸入,模型與多模態輸入打通。同時決策型別 d1omni 更名為 lfm2-d1-omni,images 成為 files 的別名,無記憶的 lfm2 被限定為非因果模式,CUDA 後端保留 conformer 的 GLU sigmoid。四筆改動均標註由 Claude Opus 5.5 協助完成;
LiquidAI 發布 LFM2.5-24B-A2B:2B 啟用引數的端側 Agent 推理模型
LiquidAI 發布 LFM2.5-24B-A2B:總引數 24B、每 token 僅 2B 啟用的 MoE 推理模型,專為在本機持續執行的私有 Agent 設計。它先輸出思維鏈再作答,能呼叫工具,上下文由上一代 32K 擴到 131K,詞表從 65K 翻倍至 128K。