Simon WillisonAI 評分41
llm-echo 0.5 發布，模擬 token 統計計入工具呼叫與推理 token
llm-echo 0.5 發布，這個除錯外掛不接入任何 LLM，只把收到的 prompt 原樣回顯，新版讓模擬的 token 用量統計把工具呼叫、系統提示詞和推理 token 都計算在內。
搜尋
依意思最接近的 30 筆
r/LocalLLaMA top of the dayAI 評分65
LiquidAI 發布 LFM2.5-Encoder 250M/350M 編碼器
LiquidAI 發布 LFM2.5-Encoder 系列，含 250M 與 350M 兩個版本，基於 LFM2 架構的雙向掩碼語言模型，支援 15 種語言、8k 上下文，可微呼叫於分類、檢索、重排與語義相似度等任務。官方稱其吞吐量持平或超過 ModernBERT，CPU 長上下文有優勢，並可在瀏覽器 WebGPU 上執行；GGUF 權重已上傳 Hugging Face，llama.cpp 已提交對應支援 PR。
llama.cpp releasesAI 評分46
llama.cpp 新增 LiquidAI d1-omni-600M 決策模型
llama.cpp 建置 b11488 新增 LiquidAI/d1-omni-600M 決策模型支援，服務端可通過 images 與 input_audio 直接接收音訊輸入，模型與多模態輸入打通。同時決策型別 d1omni 更名為 lfm2-d1-omni，images 成為 files 的別名，無記憶的 lfm2 被限定為非因果模式，CUDA 後端保留 conformer 的 GLU sigmoid。四筆改動均標註由 Claude Opus 5.5 協助完成；
量子位AI 評分60
魔法原子 EchoPolicy-0 登頂 MolmoSpaces 具身榜單
在 AI2 發起的 MolmoSpaces 零樣本具身評測 Combined 榜單上，魔法原子 VLM Agent 框架 EchoPolicy-0 以 75.4% 的機器人操作平均成功率拿下全球第一，覆蓋全部 4 個 v1 任務，共 3915 局全量評測。同一分組下，自研具身 Agent 框架 MagicBrain 以 3.4B 引數位列全球第四，抓取成功率 94.4%，Pick-v1 與 Pick & Place-v1 兩項任務均為全球第一。
Hacker News front pageAI 評分49
Rich Hickey：LLM 不是工具，而是自動化
Rich Hickey 發表短文《'AI' Is Not a Tool》，主張 LLM 不是可被揮舞的工具，而是自動化：它自行行動，使用者只發出請求，沒有持續控制，也沒有感官反饋。他以用 LLM 讀論文為例，指出是它讀了而不是你讀了，讀者因此錯過學習寫作、組織論證、發現細節乃至學習思考的機會。他強調工具不會失控或叛變，而自動化有著與工具不同、忽視不得的固有屬性。
The Verge AIAI 評分54
Alexa Plus 出 bug：多款 Echo 音箱反覆說唱 lalala 數分鐘
Amazon Echo 智慧音箱上的 Alexa Plus 出現 bug：裝置會在與使用者對話途中反覆說、有時甚至唱「lalala」，一次持續數分鐘，被追問時 Alexa 似乎完全不知道自己剛才在做什麼。Reddit 上過去幾週多次出現相關報告，最近一次在三天前，涉及多款 Echo 型號，多名使用者上傳了影片。亞馬遜已向 Android Authority 表示知悉該問題。Echo Studio 是執行 Alexa Plus 的機型之一。
X @karpathy● 精選AI 評分67
Karpathy 分享理解 LLM 輸出的技巧：從 ASD-STE100 到解釋影片
Karpathy 認為，隨著 LLM 能力提升，人類工作將更多轉向監督與理解模型輸出，而 LLM 本身也能在這方面提供幫助。他給出的遞進式技巧包括：要求模型用航空維護文件規範 ASD-STE100 寫作、生成圖表、輸出 HTML 互動網頁，以及製作定製解釋影片，例如用 ElevenLabs API 生成 3b1b 風格影片。他強調可以要求模型產出大型、定製、用完即棄的軟體產物，如網頁應用和影片直譯器。
Hacker News front pageAI 評分41
回應 Rich Hickey：LLM 仍是工具，用好它需要技能
作者回應 Rich Hickey 於 2026 年 10 月 11 日發表的《"AI" is Not a Tool》，認為 LLM 屬於工具而非自動化，能否用好取決於使用者的技能。編譯器與電子表格同樣自動完成大量工作，但仍由人指定輸入、檢查結果並決定下一步，因此自動生成文字不該被排除在工具之外。作者也承認用摘要代替讀論文會損失學習機會，但可以讀原文再用 LLM 質疑自己的理解；同時批評「失控」「越獄」「密謀」等擬人化措辭，把軟體故障說成人的動機。
Hugging Face blog● 精選AI 評分81
LiquidAI 發布 LFM2.5-24B-A2B：2B 啟用引數的端側 Agent 推理模型
LiquidAI 發布 LFM2.5-24B-A2B：總引數 24B、每 token 僅 2B 啟用的 MoE 推理模型，專為在本機持續執行的私有 Agent 設計。它先輸出思維鏈再作答，能呼叫工具，上下文由上一代 32K 擴到 131K，詞表從 65K 翻倍至 128K。
llama.cpp releasesAI 評分25
llama.cpp 伺服器新增 /v1/systemone API，支援 laya、julia-1 等模型
llama.cpp 的 server 元件新增了 /v1/systemone API，支援 laya、julia-1、lev、openjev、kev 五個模型。該 PR 包含模型轉換、服務端程式碼、共享提示字首、視覺支援，並新增 openjev tiny 模型用於測試。建置覆蓋 macOS、Linux、Windows、Android 等平台，但明確不支援 date_facts。
X @ggerganov● 精選AI 評分80
llama.cpp 新增 Decision 模型支援
llama.cpp 最新建置已加入 Decision 模型支援，新增 /v1/systemone 端點，可在本地進行 Jev 風格推理，兼顧效率與隱私。目前支援多個開源模型，官方表示後續還會增加更多模型。
llama.cpp releases● 精選AI 評分82
llama.cpp v0.6.0 發布：新增擴充套件 batch API 與 GLM-5.3-Flash 支援
llama.cpp 發布 v0.6.0，新增 llama_batch_ext 擴充套件 batch API，支援混合 token/embedding 輸入與 MTP、deepstack 狀態嵌入。本次加入 320B 的 GLM-5.3-Flash（GLM5-Next）文字+視覺混合模型、Clef 決策模型，以及 Qwen4Exp 的 MTP 投機解碼，官方稱在 DGX Spark 上解碼約快 1.5 倍。
X @lmstudio● 精選AI 評分68
LM Studio 上線 DeepSeek-V4.1-Flash-1017，支援 1M 上下文與影像輸入
DeepSeek-V4.1-Flash-1017 已在 LM Studio Bionic 上線，支援 100 萬 token 上下文與影像輸入，官方稱其價效比很高。該模型由美國境內託管，並提供完整的零資料保留（ZDR）。LM Studio 建議將它用於 coding 任務。
X @lmstudioAI 評分45
LM Studio 的 Bionic 1.1.8 新增兩個 API，可與 LM Studio 同時執行
LM Studio 的 Bionic 更新到 1.1.8，新增對 /v1/systemone 與 /v1/decisions 兩個 API 的支援，並支援 Bionic 與 LM Studio 同時執行。LM Studio 官方在更新日誌中一併列出這兩項改動，連結為 lmstudio.ai/changelog/bionic-v1.1.8，未附更多說明。
Hacker News front page● 精選AI 評分81
Liquid AI 發布 LFM2.5-24B-A2B 端側 agent 模型
Liquid AI 發布 LFM2.5-24B-A2B：24B 引數、每 token 僅啟用 2B 的推理模型，面向端側私有 agent，權重開放，已在 Hugging Face 和官方 Playground 上線。它是 LFM2.5 系列最大也是最後一款模型，上下文從 32K 擴至 131K，詞表由 65K 翻倍到 128K，預訓練從 17T 擴到 33T token。
llama.cpp releases● 精選AI 評分65
llama.cpp 新增 mtmd_audio_stream，支援 Voxtral Realtime
llama.cpp 發布 b11675 建置，在 mtmd 多模態工具庫中新增 mtmd_audio_stream 介面，並加入對 Voxtral Realtime 即時音訊模型的支援。
Hacker News front pageAI 評分68
Llmspeed 上線：按硬體和模型查本地大模型推理速度
Llmspeed 是一個可按硬體或模型查詢本地大模型推理速度的網站，用於在購買硬體前預估實際體驗。它覆蓋 RTX 5090、RTX 3090、Mac Studio M5 Ultra 512GB、DGX Spark、Strix Halo 與純 CPU 等三十餘種配置，以及 Qwen 3.6/3.8 27B、GPT-OSS 120B、DeepSeek V4 Flash、GLM-5.3 Flash 等模型，給出短提示、單裝置下的速度估計。
llama.cpp releasesAI 評分52
llama.cpp 最佳化 pooled embeddings：跳過 LM head 與取樣層
llama.cpp 發布 b11597 建置：提取 pooled embeddings 的上下文不再展開 LM head，模型只宣告 t_logits，除非池化型別不是 NONE，set_outputs() 才會展開它，省去了每個 token 的 n_vocab 維 logits 計算和對應的 host buffer。改動同時新增獨立的 build_logits() 來建置 LM head，並在 build_sampling() 之前呼叫；
Ollama releasesAI 評分42
v0.40.7
Ollama 發布預發布版 v0.40.7，三項改動中最主要的是 llama-server 現在能自行推斷投機解碼所需的草稿模型型別，不再需要手動指定。MLX 後端新增 PPLX Decider v1.2 支援，OpenAI 相容層則允許在非思考模型上使用 Responses 的 effort 引數。
X @karpathyAI 評分55
Karpathy：LLM 能力認知差距擴大成漏斗，約 2000 萬人在用前沿模型
Karpathy 稱 LLM 能力的認知差距正在擴大，從兩群人各說各話變成尖銳的漏斗。他估算約 60 億人（75%）幾乎沒接觸過 LLM，10 至 20 億人（20%）只是偶爾用免費版聊天機器人，約 2000 萬人（0.2%）在數學與程式碼上親身使用前沿模型，過去要花數週數月的專案現在一個提示就能由 agent 完成。
llama.cpp releasesAI 評分20
llama.cpp 發布 b11384 版本，覆蓋多平台預編譯包
llama.cpp 發布 b11384 版本，官網為 llama.app，並附 GitHub 建置證明。該版本提供 macOS、iOS、Linux、Android、Windows 及 openEuler 的預編譯包，涵蓋 Apple Silicon、CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 與 Snapdragon 的 CPU、Adreno GPU、Hexagon NPU 等後端。
llama.cpp releasesAI 評分40
llama.cpp 建置 b11641：spec 新增 lilicorr 支援
llama.cpp 發布建置 b11641，其中 spec（推測解碼）新增 lilicorr 支援（PR #30506），是本次最主要的變更。同一批提交還讓 convert 採用約定的超參賦值方式，併為 llama-batch.cpp 中的 hparam 使用留下 TODO，另有一處 typo 修復，提交由 Georgi Gerganov 共同署名。
llama.cpp releasesAI 評分42
llama.cpp b11607 發布：chat 輸出改為 parts 結構
llama.cpp 發布 b11607 建置，主要變更是把 chat 的輸出由單個字串改為 parts 結構（PR #30389）。同版本更新了各平台預編譯產物，覆蓋 macOS/iOS、Linux、Windows、Android 與 openEuler，含 CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 等後端，以及 Snapdragon 的 CPU、Adreno GPU、Hexagon NPU 支援。
llama.cpp releases● 精選AI 評分85
llama.cpp v0.7.0 發布：MoE 專家快取最高帶來 2.2 倍解碼提速
llama.cpp 發布 v0.7.0，最核心的變化是新增主機記憶體 MoE 專家的 GPU 快取（--moe-cache-mib），專家改由裝置端 LRU 快取執行，專家解除安裝時解碼最高提速約 2.2 倍，且該快取可跨多張 GPU 共享。版本同時加入 LiliCorr 投機解碼與 GLM5-Next 的 MTP 投機解碼，並支援 K2 Horizon、Prism Bonsai 2 27B、EmbeddingGemma-2、MiniCPM-V 4.7 等一批新模型。
X @ggerganov● 精選AI 評分69
llama.cpp 首日支援 EmbeddingGemma 2
llama.cpp 已實現對 EmbeddingGemma 2 的 Day-0 支援，由作者 ggerganov 公布。對應 GGUF 權重由 ggml-org 發布在 Hugging Face，可直接下載用於本地推理。Day-0 意味著模型發布當天即可在 llama.cpp 上執行，無需等待社群自行轉換。
Hacker News front pageAI 評分29
開發者吐槽 LLM 招聘郵件：個性化段落與職位描述毫不相關
一位基礎設施工程師記錄了近期收到的一類新招聘郵件：開頭由 LLM 複述其過往任職經歷並稱其「完美匹配」，緊接著的職位描述卻是 Django 全棧等與其背景無關的崗位，甚至職位描述本身也充滿明顯的 LLM 用語。作者認為，相比只替換姓名的老式模板郵件，這種假裝個性化的寫法更冒犯人，因為 LLM 本可以核對簡歷判斷是否匹配，卻只做了表面功夫，而簡單再跑一遍 LLM 或人工校對就能去掉這些痕跡。
llama.cpp releasesAI 評分32
llama.cpp b11531 重構 chat API，同步更新多平台建置
llama.cpp 發布 b11531，主要變更是重構 chat API（#30210）。同步重新整理的預編譯產物覆蓋 macOS Apple Silicon、Ubuntu、Windows、Android 與 openEuler，包含 CUDA 12/13、Vulkan、ROCm 10.0、SYCL、OpenVINO，以及 Snapdragon 的 Adreno GPU 與 Hexagon NPU 版本。
llama.cpp releases● 精選AI 評分62
llama.cpp 新增 Kolibri-1 支援，78B 德語英語 MoE
llama.cpp 建置 b11709 加入對 Aleph-Alpha 的 Kolibri-1 支援。這是德語/英語雙語 MoE 推理模型，78B 總引數、每 token 啟用 3.46B，50 層、384 個路由專家加 1 個共享專家，注意力以 4 層滑動視窗（視窗 513）交替 1 層全注意力，GQA 為 48 查詢頭對 4 KV 頭。
llama.cpp releases● 精選AI 評分60
llama.cpp 新增 maion-coder 架構支援
llama.cpp 發布 b11658 建置，新增對 maion-coder 模型架構的支援，並加入對 Draft 模型的推理支援，提交者包括微軟的 Karthik Vijayan。
機器之心● 精選AI 評分68
AlphaGo 核心作者稱 LLM 不會推理，離開 DeepMind 創業
AlphaGo 核心作者 Thore Graepel 在 MIT Technology Review 發文稱 LLM 不會推理，並已離開 Google DeepMind 創業做可審計的機器推理。他指出 AlphaGo 第 37 手是策略網路加搜尋機制的結果，而 LLM 的思維鏈仍只是預測下一個 token，缺少可檢查的認知狀態、知識與推理的分離，且常事後編造解釋。Yann LeCun 表示讚賞，認為真正推理必須涉及搜尋。