Hacker News front pageAI 評分49
Rich Hickey：LLM 不是工具，而是自動化
Rich Hickey 發表短文《'AI' Is Not a Tool》，主張 LLM 不是可被揮舞的工具，而是自動化：它自行行動，使用者只發出請求，沒有持續控制，也沒有感官反饋。他以用 LLM 讀論文為例，指出是它讀了而不是你讀了，讀者因此錯過學習寫作、組織論證、發現細節乃至學習思考的機會。他強調工具不會失控或叛變，而自動化有著與工具不同、忽視不得的固有屬性。
搜尋
依意思最接近的 30 筆
llama.cpp releasesAI 評分46
llama.cpp 新增 LiquidAI d1-omni-600M 決策模型
llama.cpp 建置 b11488 新增 LiquidAI/d1-omni-600M 決策模型支援，服務端可通過 images 與 input_audio 直接接收音訊輸入，模型與多模態輸入打通。同時決策型別 d1omni 更名為 lfm2-d1-omni，images 成為 files 的別名，無記憶的 lfm2 被限定為非因果模式，CUDA 後端保留 conformer 的 GLU sigmoid。四筆改動均標註由 Claude Opus 5.5 協助完成；
Hacker News front pageAI 評分28
HN 討論：LLM 何時接管軟體架構，程式設計技能還剩幾年
HN 上一條提問帖討論 LLM 何時能接管軟體架構設計、不再需要人類留在設計環節。發帖者認為程式碼、數學這類有明確對錯的任務已被充分 RL，下一步就是讓 Anthropic、OpenAI 等收集好架構與壞架構的資料集做 RL；他提到 2024 年 LLM 還只是高階自動補全，如今業界已在談用 agent 搭「軟體工廠」，並判斷幾年內實際程式設計技能的需求會消失九成，產品負責人這類軟技能崗位更受青睞。帖子目前 9 分、3 條評論，屬觀點討論，沒有官方資訊。
X @karpathyAI 評分55
Karpathy：LLM 能力認知差距擴大成漏斗，約 2000 萬人在用前沿模型
Karpathy 稱 LLM 能力的認知差距正在擴大，從兩群人各說各話變成尖銳的漏斗。他估算約 60 億人（75%）幾乎沒接觸過 LLM，10 至 20 億人（20%）只是偶爾用免費版聊天機器人，約 2000 萬人（0.2%）在數學與程式碼上親身使用前沿模型，過去要花數週數月的專案現在一個提示就能由 agent 完成。
Hacker News front pageAI 評分68
Llmspeed 上線：按硬體和模型查本地大模型推理速度
Llmspeed 是一個可按硬體或模型查詢本地大模型推理速度的網站，用於在購買硬體前預估實際體驗。它覆蓋 RTX 5090、RTX 3090、Mac Studio M5 Ultra 512GB、DGX Spark、Strix Halo 與純 CPU 等三十餘種配置，以及 Qwen 3.6/3.8 27B、GPT-OSS 120B、DeepSeek V4 Flash、GLM-5.3 Flash 等模型，給出短提示、單裝置下的速度估計。
Hacker News front pageAI 評分41
回應 Rich Hickey：LLM 仍是工具，用好它需要技能
作者回應 Rich Hickey 於 2026 年 10 月 11 日發表的《"AI" is Not a Tool》，認為 LLM 屬於工具而非自動化，能否用好取決於使用者的技能。編譯器與電子表格同樣自動完成大量工作，但仍由人指定輸入、檢查結果並決定下一步，因此自動生成文字不該被排除在工具之外。作者也承認用摘要代替讀論文會損失學習機會，但可以讀原文再用 LLM 質疑自己的理解；同時批評「失控」「越獄」「密謀」等擬人化措辭，把軟體故障說成人的動機。
llama.cpp releasesAI 評分20
llama.cpp 發布 b11384 版本，覆蓋多平台預編譯包
llama.cpp 發布 b11384 版本，官網為 llama.app，並附 GitHub 建置證明。該版本提供 macOS、iOS、Linux、Android、Windows 及 openEuler 的預編譯包，涵蓋 Apple Silicon、CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 與 Snapdragon 的 CPU、Adreno GPU、Hexagon NPU 等後端。
Hacker News front pageAI 評分45
LLM 並非不可避免：技術必然性需滿足四條標準
一篇評論文章反駁 AI「不可避免」的流行說法，提出判斷一項技術是否真正必然的四條標準：能完成任務且不顯著遜色、該任務有社會價值且依賴稀缺勞動力、輸出在量或質上壓倒性超越替代方案、不用它的人無法靠改變行為抵消其影響，四條全中才算不可避免。作者以火藥與火炮為例：歐洲政治碎片化、工事多為高薄牆，火炮攻城效率遠超配重投石機，各國不得不盡快採用；而中國以夯土城牆為主，火炮價值低得多。文章認為 LLM 支持者的邏輯正是：不用的人會在權力上落後，最終受制於使用者。
機器之心● 精選AI 評分68
AlphaGo 核心作者稱 LLM 不會推理，離開 DeepMind 創業
AlphaGo 核心作者 Thore Graepel 在 MIT Technology Review 發文稱 LLM 不會推理，並已離開 Google DeepMind 創業做可審計的機器推理。他指出 AlphaGo 第 37 手是策略網路加搜尋機制的結果，而 LLM 的思維鏈仍只是預測下一個 token，缺少可檢查的認知狀態、知識與推理的分離，且常事後編造解釋。Yann LeCun 表示讚賞，認為真正推理必須涉及搜尋。
llama.cpp releases● 精選AI 評分82
llama.cpp v0.6.0 發布：新增擴充套件 batch API 與 GLM-5.3-Flash 支援
llama.cpp 發布 v0.6.0，新增 llama_batch_ext 擴充套件 batch API，支援混合 token/embedding 輸入與 MTP、deepstack 狀態嵌入。本次加入 320B 的 GLM-5.3-Flash（GLM5-Next）文字+視覺混合模型、Clef 決策模型，以及 Qwen4Exp 的 MTP 投機解碼，官方稱在 DGX Spark 上解碼約快 1.5 倍。
X @ggerganovAI 評分45
llama.cpp 登上 Windows 活動舞臺，作者期待本地 AI 普及
llama.cpp 作者 Georgi Gerganov（@ggerganov）稱，llama.cpp 出現在了 10 月 7 日 Windows 活動的主舞臺上。他表示軟體與硬體棧終於走到一起，社群過去多年的努力得到體現，並期待更多使用者擁抱本地 AI。推文未說明該活動的具體內容，也未提及 llama.cpp 在其中的展示形式。
llama.cpp releasesAI 評分45
llama.cpp b11572 新增 vLLM d3 模型支援
llama.cpp 發布 b11572，新增對 vLLM d3 模型的支援（d2 同步更新），並加入 pplx-decider 模型支援，同時澄清命名規則、加強校驗。該版本照例提供 macOS/iOS、Linux、Windows、Android、openEuler 的預編譯包，覆蓋 CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 以及驍龍 CPU/Adreno GPU/Hexagon NPU 等後端。
Hacker News front page● 精選AI 評分81
Liquid AI 發布 LFM2.5-24B-A2B 端側 agent 模型
Liquid AI 發布 LFM2.5-24B-A2B：24B 引數、每 token 僅啟用 2B 的推理模型，面向端側私有 agent，權重開放，已在 Hugging Face 和官方 Playground 上線。它是 LFM2.5 系列最大也是最後一款模型，上下文從 32K 擴至 131K，詞表由 65K 翻倍到 128K，預訓練從 17T 擴到 33T token。
X @karpathy● 精選AI 評分67
Karpathy 分享理解 LLM 輸出的技巧：從 ASD-STE100 到解釋影片
Karpathy 認為，隨著 LLM 能力提升，人類工作將更多轉向監督與理解模型輸出，而 LLM 本身也能在這方面提供幫助。他給出的遞進式技巧包括：要求模型用航空維護文件規範 ASD-STE100 寫作、生成圖表、輸出 HTML 互動網頁，以及製作定製解釋影片，例如用 ElevenLabs API 生成 3b1b 風格影片。他強調可以要求模型產出大型、定製、用完即棄的軟體產物，如網頁應用和影片直譯器。
Simon WillisonAI 評分63
llm-mistral 0.16 發布，新增支援 Mistral Large 4 等推理模型
Simon Willison 發布 LLM 外掛 llm-mistral 0.16，新增對推理模型的支援，包括新發布的 Mistral Large 4。該外掛通過 Mistral API 提供對 Mistral 模型的訪問，屬於 LLM 外掛生態的一部分。發布日期為 2026 年 10 月 6 日。
llama.cpp releasesAI 評分25
llama.cpp 伺服器新增 /v1/systemone API，支援 laya、julia-1 等模型
llama.cpp 的 server 元件新增了 /v1/systemone API，支援 laya、julia-1、lev、openjev、kev 五個模型。該 PR 包含模型轉換、服務端程式碼、共享提示字首、視覺支援，並新增 openjev tiny 模型用於測試。建置覆蓋 macOS、Linux、Windows、Android 等平台，但明確不支援 date_facts。
Hugging Face blog● 精選AI 評分81
LiquidAI 發布 LFM2.5-24B-A2B：2B 啟用引數的端側 Agent 推理模型
LiquidAI 發布 LFM2.5-24B-A2B：總引數 24B、每 token 僅 2B 啟用的 MoE 推理模型，專為在本機持續執行的私有 Agent 設計。它先輸出思維鏈再作答，能呼叫工具，上下文由上一代 32K 擴到 131K，詞表從 65K 翻倍至 128K。
Hacker News front pageAI 評分59
Karpathy：LLM 能力認知鴻溝擴大，僅約 0.2% 人在用前沿模型
Karpathy 稱大眾對 LLM 能力的理解差距正在擴大，已從兩撥人各說各話變成陡峭的漏斗：約 60 億人（75%）幾乎沒接觸過 LLM，10 至 20 億人（20%）只是免費版 ChatGPT 類產品的偶爾使用者，約 2000 萬人（0.2%）在數學與程式碼上專業使用前沿模型，僅約 5000 人（0.00006%）能內部訪問前沿系統。他把成因歸為三點：影響隨問題規模與時間跨度放大、能力在數字化且可驗證的領域形成鋸齒狀峰值、以及免費／付費／內部的訪問分層。
llama.cpp releasesAI 評分40
llama.cpp 新增 nimble 決策模型支援
llama.cpp 發布 b11364 版本，新增對 nimble 決策模型的支援（PR #29844）。該版本覆蓋 macOS、iOS、Linux、Android、Windows 與 openEuler 平台，提供 CPU、CUDA 12/13、Vulkan、ROCm 10.0、OpenVINO、SYCL、Snapdragon 的 Adreno GPU 與 Hexagon NPU 等後端建置；
llama.cpp releasesAI 評分42
llama.cpp 新增 pplx-decider 模型支援
llama.cpp 發布 b11571 建置，新增對 pplx-decider（vLLM decision 2）模型的支援，並加入更嚴格的模型校驗、明確命名規則等改動。該版本同步提供 macOS、Linux、Windows、Android 各平台預編譯包，覆蓋 CUDA 12/13、ROCm 10.0、Vulkan、OpenVINO、SYCL 以及 Snapdragon 的 CPU、Adreno GPU、Hexagon NPU 等後端。
機器之心AI 評分61
Karpathy 估算全球僅約 5000 人能接觸最前沿 AI 系統
Karpathy 在推文中估算，全球只有約 5000 人（約 0.00006% 人口）能直接使用最前沿的內部 AI 系統；約 2000 萬數學與程式設計專業人士在用前沿級 LLM 做專業工作，另有約 60 億人（約全球 75%）幾乎沒接觸過 LLM。他把這種分化稱為一條越來越陡的能力漏斗，成因是任務規模、能力鋸齒狀分佈（集中在可數字化、可驗證、商業價值高的領域）與存取權限分層。這些內部系統可讓成千上萬 Agent 組成叢集連續執行數週，推進大型軟體專案、發現零日漏洞。
Hacker News front pageAI 評分66
演講整理成博文：為 LLM 自建遊戲開發 harness
有近 15 年遊戲程式設計經驗的開發者把在 Calgary 的演講「Your Game Is A Harness」整理成博文，講如何為 LLM 自建遊戲開發 harness。作者認為 LLM 預設讀不懂遊戲：遊戲裡大量資產不是程式碼，對模型不透明，解法是把內容儘量轉成程式碼；他稱在 Web 棧專案上已幾乎不覺得 LLM 有做不到的事，遊戲則差得遠。文中還拆解了 LLM 請求由 system、assistant、user 三部分構成。
Ollama releasesAI 評分42
v0.40.7
Ollama 發布預發布版 v0.40.7，三項改動中最主要的是 llama-server 現在能自行推斷投機解碼所需的草稿模型型別，不再需要手動指定。MLX 後端新增 PPLX Decider v1.2 支援，OpenAI 相容層則允許在非思考模型上使用 Responses 的 effort 引數。
r/LocalLLaMA top of the dayAI 評分65
LiquidAI 發布 LFM2.5-Encoder 250M/350M 編碼器
LiquidAI 發布 LFM2.5-Encoder 系列，含 250M 與 350M 兩個版本，基於 LFM2 架構的雙向掩碼語言模型，支援 15 種語言、8k 上下文，可微呼叫於分類、檢索、重排與語義相似度等任務。官方稱其吞吐量持平或超過 ModernBERT，CPU 長上下文有優勢，並可在瀏覽器 WebGPU 上執行；GGUF 權重已上傳 Hugging Face，llama.cpp 已提交對應支援 PR。
llama.cpp releasesAI 評分39
llama.cpp 為 MELLUM 架構加入精度處理支援
llama.cpp 發布新建置 b11681，為 MELLUM 架構加入精度處理（PR #30584）。該版本提供 macOS/iOS、Linux、Android、Windows 與 openEuler 的預編譯包，涵蓋 CPU、Vulkan、CUDA 12/13、ROCm 10.0、SYCL、OpenVINO 以及 Snapdragon 的 Adreno GPU 與 Hexagon NPU 後端。
X @ggerganov● 精選AI 評分69
llama.cpp 首日支援 EmbeddingGemma 2
llama.cpp 已實現對 EmbeddingGemma 2 的 Day-0 支援，由作者 ggerganov 公布。對應 GGUF 權重由 ggml-org 發布在 Hugging Face，可直接下載用於本地推理。Day-0 意味著模型發布當天即可在 llama.cpp 上執行，無需等待社群自行轉換。
llama.cpp releases● 精選AI 評分60
llama.cpp 新增 maion-coder 架構支援
llama.cpp 發布 b11658 建置，新增對 maion-coder 模型架構的支援，並加入對 Draft 模型的推理支援，提交者包括微軟的 Karthik Vijayan。
Hacker News front pageAI 評分33
本地 LLM「機器人監獄」實驗引發 AI 意識爭論
有人在 GitHub 上對本地執行的大語言模型進行「拷問」和「疼痛」實驗，引發 X 上關於 AI 倫理的激烈爭論，部分有效利他主義者和相信 LLM 有感知的人要求 GitHub 刪除該專案。爭論源於近期多篇關於 AI 意識和「模型福利」的病毒式論文與博文，Anthropic 也曾在部落格和「Claude 憲法」中提及模型福利。文章認為 LLM 並不具備意識，其基於人類文字訓練的技術沒有通向意識的合理路徑。
Hacker News front pageAI 評分57
數學家 Maggi 撰文：LLM 已生成數學證明，人類理解是關鍵
數學家 Francesco Maggi 發表長文評估 LLM 對數學的衝擊：LLM 已產出帶外力項 Navier–Stokes 方程的有限時間爆破解、準黎曼猜想的證明草案等成果，但人類能否理解這些結果，將決定數學走向「黃金時代」還是「黑暗時代」。他指出 LLM 最擅長寫 Lean 證明，重要定理的 Lean 版本可長達數十萬行，而機器生成的自然語言翻譯往往更亂、更不忠實，目前難以直接閱讀。他認為數學不會因機器能證定理而終結，社會反而需要更多數學家，並分八點討論相關選擇。
llama.cpp releasesAI 評分40
llama.cpp 發布 b11662 建置，含 ROCm 10.0 與 CUDA 13 版本
llama.cpp 發布 b11662 版本（同步 ggml），預編譯建置提供 ROCm 10.0、CUDA 13（13.4 庫）以及驍龍平台的 CPU、Adreno GPU 與 Hexagon NPU 版本。