llama.cpp releasesAI 評分42
llama.cpp 修復截斷後溫度大於 0 時 n-gram 草稿被拒的問題
llama.cpp 發布 b11387 版本，修復了在截斷後溫度大於 0 時 n-gram 草稿被拒絕的問題（PR #29924），由 NVIDIA 的 Pranesh Gonegandla 參與提交。
搜尋
依意思最接近的 30 筆
llama.cpp releasesAI 評分40
llama.cpp 建置 b11641：spec 新增 lilicorr 支援
llama.cpp 發布建置 b11641，其中 spec（推測解碼）新增 lilicorr 支援（PR #30506），是本次最主要的變更。同一批提交還讓 convert 採用約定的超參賦值方式，併為 llama-batch.cpp 中的 hparam 使用留下 TODO，另有一處 typo 修復，提交由 Georgi Gerganov 共同署名。
llama.cpp releasesAI 評分41
llama.cpp 修復 Metal 大矩陣偏移溢位問題
llama.cpp 建置版本 b11895 修復了 Metal 後端在大型矩陣輸出偏移時出現的整數溢位，同時加寬了 batch 偏移與 MUL_MAT_ID 的 token 索引。改動由 Codex 輔助完成，屬於影響大模型在 Apple Silicon 上推理正確性的底層修復，本次建置仍按慣例提供 macOS、Linux、Windows、Android 等多平台二進位制包。
Hugging Face blog● 精選AI 評分76
Ai2 發布基準：LLM 判斷研究新穎性並不可靠
Ai2 發布 Old Ideas, Novel Problems 研究與配套基準，結論是用 LLM 當新穎性評審並不可靠：只改 prompt 裡幾處措辭，模型分辨兩個想法哪個更新的準確率就變動超過 50 個百分點。測試涵蓋 GPT-5.1、GPT-5.2、GPT-5.4 與 Claude Sonnet 4.5、Opus 4.5/4.6，檢索與額外推理都不能穩定改善判斷，兩個專門建置的新穎性評估系統還不如直接用 prompt 呼叫的 Claude Opus 4.6 基線。
Hacker News front page● 精選AI 評分76
vLLM 0.31 加入約束解碼，工具呼叫結構準確率達 100%
vLLM 0.31 新增服務端開關，啟用約束解碼後工具呼叫的 schema 準確率可達 100%。此前用 vLLM 0.28 部署 Kimi K2.6 時，只有 92% 的工具呼叫符合預期結構，相當於每 25 次就有 2 次失敗。該特性對新版 Kimi 與 DeepSeek 模型可保證輸出遵循 schema，主要影響依賴多輪工具呼叫的 agent 負載。
llama.cpp releasesAI 評分43
llama.cpp 修復投機解碼下 logprobs 為空的問題
llama.cpp 建置 b11776 修復了服務端在開啟投機解碼（speculative decoding）時無法正確返回 logprobs 的問題：此前被接受的草稿 token 其 logprob 報為 0.0、top_logprobs 為空，現在改為返回目標模型的 logprobs。同時新增迴歸測試（#24271），把開啟草稿的執行與不開草稿的基線做對比，該測試在修復前的版本上失敗，應用 #27196 後通過。
llama.cpp releasesAI 評分56
llama.cpp 修復語法取樣：超長 token 不再被誤拒
llama.cpp 修復了啟用語法（grammar）取樣時長 token 被誤判拒絕的問題。此前 llama_grammar_reject_candidates_for_stack 的深度限制按 token 的碼點數計算，凡是 256 字元及以上的 token 在 grammar 下都會被拒絕，例如 GLM-4.7-Flash 的 512 空格 token 和 Laguna-S-2.1 的長空格 token。
X @karpathyAI 評分55
Karpathy：LLM 能力認知差距擴大成漏斗，約 2000 萬人在用前沿模型
Karpathy 稱 LLM 能力的認知差距正在擴大，從兩群人各說各話變成尖銳的漏斗。他估算約 60 億人（75%）幾乎沒接觸過 LLM，10 至 20 億人（20%）只是偶爾用免費版聊天機器人，約 2000 萬人（0.2%）在數學與程式碼上親身使用前沿模型，過去要花數週數月的專案現在一個提示就能由 agent 完成。
llama.cpp releasesAI 評分43
llama.cpp b11555 修復 AVX2 CPU 未啟用 F16C 的問題
llama.cpp 發布 b11555，修復了在支援 F16C 的 AVX2 CPU 上未啟用 F16C 的問題，可改善 x86 平台的 CPU 推理表現。同步更新的預編譯包覆蓋 macOS Apple Silicon、Windows 與 Linux 的 CUDA 12/13、Vulkan、ROCm 10.0、SYCL、OpenVINO，以及 Android、openEuler 等平台；
Hacker News front pageAI 評分60
研究：讓 LLM 自評置信度不可靠，換個問法分數就變
讓 LLM 輸出置信度分數並不可信：這類數字只是逐 token 續寫出的文字，既沒有反映模型掌握多少證據，也從未針對“答對頻率”做過校準。文章指出，可靠的置信度必須隨資訊量變化，並用大量同類預測與實際結果核對，而 LLM 的分數會在重複提問時從 0.85 變成 0.7，換個措辭或前文寫下“這顯然是正確答案”也會改變數值。作者據此提醒 agent 設計者不要依賴模型自報的置信度。
llama.cpp releasesAI 評分59
llama.cpp 新增支援 LiquidAI LFM3-1.7B 與 LFM3-VL-2B
llama.cpp 合併 PR，加入對 LiquidAI 的 LFM3-1.7B 文字模型與 LFM3-VL-2B 視覺語言模型的支援。改動包括為 LFM3 啟用迴圈狀態回滾、設定 LFM3 測試模型的 SWA rope base，並讓 LFM3-VL 的 depthwise 卷積核在量化時保持 F32 精度，同時補充 LFM3 的 Metal 融合基線測試。
Hacker News front pageAI 評分29
開發者吐槽 LLM 招聘郵件：個性化段落與職位描述毫不相關
一位基礎設施工程師記錄了近期收到的一類新招聘郵件：開頭由 LLM 複述其過往任職經歷並稱其「完美匹配」，緊接著的職位描述卻是 Django 全棧等與其背景無關的崗位，甚至職位描述本身也充滿明顯的 LLM 用語。作者認為，相比只替換姓名的老式模板郵件，這種假裝個性化的寫法更冒犯人，因為 LLM 本可以核對簡歷判斷是否匹配，卻只做了表面功夫，而簡單再跑一遍 LLM 或人工校對就能去掉這些痕跡。
llama.cpp releasesAI 評分40
llama.cpp 發布 b11606，簡化後端搜尋路徑錯誤處理
llama.cpp 發布版本 b11606，主要改動是簡化 ggml 後端搜尋路徑的錯誤處理，由 Adrien Gallouët 提交。該版本同步提供 macOS、Linux、Windows、Android 及 openEuler 等多平台建置，涵蓋 Apple Silicon、CUDA 12/13、Vulkan、ROCm 10.0、OpenVINO、SYCL 等後端；
Hacker News front pageAI 評分41
回應 Rich Hickey：LLM 仍是工具，用好它需要技能
作者回應 Rich Hickey 於 2026 年 10 月 11 日發表的《"AI" is Not a Tool》，認為 LLM 屬於工具而非自動化，能否用好取決於使用者的技能。編譯器與電子表格同樣自動完成大量工作，但仍由人指定輸入、檢查結果並決定下一步，因此自動生成文字不該被排除在工具之外。作者也承認用摘要代替讀論文會損失學習機會，但可以讀原文再用 LLM 質疑自己的理解；同時批評「失控」「越獄」「密謀」等擬人化措辭，把軟體故障說成人的動機。
llama.cpp releasesAI 評分40
llama.cpp 發布 b11784，修復 SYCL IQ3 崩潰
llama.cpp 發布 b11784 建置，主要修復 SYCL 後端在 IQ3 量化下的崩潰問題（#30604）。同一版中，macOS Apple Silicon 的 KleidiAI 加速建置與 openEuler 建置被標記為 DISABLED，本輪不提供。
llama.cpp releasesAI 評分46
llama.cpp 新增 LiquidAI d1-omni-600M 決策模型
llama.cpp 建置 b11488 新增 LiquidAI/d1-omni-600M 決策模型支援，服務端可通過 images 與 input_audio 直接接收音訊輸入，模型與多模態輸入打通。同時決策型別 d1omni 更名為 lfm2-d1-omni，images 成為 files 的別名，無記憶的 lfm2 被限定為非因果模式，CUDA 後端保留 conformer 的 GLU sigmoid。四筆改動均標註由 Claude Opus 5.5 協助完成；
llama.cpp releasesAI 評分28
llama.cpp 發布 b11898，修復 ARM 架構未使用變數告警
llama.cpp 發布建置 b11898，主要變更是修復 ARM 架構下未使用變數的編譯告警（#31180），這一提交屬於編譯層清理，不涉及推理邏輯。同版本中，macOS Apple Silicon 的 KleidiAI 加速版預編譯包被標記為 DISABLED，openEuler 建置也一併停用。CUDA 12/13、Vulkan、ROCm 10.0、SYCL、OpenVINO、Windows arm64 與 Android 等平台的預編譯包仍照常發布。
llama.cpp releasesAI 評分36
llama.cpp 更新 b12058，修復 imatrix 的 --nextn 崩潰
llama.cpp 發布 b12058 版本，主要修復了 imatrix 工具在使用 --nextn 引數時的崩潰問題（#31522）。同批建置覆蓋 macOS Apple Silicon、Linux（CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO）、Windows、Android 與 openEuler 等多平台；其中 macOS Apple Silicon 的 KleidiAI 建置與 openEuler 建置仍為停用狀態。
llama.cpp releasesAI 評分44
llama.cpp 修復控制向量層索引與 M-RoPE 位置越界寫入
llama.cpp 建置 b11972 修復了兩個可能導致越界寫入的缺陷。common 部分讀取控制向量時，方向張量的層索引此前沒有上界，超大索引會讓以 int 計算的緩衝區大小和寫偏移溢位，從而寫到緩衝區之前；現在改為傳入模型層數、拒絕超限索引，並用 size_t 計算。
llama.cpp releasesAI 評分36
llama.cpp 測試修復：MoE 路由選擇不再受後端噪聲干擾
llama.cpp 建置 b11752 的兩項改動都集中在測試程式碼：MoE 路由選擇加入 step 2 的偏置斜坡，讓每個專家擁有獨立的分數區間，使 top-k 只由專家索引決定，避免後端浮點噪聲把 token 路由到不同專家。此前只有 Beam 架構（8 個專家用 2 個、4 組用 2 個）會撞上這個問題，在 M2 Ultra 上 20 個種子有 2 個失敗、logits 相差 4e-3；修復後 160 個種子全部與 CPU 參考值吻合在 4e-7 以內。
llama.cpp releasesAI 評分46
llama.cpp 修復 4D 張量量化丟行與 MoE 張量誤判
llama.cpp 新版本 b11883 修復了 llama-quant 的 4D 張量量化錯誤：原先按 ne[1]*ne[2] 統計行數，導致 4D 張量只有前 ne[2] 個切片被量化、其餘行被丟棄，現改用 ggml_nrows() 統計包含 ne[3] 在內的全部行。
Simon WillisonAI 評分37
Jepsen 作者：LLM 正在侵蝕對文件與軟體的信任
Jepsen 測試作者 Kyle Kingsbury 在 ParticleDB 1.1.4 的報告中警告，LLM 的廣泛使用正在侵蝕人們對文件、軟體以及產出它們的組織的信任。他指出，過去被當作成熟系統標誌的那些訊號如今更容易被偽造，工程師或許會開始對任何新的軟體專案抱有懷疑。他由此提出兩個問題：在 LLM 時代，維護者要怎樣確保軟體正確、文件準確，又該如何向使用者證明這種品質。
機器之心● 精選AI 評分68
AlphaGo 核心作者稱 LLM 不會推理，離開 DeepMind 創業
AlphaGo 核心作者 Thore Graepel 在 MIT Technology Review 發文稱 LLM 不會推理，並已離開 Google DeepMind 創業做可審計的機器推理。他指出 AlphaGo 第 37 手是策略網路加搜尋機制的結果，而 LLM 的思維鏈仍只是預測下一個 token，缺少可檢查的認知狀態、知識與推理的分離，且常事後編造解釋。Yann LeCun 表示讚賞，認為真正推理必須涉及搜尋。
llama.cpp releasesAI 評分35
llama.cpp 移除 Kolibri-1 路由器的冗餘精度覆蓋
llama.cpp 建置 b11765 刪除了 Kolibri-1 路由器中的兩處 ggml_prec_set_* 精度覆蓋（#30865），原因是該路由的矩陣乘用預設精度就能正常工作，這是 #30673 評審意見的後續改動，另含一處註釋修正。同一版本照例發布各平台二進位制，但 macOS Apple Silicon 的 KleidiAI 啟用版與 openEuler 建置均被標記為停用。
llama.cpp releasesAI 評分37
llama.cpp 發布 b11390，修復 CUDA MMQ 記憶體錯誤
llama.cpp 發布建置版本 b11390，主要修復了 CUDA 後端在 n_expert 遠大於 n_ubatch 時的 MMQ 記憶體故障（#29941）。
llama.cpp releasesAI 評分36
llama.cpp b11922 修正多序列回放與 partial state 測試
llama.cpp 發布 b11922，主要修正是讓多序列 split replay 與 partial state 的測試在已訓練模型上成立。原測試中回滾快照與參考上下文的 batch 形狀不同，狀態末位差異會被模型逐 token 放大；現在只比較每條序列的首個重放 token，並在 seq-1 的 tail 前把回滾狀態載回參考上下文。
llama.cpp releasesAI 評分40
llama.cpp b11774 修復 LFM2 影像預處理，切片與網格對齊 transformers
llama.cpp 新建置 b11774 修正了 LFM2 系列視覺模型（LFM2-VL、LFM2.5-VL、d1-3B）的 mtmd 影像預處理，使切片與網格選擇與 Hugging Face transformers 一致。此前 llama.cpp 保留寬高比並補黑邊、只有 d1-omni 會拉伸，影像比例與網格不符時切片與 transformers 不同；現在設 PAD_NONE 即與 transformers 相同。
llama.cpp releasesAI 評分36
llama.cpp 修復 Vulkan 後端 RDNA4 矩陣向量調優
llama.cpp 發布 b11389 版本，修復了 Vulkan 後端在 RDNA4 架構上的矩陣向量運算調優問題（PR #29934）。該版本繼續提供覆蓋 macOS、Linux、Windows、Android 等平台的預編譯二進位制，包括 Vulkan、CUDA、ROCm、SYCL 等後端，其中 macOS Apple Silicon 的 KleidiAI 啟用版和 openEuler 建置被停用。
Hacker News front pageAI 評分72
Linus Torvalds 發布首個 LLM 輔助核心補丁系列
Linus Torvalds 發布了首個由 LLM 輔助編寫的補丁系列，共 10 個補丁，用於解決一個長期存在的問題，已提交核心郵件列表評審。該系列改進 folio 查詢：識別出熱 folio 後延遲到 RCU 週期之後再釋放，使 folio 資料訪問本身也能在 RCU 保護區內完成，快速路徑無需取引用計數，在 read() 密集的基準測試中帶來約一個數量級的加速。不過評審已指出程式碼存在競態條件，仍需繼續修改。
llama.cpp releasesAI 評分40
llama.cpp 新增 nimble 決策模型支援
llama.cpp 發布 b11364 版本，新增對 nimble 決策模型的支援（PR #29844）。該版本覆蓋 macOS、iOS、Linux、Android、Windows 與 openEuler 平台，提供 CPU、CUDA 12/13、Vulkan、ROCm 10.0、OpenVINO、SYCL、Snapdragon 的 Adreno GPU 與 Hexagon NPU 等後端建置；