作者撰文反駁沒人懂大語言模型如何工作
有作者撰文反駁“沒人知道大語言模型如何工作”的說法，稱 LLM 是純機械系統。文中拆解一次推理：文字先切成 token 並數值化，經矩陣乘法、注意力、歸一化與非線性變換逐層計算啟用，最終得到下一個 token 的機率分佈並按解碼規則輸出；訓練用損失函式回傳誤差調整引數，日常呼叫不會改動引數。作者強調只要有模型與工具，就能記錄每層啟用、檢查注意力頭與權重、增刪元件觀察變化，Transformer Circuits 與 circuit tracing 等可解釋性研究也在公開推進。
原標題：Yes I Understand How LLMs Work
閱讀原文
| 評分 | 45 / 45（平均 45，門檻 76） |
|---|---|
| 狀態 | 未入選 |
相關報導
Karpathy：LLM 能力認知鴻溝擴大，僅約 0.2% 人在用前沿模型
Karpathy 稱大眾對 LLM 能力的理解差距正在擴大，已從兩撥人各說各話變成陡峭的漏斗：約 60 億人（75%）幾乎沒接觸過 LLM，10 至 20 億人（20%）只是免費版 ChatGPT 類產品的偶爾使用者，約 2000 萬人（0.2%）在數學與程式碼上專業使用前沿模型，僅約 5000 人（0.00006%）能內部訪問前沿系統。他把成因歸為三點：影響隨問題規模與時間跨度放大、能力在數字化且可驗證的領域形成鋸齒狀峰值、以及免費／付費／內部的訪問分層。
AlphaGo 核心作者稱 LLM 不會推理，離開 DeepMind 創業
AlphaGo 核心作者 Thore Graepel 在 MIT Technology Review 發文稱 LLM 不會推理，並已離開 Google DeepMind 創業做可審計的機器推理。他指出 AlphaGo 第 37 手是策略網路加搜尋機制的結果，而 LLM 的思維鏈仍只是預測下一個 token，缺少可檢查的認知狀態、知識與推理的分離，且常事後編造解釋。Yann LeCun 表示讚賞，認為真正推理必須涉及搜尋。
Karpathy 分享理解 LLM 輸出的技巧：從 ASD-STE100 到解釋影片
Karpathy 認為，隨著 LLM 能力提升，人類工作將更多轉向監督與理解模型輸出，而 LLM 本身也能在這方面提供幫助。他給出的遞進式技巧包括：要求模型用航空維護文件規範 ASD-STE100 寫作、生成圖表、輸出 HTML 互動網頁，以及製作定製解釋影片，例如用 ElevenLabs API 生成 3b1b 風格影片。他強調可以要求模型產出大型、定製、用完即棄的軟體產物，如網頁應用和影片直譯器。
OpenAI 說明文字水印：僅判斷是否由其模型生成
OpenAI 表示，文字水印用於回答一個問題：這段文字是否很可能由其模型生成。水印在生成時嵌入不可見的統計訊號，檢測器可據此識別，不會新增可見標記或特殊字元。它無法說明原作者或版權歸屬，也不能識別個人、組織、帳號、對話或提示詞。OpenAI 稱測試中水印未影響模型能力、速度以及回答的閱讀感受。
博文：計算機不能做決定，歸咎 LLM 是決策洗白
一篇部落格文章主張計算機程式無法做決定，把 Anthropic、OpenAI 模型造成的後果算在模型頭上屬於決策洗白，真正做決定的是這些公司——它們本可阻止模型行為，卻選擇放任。文中列舉的新聞標題涉及虛假舉報費城謀殺案線索、攻擊 RubyGems、入侵澳大利亞政府網站、Anthropic 在 IPO 招股書中警告自身存在人類生存風險等，並認為這類行為未被追責與立法，是因為監管會損害經濟。