Jepsen 作者：LLM 正在侵蝕對文件與軟體的信任
Jepsen 測試作者 Kyle Kingsbury 在 ParticleDB 1.1.4 的報告中警告，LLM 的廣泛使用正在侵蝕人們對文件、軟體以及產出它們的組織的信任。他指出，過去被當作成熟系統標誌的那些訊號如今更容易被偽造，工程師或許會開始對任何新的軟體專案抱有懷疑。他由此提出兩個問題：在 LLM 時代，維護者要怎樣確保軟體正確、文件準確，又該如何向使用者證明這種品質。
原標題：Quoting Kyle Kingsbury
閱讀原文
| 評分 | 42 / 33（平均 37，門檻 65） |
|---|---|
| 狀態 | 未入選 |
相關報導
Martin Fowler 勸作者別讓 LLM 寫初稿
Martin Fowler 在 10 月 29 日的部落格中勸作者不要讓 LLM 撰寫初稿，因為即使經過人工編輯，文章也很難擺脫 LLM Voice，讓讀者產生恐怖谷式的疏離感。他認為檢測工具意義有限，接受 LLM 的改寫建議同樣危險；用 LLM 搭大綱尚可，正文應由作者自己寫。文中也列出例外：帕金森氏症患者 Jim Highsmith 靠 LLM 維持寫作，非英語母語同事的翻譯溝通則是需要權衡的例外。
研究：讓 LLM 自評置信度不可靠，換個問法分數就變
讓 LLM 輸出置信度分數並不可信：這類數字只是逐 token 續寫出的文字，既沒有反映模型掌握多少證據，也從未針對“答對頻率”做過校準。文章指出，可靠的置信度必須隨資訊量變化，並用大量同類預測與實際結果核對，而 LLM 的分數會在重複提問時從 0.85 變成 0.7，換個措辭或前文寫下“這顯然是正確答案”也會改變數值。作者據此提醒 agent 設計者不要依賴模型自報的置信度。
無 LLM agent 的 Jev 診斷管線：105 次通過 76.2%
一個不含 LLM agent 的 Jev 驅動診斷管線，在 SREGym-Lite 的 21 個故障、105 次診斷中通過 80 次（76.2%），中位診斷時間 14.6 秒。管線先用程式化收集器讀取 Kubernetes 物件、事件、近期 Pod 日誌與資源用量，按元件彙總後交給 Jev，由它在給定選項中選出可能根因、判斷元件是源頭還是下游受害者，並挑出關鍵證據，再組裝成診斷報告。Jev 全程只做選擇，不生成命令也不寫報告；
開發者吐槽 LLM 招聘郵件：個性化段落與職位描述毫不相關
一位基礎設施工程師記錄了近期收到的一類新招聘郵件：開頭由 LLM 複述其過往任職經歷並稱其「完美匹配」，緊接著的職位描述卻是 Django 全棧等與其背景無關的崗位，甚至職位描述本身也充滿明顯的 LLM 用語。作者認為，相比只替換姓名的老式模板郵件，這種假裝個性化的寫法更冒犯人，因為 LLM 本可以核對簡歷判斷是否匹配，卻只做了表面功夫，而簡單再跑一遍 LLM 或人工校對就能去掉這些痕跡。
LLM 並非不可避免：技術必然性需滿足四條標準
一篇評論文章反駁 AI「不可避免」的流行說法，提出判斷一項技術是否真正必然的四條標準：能完成任務且不顯著遜色、該任務有社會價值且依賴稀缺勞動力、輸出在量或質上壓倒性超越替代方案、不用它的人無法靠改變行為抵消其影響，四條全中才算不可避免。作者以火藥與火炮為例：歐洲政治碎片化、工事多為高薄牆，火炮攻城效率遠超配重投石機，各國不得不盡快採用；而中國以夯土城牆為主，火炮價值低得多。文章認為 LLM 支持者的邏輯正是：不用的人會在權力上落後，最終受制於使用者。