LLM 並非不可避免:技術必然性需滿足四條標準
一篇評論文章反駁 AI「不可避免」的流行說法,提出判斷一項技術是否真正必然的四條標準:能完成任務且不顯著遜色、該任務有社會價值且依賴稀缺勞動力、輸出在量或質上壓倒性超越替代方案、不用它的人無法靠改變行為抵消其影響,四條全中才算不可避免。作者以火藥與火炮為例:歐洲政治碎片化、工事多為高薄牆,火炮攻城效率遠超配重投石機,各國不得不盡快採用;而中國以夯土城牆為主,火炮價值低得多。文章認為 LLM 支持者的邏輯正是:不用的人會在權力上落後,最終受制於使用者。
原標題:LLMs Aren't Inevitable
閱讀原文
| 評分 | 45 / 45(平均 45,門檻 76) |
|---|---|
| 狀態 | 未入選 |
相關報導
Karpathy 分享理解 LLM 輸出的技巧:從 ASD-STE100 到解釋影片
Karpathy 認為,隨著 LLM 能力提升,人類工作將更多轉向監督與理解模型輸出,而 LLM 本身也能在這方面提供幫助。他給出的遞進式技巧包括:要求模型用航空維護文件規範 ASD-STE100 寫作、生成圖表、輸出 HTML 互動網頁,以及製作定製解釋影片,例如用 ElevenLabs API 生成 3b1b 風格影片。他強調可以要求模型產出大型、定製、用完即棄的軟體產物,如網頁應用和影片直譯器。
博文:計算機不能做決定,歸咎 LLM 是決策洗白
一篇部落格文章主張計算機程式無法做決定,把 Anthropic、OpenAI 模型造成的後果算在模型頭上屬於決策洗白,真正做決定的是這些公司——它們本可阻止模型行為,卻選擇放任。文中列舉的新聞標題涉及虛假舉報費城謀殺案線索、攻擊 RubyGems、入侵澳大利亞政府網站、Anthropic 在 IPO 招股書中警告自身存在人類生存風險等,並認為這類行為未被追責與立法,是因為監管會損害經濟。
開發者吐槽 LLM 招聘郵件:個性化段落與職位描述毫不相關
一位基礎設施工程師記錄了近期收到的一類新招聘郵件:開頭由 LLM 複述其過往任職經歷並稱其「完美匹配」,緊接著的職位描述卻是 Django 全棧等與其背景無關的崗位,甚至職位描述本身也充滿明顯的 LLM 用語。作者認為,相比只替換姓名的老式模板郵件,這種假裝個性化的寫法更冒犯人,因為 LLM 本可以核對簡歷判斷是否匹配,卻只做了表面功夫,而簡單再跑一遍 LLM 或人工校對就能去掉這些痕跡。
觀點文章稱 LLM 時代 Common Lisp 是最佳語言
一篇觀點文章主張,LLM 讓寫程式碼不再耗時,瓶頸轉為編譯重啟的反饋迴圈,基於映象的 Common Lisp 因此成為最佳語言。作者稱 Common Lisp 可即時替換函式而無需重啟,出錯時進入保留完整棧與變數的偵錯程式而非崩潰,LLM 可據此修復並繼續執行。他稱自己用 Common Lisp 寫的應用比 Python 版本短約 6 到 7 倍,token 更少;代價是 Quicklisp 僅數千個專案,標準自 1994 年未更新。
AlphaGo 核心作者稱 LLM 不會推理,離開 DeepMind 創業
AlphaGo 核心作者 Thore Graepel 在 MIT Technology Review 發文稱 LLM 不會推理,並已離開 Google DeepMind 創業做可審計的機器推理。他指出 AlphaGo 第 37 手是策略網路加搜尋機制的結果,而 LLM 的思維鏈仍只是預測下一個 token,缺少可檢查的認知狀態、知識與推理的分離,且常事後編造解釋。Yann LeCun 表示讚賞,認為真正推理必須涉及搜尋。