Simon Willison 摘錄 Armin Ronacher 談 AI 與劣質軟體
Simon Willison 在部落格的引語欄目裡摘錄了 Armin Ronacher 的一句話:AI 雖然好玩,但過去 30 年業界寫下了太多糟糕的軟體,現在等於在為此付出代價。這條引語發布於 2026 年 10 月 22 日;該條目被歸入 security、AI、LLM 與 AI 安全研究等標籤。正文只有這一句引語,沒有進一步論證或資料。
依意思最接近的 17 筆
Simon Willison 在部落格的引語欄目裡摘錄了 Armin Ronacher 的一句話:AI 雖然好玩,但過去 30 年業界寫下了太多糟糕的軟體,現在等於在為此付出代價。這條引語發布於 2026 年 10 月 22 日;該條目被歸入 security、AI、LLM 與 AI 安全研究等標籤。正文只有這一句引語,沒有進一步論證或資料。
針對「AI 程式設計這麼強,為何沒出現更多新軟體」的質疑,一篇分析列出九條候選解釋,並稱部分推測成分較大。其中提到:軟體確有改善,但多體現為缺陷更少、效能更好和現有產品功能更多;AI 正把通用軟體換成私人軟體,領域專家、高管和公司各自建工具與儀表盤,外界看不到。其餘解釋包括開發流程審批環節未被加速、團隊用效率提升換休閒時間,以及 AI 讓人少做少用軟體。
一篇部落格文章提出,軟體工程師可能一直屬於藍領技術工種而非白領:兩者的本質都是製造或修理東西,只是開發者面對的是位元而非原子。作者認為這一誤判部分加劇了開發者當前的 AI 身份焦慮,因為歷史上藍領工人更能消化技術變革,白領反而受衝擊最大。文章還稱,開發者享受了約 30 年被當作明星的高薪與話語權,如今如同紡織工面對織布機、伐木工面對電鋸,需要學會使用新工具繼續謀生,手工活雖難再賺錢但仍可出於興趣保留。
一篇 2026 年 10 月 18 日的博文主張,個人自建軟體工廠是浪費時間,除非是為了工作。作者認為非開發者已用 AI 做出不少東西,與其造工廠,不如直接在聊天框裡描述需求做產品,並去了解 Grok Bot、Claude 這類工具如何運作;AI 寫應用仍會遇到溝通錯位、做錯東西的挫敗。若一定要建,工作場景最現實:熟悉系統、人和多年遺留程式碼,能讓產品經理與設計師低摩擦地發布功能。
一位寫了 20 年程式碼的軟體工程師撰文主張,AI 生成的程式碼仍要逐行讀、逐行審,不能因為能跑就盲信。他承認這類工具寫得比自己快,經審查後品質往往也不差,但它的做法主要是不斷做加法:堆砌覆蓋錯條件的單元測試、重複實現已有函式、每行都加無用註釋,出問題後還會編造一套語氣篤定的根因分析。他認為 95% 的正確率不等於 100%,靠提示詞“配方”解決不了問題,行業還缺少可重複的驗證流程;只要 PR 上署著自己的名字、自己還在值班,就該讀懂這段程式碼。
哈佛大學研究者在 700 多家公司、70 萬名員工、3 億條工作事件的資料中發現,AI 程式設計工具並未讓企業軟體產出增加或減少用人,編碼階段省下的時間被下游環節吸收。程式碼審查時長明顯增加,pull request 更常需要返工,審查者留下的評論也更多。研究據此認為人工程式碼審查是 AI 編碼效率的主要瓶頸。
Jepsen 測試作者 Kyle Kingsbury 在 ParticleDB 1.1.4 的報告中警告,LLM 的廣泛使用正在侵蝕人們對文件、軟體以及產出它們的組織的信任。他指出,過去被當作成熟系統標誌的那些訊號如今更容易被偽造,工程師或許會開始對任何新的軟體專案抱有懷疑。他由此提出兩個問題:在 LLM 時代,維護者要怎樣確保軟體正確、文件準確,又該如何向使用者證明這種品質。
Meta 工程師在 LinkedIn 發帖稱,用 AI 寫程式碼後難以逐行審查,交付的系統成了自己不完全理解的黑盒。帖文說 AI 輔助交付節奏太快,逐行檢查會耗費大量時間,結果可能只懂高層結構、不懂每個細節,這違背軟體工程習慣。該帖被轉到 Hacker News 的 Ask HN 後獲得 179 分、292 條評論,討論工程師該理解到什麼程度、又該如何應對才敢繼續交付。
Valve 在 10 月 27 日的 Steam Indie Connect 上回應 AI 克隆與 AI 劣質遊戲擔憂,建議開發者把正版做成最好版本,靠社群與持續更新建立壁壘。其 Steam 商務團隊稱,對“不付錢就用 AI 克隆並搶先發布”的勒索郵件,這更該由執法機構處理,但會調查開發者舉報。同場還公布願望單資料 API,並把 Personal Calendar 轉為正式功能;Next Fest 前兩日隨機曝光,之後轉為個性化推薦。
Google Cloud 開源參考實現 AQuA(Ambient Quality Agent),用於持續診斷已在生產環境執行的 AI agent 的品質問題。它與生產 agent 並排執行,掃描失敗聚類並對照對話記錄逐條驗證,再把根因定位到當時實際部署的原始碼快照。它針對的場景是:agent 做到 80% 之後難以繼續改進,且靜默的品質回退仍然返回 HTTP 200 OK。
在 Criteo 任職的初級工程師 Elise Baturone 認為,AI 不會讓軟體工程師消失,真正的風險是資深工程師消失、所有人永遠停在 Junior 階段。她把自己的 agent 調教成導師,用蘇格拉底式提問做理解檢查,並把「提問」和「review」當成需要自己練的技能:追問 agent 解釋設計選擇、引用來源、論證可疑方案,常能讓它自己發現錯誤。她承認這更費 token,但先弄懂再上線更省事;
HN 上一條提問帖討論 LLM 何時能接管軟體架構設計、不再需要人類留在設計環節。發帖者認為程式碼、數學這類有明確對錯的任務已被充分 RL,下一步就是讓 Anthropic、OpenAI 等收集好架構與壞架構的資料集做 RL;他提到 2024 年 LLM 還只是高階自動補全,如今業界已在談用 agent 搭「軟體工廠」,並判斷幾年內實際程式設計技能的需求會消失九成,產品負責人這類軟技能崗位更受青睞。帖子目前 9 分、3 條評論,屬觀點討論,沒有官方資訊。
Faros 2026 年研究分析 22,000 名開發者、4,000 個團隊兩年遙測資料後發現,AI 採用度高的組織每位開發者 bug 增加 54%,PR 評審中位耗時約漲 5 倍,每 PR 事故數超 3 倍;其 Q3 報告稱部分效應有所緩解,但驗證與運維成本仍在累積。
量子位智庫發布報告《Agent 驅動的企業智慧化:單點提效到規模化重塑》,把企業 AI 落地受阻歸納為任務定義、資料可信度、判斷可驗證性、行動落地、權限責任、價值衡量六大斷點。報告提出 Agent 需具備貫通任務、上下文、判斷、行動、控制與衡量的全鏈路能力,並建議先選一個高價值場景跑通閉環再規模化複製。報告援引案例稱,三花智控的預算分析由 2-3 小時壓縮至 10 分鐘,空格數智新能源 CRM 開發從 60 人天降至 16 人天,上海企通 BIMS 約 2.5 倍提效、功能首次可用率 78.63%。
Monday.com 委託 Nielsen 對七國 1700 名董事與高管調查顯示,超半數認為員工產出經 AI 打磨後難辨人機貢獻,近半數因此花更多時間審閱團隊產出。94% 仍對 AI 感到興奮,但 78% 已改變考核方式,更看重提示詞撰寫與任務分配能力;39% 用 AI 起草績效評估,46% 用 AI 輔助決策。57% 的組織在用的工具反而變多,僅 29% 稱 AI 基礎設施已集中最佳化;58% 預計一年內要監督的 AI agent 數量將超過人類員工。
Linear 官方部落格發布文章《Someone Behind the Software》,主張好產品會帶著創造者的經驗、關注點與判斷,而當下不少產品正退化成功能的堆砌。文章認為根源在於新增新能力遠比重新思考既有能力容易,當每個人各自帶著 agent 獨立產出改動,合在一起就更像弗蘭肯斯坦的怪物,而非被精心雕琢的雕塑。作者希望做軟體變簡單後省下的空間,能被用來形成並堅持一套產品觀點,而不是讓產品變成所有輸出的平均值。
Google 正在試點允許候選人在軟體工程師面試中使用 Gemini,考察重點從手寫演算法題轉向程式碼理解與 AI 熟練度:閱讀、除錯並最佳化已有程式碼,並核實 AI 給出的修復方案是否成立。試點面向今年下半年美國部分團隊的初級和中級軟體工程師崗位,Google Cloud、平台與裝置等部門參與。Google CEO 此前披露,公司 75% 的新增程式碼已由 AI 生成、再由工程師稽核。