研究:九個前沿模型生成的文字比人類更難懂
arXiv 新論文用心理語言學特徵分析 AI 生成文字,發現九個前沿與準前沿模型都比人類寫作更常用無生命主語搭配有生命動詞、更多低頻 n-gram,多數模型在對話中還使用更長依存、更多名詞堆疊和縮減關係從句,且不同模型家族差異明顯。作者提出的解釋是:人類語言為溝通最佳化,而 AI 文字越來越為數學、程式碼與推理最佳化,追求資訊密度;用長度懲罰微調模型的初步實驗復現了這種偏離人類語言習慣的現象。
首次在統一語料上量化對比九個前沿模型的句法複雜度並給出「為資訊密度犧牲可讀性」的解釋與初步驗證,對關注模型輸出品質與可讀性的研究者和產品使用者有參考價值。
原標題:Why is AI generated language so hard to understand?
閱讀原文
| 評分 | 76 / 72(平均 74,門檻 76) |
|---|---|
| 狀態 | 未入選 |
相關報導
部落格:讀 AI 生成文字速度至少慢三分之一,風格與精度雙雙流失
一位作者在部落格中稱,自己閱讀 AI 生成文字的速度至少慢三分之一,即便篇幅相同。他把原因歸為兩點:AI 會平均化寫作風格,讀者難以感知作者本人及其語境;AI 為把文字拼接通順必須自行假設,傾向選擇更模糊的措辭,從而損失精度。他還指出多數模型輸出囉嗦,讀者需自行替換含糊詞,寫作者省下的時間會轉嫁到讀者一側,並帶來更多追問、更多迭代與信任下降。
AI 程式設計模型集體滿口黑話:思維鏈壓縮省 70% Token
量子位發文吐槽,Fable、Sol 等與 Coding 沾邊的模型普遍輸出「15/15 全綠」「單腿啞火」這類黑話。文中分析,除 Coding 過擬合外,更主要的原因是廠商為省 Token 把思維鏈壓縮成「穴居人語」,OpenAI 最早這麼做,同樣一句話的 Token 消耗比白話文少 70%;Claude 自 Opus 4.6 起也開始如此。作者稱最新 Opus 5.5 語言能力回升明顯,而 Gemini 因輸出風格正常、排版層級清晰,被社群視為少數還能正常溝通的 AI。
斯坦福與 Together AI 提出 NCM,文字生成最高提速 31 倍
斯坦福大學與 Together AI 提出 Next-Concept Modeling(NCM),借鑑 NeurIPS 2024 最佳論文 VAR 的下一尺度預測,讓模型先並行寫出概念大綱、再逐層填充細節,形成不同於自迴歸與擴散的第三種文字生成範式。單塊 H100 上,XSum 摘要在 ROUGE-L 相當的情況下速度約為強擴散基線的 31 倍,LM1B 無條件生成約 21 倍,OpenWebText 約 10 倍,訓練 token 用量分別少 4.9 倍和 4 倍。
使用者觀察新模型寫作趨向高資訊密度與生僻詞彙
有使用者在 Reddit 發帖指出,近期開源與閉源新模型(如 GLM 5.3 Flash)的寫作風格正趨向高資訊密度和擴充套件詞彙,用更少字詞表達更多內容,類似 William Gibson 的壓縮文風。作者認為這可能與追求 token 效率有關,但代價是普通讀者難以一眼讀懂,例如輸出中出現 Baudrillardian 這類需要背景知識才能理解的詞。
作者撰文反駁沒人懂大語言模型如何工作
有作者撰文反駁“沒人知道大語言模型如何工作”的說法,稱 LLM 是純機械系統。文中拆解一次推理:文字先切成 token 並數值化,經矩陣乘法、注意力、歸一化與非線性變換逐層計算啟用,最終得到下一個 token 的機率分佈並按解碼規則輸出;訓練用損失函式回傳誤差調整引數,日常呼叫不會改動引數。作者強調只要有模型與工具,就能記錄每層啟用、檢查注意力頭與權重、增刪元件觀察變化,Transformer Circuits 與 circuit tracing 等可解釋性研究也在公開推進。