搜尋

斯坦福與 Together AI 提出 NCM，文字生成最高提速 31 倍

斯坦福大學與 Together AI 提出 Next-Concept Modeling（NCM），借鑑 NeurIPS 2024 最佳論文 VAR 的下一尺度預測，讓模型先並行寫出概念大綱、再逐層填充細節，形成不同於自迴歸與擴散的第三種文字生成範式。單塊 H100 上，XSum 摘要在 ROUGE-L 相當的情況下速度約為強擴散基線的 31 倍，LM1B 無條件生成約 21 倍，OpenWebText 約 10 倍，訓練 token 用量分別少 4.9 倍和 4 倍。