搜尋

@AIatMeta: We trained our Muse foundational models, including Muse Wonder, at Prometheus, our gigawatt-scale s…

Meta 披露其 Muse 系列基礎模型（含 Muse Wonder）在俄亥俄州 New Albany 的千兆瓦級超算叢集 Prometheus 上完成訓練。該叢集擁有數十萬塊 GPU，預訓練 goodput 達 85% 以上、強化學習 90% 以上，Muse Wonder 訓練期間平均約 4.7 萬 GPU 小時才出現一次中斷。Meta 還附上了介紹 Prometheus 技術細節的連結。