X @AIatMeta● 精選AI 評分66
@AIatMeta: We trained our Muse foundational models, including Muse Wonder, at Prometheus, our gigawatt-scale s…
Meta 披露其 Muse 系列基礎模型(含 Muse Wonder)在俄亥俄州 New Albany 的千兆瓦級超算叢集 Prometheus 上完成訓練。該叢集擁有數十萬塊 GPU,預訓練 goodput 達 85% 以上、強化學習 90% 以上,Muse Wonder 訓練期間平均約 4.7 萬 GPU 小時才出現一次中斷。Meta 還附上了介紹 Prometheus 技術細節的連結。