AISpot

搜尋

找到 2 筆;也可以試試 語意搜尋

機器之心● 精選AI 評分77

清華八卦爐 2 論文入選 SC26,萬卡 MoE 訓練吞吐提升 1.14 倍

清華大學翟季冬團隊的大模型訓練系統八卦爐 2(BaGuaLu-2)論文被 SC26 錄用,它用執行時自適應替代靜態的重計算與啟用解除安裝配置,把 MoE 訓練中的視訊記憶體尖峰壓在裝置上限以內。在 128 到 12,288 張海光 DCU 上訓練 188B 至 1.04 萬億引數模型,平均吞吐比基線高 1.14 倍,12,288 卡下總吞吐 2.012 EFLOPS、平均 MFU 32.9%(最高 35%),單次排程決策開銷低於 10 ms。

量子位AI 評分50

範式智慧聯合睿思智聯開源生產級 AI 部署平台模域 ModelSphere

10 月 16 日,範式智慧聯合睿思智聯發布一站式生產級 AI 部署平台模域(ModelSphere),面向企業免費開源,以 Apache 2.0 協議在 GitHub 上線。平台把算力管理、模型部署與執行最佳化整合為統一流程,可統一混合排程華為昇騰、天數智芯、摩爾線程、海光 DCU 等國產晶片,無需為不同晶片重寫底層程式碼。