Ars Technica AI10/2 14:39AI 評分73
美國逮捕涉嫌走私 3 億美元輝達晶片至中國的科技公司 CEO
美國司法部 10 月 2 日宣布逮捕 38 歲的 Earthmade Computer 執行長 Greg Lui，指控其利用虛假檔案將價值超 3 億美元的受出口管制輝達晶片伺服器走私至中國。起訴書稱，Lui 涉嫌與馬來西亞、新加坡等南亞國家的貨運代理公司合謀，非法轉運輝達 A100 和 H100 GPU。美方擔憂這些晶片可用於訓練大語言模型，可能帶來國家安全風險。
搜尋
找到 2 筆；也可以試試 語意搜尋
Hugging Face blog● 精選10/9 11:20AI 評分69
Ai2 用 GPU 時間預算替代優先順序排程
Ai2 把原先基於優先順序的 GPU 排程器換成了由 GPU 時間預算、層級化公平分配和時間切片契約組成的新系統。它管理數千塊 NVIDIA H100、B200、B300，叢集規模從 88 到 1024 塊 GPU，服務約 150 名內部研究者，GPU 需求長期是供給的 2 到 3 倍。舊方案導致 GPU 蹲坑佔位、優先順序通脹（最終 100% 工作負載都標為 HIGH）以及值班工程師大量時間用於協商關閉不可搶佔任務。