Hugging Face blog● 精選AI 評分68
TorchNeuron 公測:HF 模型原生跑在 AWS Trainium
TorchNeuron 將於 2026 年 10 月 20 日進入公開測試,為 AWS Trainium 提供原生 PyTorch 後端,可用 pip install torch-neuronx 安裝。
找到 2 筆;也可以試試 語意搜尋
TorchNeuron 將於 2026 年 10 月 20 日進入公開測試,為 AWS Trainium 提供原生 PyTorch 後端,可用 pip install torch-neuronx 安裝。
AWS 發布開發工具 TorchNeuron,用 PyTorch 寫的 AI 應用只需改一行配置即可跑在自研晶片 Trainium 上,無需重寫程式碼。AWS 稱約 85% 的 AI 應用基於 PyTorch,熟悉 PyTorch 的開發者可直接上手。亞馬遜還會把解耦 PyTorch 與特定晶片的程式碼回饋上游,推動框架硬體無關;Trainium 兼顧訓練與推理,AWS 強調價效比,語音 AI 公司 Deepgram 遷移後每美元處理音訊量提升 70%。