AISpot
熱點事件 · 持續更新

AWS 推出 TorchNeuron,PyTorch 模型一行配置即可跑上 Trainium

2 則報導2 個報導來源 更新

先了解這件事AI 綜述

Hugging Face 於 10 月 19 日發文介紹 AWS 的 TorchNeuron:該工具為 AWS Trainium 提供原生 PyTorch 後端,可通過 pip install torch-neuronx 安裝,Hugging Face(HF)的 Transformers、Diffusers 與 Kernels 已原生支援,覆蓋 eager 模式、torch.compile 以及 FSDP、TP 等分散式 API。此前在 Trainium 與 Inferentia 上的體驗依賴基於 PyTorch XLA 的 optimum-neuron,需要按編譯器思路處理惰性張量和靜態形狀,計算圖一旦中斷就要重新編譯。關於上線時間,兩方說法略有出入:Hugging Face 稱 10 月 20 日進入公開測試,TechCrunch 則稱 AWS 已在週一發布該工具。TechCrunch 報導補充,用 PyTorch 寫的 AI 應用只需改一行配置就能跑在 Trainium 上,無需重寫程式碼;AWS 稱約 85% 的 AI 應用基於 PyTorch,熟悉 PyTorch 的開發者可直接上手,亞馬遜還會把解耦 PyTorch 與特定晶片的程式碼回饋上游。AWS 強調 Trainium 兼顧訓練與推理且價效比高,語音 AI 公司 Deepgram 遷移後每美元處理的音訊量提升 70%。對在 AWS 上訓練或部署模型、希望減少對 CUDA 依賴的團隊,遷移到 Trainium 的改造成本明顯降低。

AI 根據 2 則報導生成 · 更新

報導時間線

沿著報導,了解事件的不同側面;點標題看單篇報導的摘要與原文連結。

10月19日星期一 · 2 則

  1. TechCrunch AI● 精選

    AWS 發布 TorchNeuron,一行配置把 PyTorch 應用遷到 Trainium

    AWS 發布開發工具 TorchNeuron,用 PyTorch 寫的 AI 應用只需改一行配置即可跑在自研晶片 Trainium 上,無需重寫程式碼。AWS 稱約 85% 的 AI 應用基於 PyTorch,熟悉 PyTorch 的開發者可直接上手。亞馬遜還會把解耦 PyTorch 與特定晶片的程式碼回饋上游,推動框架硬體無關;Trainium 兼顧訓練與推理,AWS 強調價效比,語音 AI 公司 Deepgram 遷移後每美元處理音訊量提升 70%。

本事件熱度走勢

最高 1.5

為什麼熱

過去 48 小時,有 2 個獨立來源報導,最近 6 小時新增 1 個。熱度 1.4,熱門榜第 3 名。

熱度以 48 小時內的獨立來源計,同一來源只算一次,每 24 小時權重減半。

事件紀錄

最早報導
最近更新

同一事件的報導集中在這裡,新的進展會繼續補充。