搜尋

Hugging Face 上線 Trainium 模型相容性查詢 Space

Hugging Face 推出 torch-neuronx 模型支援查詢 Space，可查 Hub 上的熱門模型能否不經修改在 AWS Trainium 上執行。每條結果給出模型分片佔用的 Trainium 核數、含編譯的實際耗時和峰值視訊記憶體，並提供測試所用的 run.py，以及從 NEFF 快取跳過編譯的命令。目前僅覆蓋 Transformers 的文字生成與圖文模型，且只測試能放進 4 張 trn2（16 核）的模型，PASS 不代表吞吐或長文字生成表現。