AISpot

搜尋

找到 2 筆；也可以試試 語意搜尋

r/LocalLLaMA top of the dayAI 評分71

Hugging Face 發布多 harness RL 訓練指南

Hugging Face 後訓練團隊發布了一份多 harness 強化學習指南，介紹如何用 TRL 和 Harbor 等開源庫在不同 coding harness 中訓練開放模型。團隊稱，針對當前各人自建 harness（如 Pi 加擴充套件）的現狀，該方案給出了用任意開放模型在自訂 harness 上取得最佳效能的配方。指南已發布在 Hugging Face Spaces 上，作者歡迎反饋。

研究開源RLTRLHarborcoding harnesspost-training
閱讀原文
Hugging Face blogAI 評分62

Hugging Face 上線 Trainium 模型相容性查詢 Space

Hugging Face 推出 torch-neuronx 模型支援查詢 Space，可查 Hub 上的熱門模型能否不經修改在 AWS Trainium 上執行。每條結果給出模型分片佔用的 Trainium 核數、含編譯的實際耗時和峰值視訊記憶體，並提供測試所用的 run.py，以及從 NEFF 快取跳過編譯的命令。目前僅覆蓋 Transformers 的文字生成與圖文模型，且只測試能放進 4 張 trn2（16 核）的模型，PASS 不代表吞吐或長文字生成表現。

地端推論開發工具TorchNeuronAWS TrainiumNeuron 編譯器模型相容性查詢Hugging Face Spaces
2 個來源 · 5 則報導閱讀原文