NVIDIA blogAI 評分56
NVIDIA 稱 Vera CPU 的智慧體速度與每瓦承載力均超 x86
NVIDIA 稱,在 100 兆瓦資料中心對比中,單顆 Vera CPU 同時勝過最快的 x86 CPU 和最省電的 x86 CPU。官方資料為:相比最快 x86,每瓦可支撐的智慧體數量多 1.6 倍;相比最省電 x86,智慧體執行速度快 2 倍。
找到 2 筆;也可以試試 語意搜尋
NVIDIA 稱,在 100 兆瓦資料中心對比中,單顆 Vera CPU 同時勝過最快的 x86 CPU 和最省電的 x86 CPU。官方資料為:相比最快 x86,每瓦可支撐的智慧體數量多 1.6 倍;相比最省電 x86,智慧體執行速度快 2 倍。
llama.cpp 的 ggml-cpu 後端在 x86 上為 tinyBLAS 增加了 BF16、FP16、FP32 的 K 尾部支援並做了向量化,同時讓 CPU 測試在啟用 use_ref 時跳過 tinyBLAS,以便與 vec_dot 路徑對比。改動以 PR #29806 合入,隨 b11398 建置發布,覆蓋 macOS、Linux、Windows、Android 等多平台 CPU 與 GPU 後端。