開源專案解鎖 RTX 4090 隱藏算力,Tensor Core 吞吐翻倍
開源專案 gpu-unlock-ada 通過修改 GPU 啟動階段的暫存器配置,讓 RTX 4090 在 FP16/BF16 輸入、FP32 累加的 Tensor Core 運算上,吞吐率從 165.6 TFLOPS 提升到 331.6 TFLOPS,接近翻倍,且無需刷 BIOS 或修改官方驅動。同樣的思路已在 RTX 3090 Ti、3080 等 30 系顯示卡和 2018 年的 RTX 2080 Ti 上覆現,Windows 11 也出現了 UEFI 實驗方案。
多代 GeForce 顯示卡的 Tensor Core 指令速率限制被開源工具繞過,4090 翻倍結果有獨立複測,但實測矩陣運算收益收窄到 12%~34%,給在消費級顯示卡上跑推理的人一個明確預期。
原標題:英伟达GPU隐藏算力被开源解锁!不改官方驱动,RTX 4090吞吐翻倍
閱讀原文
| 評分 | 84 / 85(平均 84,門檻 65) |
|---|---|
| 狀態 | 精選 |
相關報導
GPU-unlock 1.0.0 解鎖 RTX 30 系部分顯示卡 FP/BF16 速率
GPU-unlock 1.0.0 發布,這個 Linux 核心模組能在 NVIDIA 驅動繫結前解鎖 GA102/GA103/GA104/GA106(RTX 30 系部分顯示卡)的 FP/BF16 指令發射速率,使其達到專業卡水平。3090 Ti 實測 BF16 GEMM 從 87.50 升至 157.41 TFLOPS,FP16 從 87.46 升至 118.39,TF32 從 42.58 升至 82.61;
AI 設計的開源加速卡 openTPU 跑通十餘款模型
一個由 AI 設計的開源 AI 加速器 openTPU 已在真實 PCIe 卡上跑通十餘款模型的真實權重,輸出與 bit-exact 模擬器逐位一致。硬體是 Xilinx Kintex-7 xc7k480t 加兩路 DDR3,LFM2.5-230M int8 解碼 59.0 tok/s、4-bit 達 85.8 tok/s;解碼受 DRAM 頻寬限制,實測跑到峰值的 82%-94%。
崑崙萬維開源 Matrix-Game 4.0:單張 RTX 5090 即時跑 AI 遊戲
崑崙萬維發布並開源 Matrix-Game 4.0,稱其為全球首個可在消費級顯示卡上即時執行的影片大模型遊戲。基於 Wan2.2 5B 改造,單張 RTX 5090 上以 480p 實現 60 FPS 遊戲執行,按鍵到畫面端到端延遲低於 150ms,1 步去噪穩態生成 83 FPS,視訊記憶體峰值約 18.5 GiB。作為對比,輝達同期 StreamRender-H3 需 8 張 GB200,互動延遲約 500ms。開源內容包括模型權重和可由開發者直接修改、擴充套件的遊戲程式碼。
llama.cpp 新增 GDN chunked kernel,RTX 3090/4090 開啟 MMA
llama.cpp 建置 b11632 為 CUDA 和 HIP 後端加入 GDN chunked kernel(自 tetherto#257 移植)。在 RTX 3090(SM86)與 RTX 4090(SM89)通過正確性和 prefill 基準測試後,CUDA 側啟用 GDN MMA,其他未測試架構繼續沿用原有 fallback;ggml 側另註明 GDN 只在 n_tokens > K 時保證最終狀態。
Google 開源 TorchTPU,TPU 成為 PyTorch 原生裝置
Google 在 PyTorch Conference 2026 上開源 TorchTPU,讓 TPU 與 GPU、CPU 並列,成為 PyTorch 的原生裝置。專案由 Google 和 Meta 聯合開發;在 Hugging Face Transformers v5 裡只需傳入 device_map="tpu" 即可部署,vLLM、SGLang、Ray、TorchTitan 等已同步接入。