AISpot

搜尋

找到 4 筆;也可以試試 語意搜尋

機器之心● 精選AI 評分76

阿里千問 TRACE 讓 FP4 強化學習 Rollout 最高提速 5.4 倍

阿里千問與俄亥俄州立大學提出 TRACE,用 Rollout 側真實 FP4 量化結果指導訓練側舍入方向,在四個 Qwen MoE 模型上把聯合 FP4 權重啟用與 FP4 KV Cache 的 RL 效能拉回 BF16 水平。Qwen3.5-35B-A3B 平均分 75.3,高於 BF16 Rollout 的 74.9,遠超普通 QAT 的 59.6 和 QUADS 的 68.8;128K 輸出長度下解碼吞吐最高提升 5.4 倍,端到端 RL step 僅增約 7.4% 開銷。

llama.cpp releasesAI 評分49

llama.cpp 最佳化 CUDA 後端 NVFP4 的 mmq 累加

llama.cpp 發布 b11417 建置,CUDA 後端針對 NVFP4 型別的 mmq 累加做了最佳化,改進 mmq_vec_dot_fp4_fp4_mma 以提升效能,並修正 mma_block_scaled_fp4 迴圈的縮排。該版本建置覆蓋 macOS/iOS、Linux、Windows、Android 與 openEuler,包含 CUDA 12.8、CUDA 13.4、ROCm 10.0、Vulkan、SYCL、OpenVINO 等後端;

量子位AI 評分53

聯想 YOGA Pro 15 開售,29999 元起,端側可跑千億引數模型

聯想 YOGA Pro 15 RTX Spark 超級 AIPC 於 10 月 16 日全渠道開售,29999 元起,是全球首批搭載 NVIDIA RTX Spark N1X 超級晶片的本地智慧體 AIPC。該晶片整合 6144-core Blackwell RTX GPU 與 20-core Grace CPU,端側 FP4 算力達 1 Petaflop,配 128GB 統一記憶體與 2TB 儲存,官方稱已率先跑通超千億引數本地大模型。

量子位AI 評分44

聯想 YOGA Pro 15 開啟盲約,全球首批搭載 NVIDIA RTX Spark N1X

聯想 YOGA Pro 15 RTX Spark 於 10 月 8 日 9:00 開啟全網盲約,為全球首批搭載 NVIDIA RTX Spark N1X 超級晶片的本地智慧體 AIPC。N1X 整合最高 6144 核 Blackwell RTX GPU 與 20 核 Grace CPU,端側算力達 1 Petaflop FP4,整機最高 128GB 統一記憶體、2TB 儲存、80W 滿功耗,可本地執行超千億引數大模型,並出廠預裝 35B 本地模型。