AISpot

搜尋

依意思最接近的 6 筆

llama.cpp releasesAI 評分41

llama.cpp b11799 為 SYCL 後端加入 q8 快速反量化

llama.cpp 發布 b11799 建置,新增 SYCL 後端的 q8 快速反量化(#30775),可提升 Intel GPU 上量化模型的推理效率。該版本同時提供 macOS、Linux、Windows、Android 的多平台預編譯包,涵蓋 CUDA 12、CUDA 13、ROCm 10.0、Vulkan、OpenVINO 與 Snapdragon 的 CPU、Adreno GPU、Hexagon NPU 版本;SYCL 建置則分為 FP32 與 FP16 兩版。

The Verge AIAI 評分45

AI 加速老遊戲反編譯移植,衝擊儲存社群

AI 工具正在加速老遊戲的反編譯與重編譯移植,也讓專注遊戲儲存的社群遭到衝擊。過去一個月,瀏覽器裡的《光環》、iPhone 上的《風之杖》、混合現實中的《任天堂明星大亂鬥》等非常規移植專案高頻走紅。愛好者用 decomps/recomps 逆向拆解遊戲,再為新平台重建;AI 提高了移植速度,卻撕裂了原本緊密的儲存社群。

llama.cpp releasesAI 評分35

llama.cpp 為 SYCL 後端最佳化 q4_K/q5_K 反量化

llama.cpp 建置 b11685 合入 #29696,為 SYCL 後端在 q4_K/q5_K 權重的反量化中加入寬儲存(wide stores),以提升該後端上的推理效率。該版本照常覆蓋 macOS/iOS、Linux、Android 與 Windows,含 CUDA 12/13、Vulkan、ROCm 10.0、OpenVINO、SYCL FP32/FP16 以及 Snapdragon 的 CPU、Adreno GPU、Hexagon NPU 等建置。

機器之心● 精選AI 評分70

EinsiaAI 發布 Quant Arena,9 個大模型在 A 股半數虧本

EinsiaAI 旗下 Navers Lab 發布 Quant Arena,讓 9 個大模型在 3042 只 A 股的真實資料上自行編寫策略、回測和迭代;結果 5 個模型虧本、無一跑贏市場基準。研究期使用 2022—2023 年行情,每個模型最多進行 5 次候選評估;策略凍結後僅在 2024 年封存資料上評估一次。收益最高的 GPT-6 Astra 年化收益率 10.7%、最大回撤 -6.8%,仍低於 17.1% 的市場基準;

llama.cpp releasesAI 評分38

llama.cpp 合併 SYCL FP16/FP32 反量化開關

llama.cpp 發布 b11810 建置,SYCL 後端把 FP16 與 FP32 的反量化開關合併為一項(#30740)。同一版本更新了多平台預編譯產物,涵蓋 macOS Apple Silicon 與 Intel、iOS XCFramework、Ubuntu 和 Windows 上的 CUDA 12/CUDA 13、Vulkan、ROCm 10.0、OpenVINO,以及 Snapdragon 的 CPU、Adreno GPU 與 Hexagon NPU 建置。

機器之心● 精選AI 評分70

Q Labs 發布 Dust:不用反向傳播預訓練 Transformer

Q Labs 發布 Dust,這是一種不依賴反向傳播、能在 Transformer 預訓練任務上與反向傳播競爭的零階最佳化方法:它在每層啟用值上按 token 獨立新增高斯噪聲,一次前向傳播即可並行評估數千個「虛擬種群」成員,並據此估計梯度。團隊在 FineWeb 上最大隻驗證到 2.43 億引數、2000 萬 token,並稱在大規模種群下可逼近甚至超過反向傳播,但成本仍高几個數量級;第三方復現認為其優勢有限,反向傳播換用更合適的最佳化器後會明顯領先。