搜尋
依意思最接近的 18 筆
機器之心● 精選AI 評分70
EinsiaAI 旗下 Navers Lab 發布 Quant Arena,讓 9 個大模型在 3042 只 A 股的真實資料上自行編寫策略、回測和迭代;結果 5 個模型虧本、無一跑贏市場基準。研究期使用 2022—2023 年行情,每個模型最多進行 5 次候選評估;策略凍結後僅在 2024 年封存資料上評估一次。收益最高的 GPT-6 Astra 年化收益率 10.7%、最大回撤 -6.8%,仍低於 17.1% 的市場基準;
llama.cpp releases● 精選AI 評分63
llama.cpp 的 OpenCL 後端首次加入對 IQ2 系列 2-bit 量化(iq2_s、iq2_xs、iq2_xxs)的支援,並針對高通 Adreno GPU 做了專項最佳化。提交為每種量化型別補上了 AOS/SOA 矩陣向量乘、tiled matmul、noshuffle 的 GEMM/GEMV 與 dp4a 路徑,並最佳化了 Adreno 上的 decode 與窄批次場景。
r/LocalLLaMA top of the dayAI 評分38
r/LocalLLaMA 上一則帖子以「FP8/BF16 使用者看到有人跑 IQ1_S」為題引發討論。多位使用者認為量化影響取決於用途:創意寫作、閒聊可容忍 IQ1/IQ2,但編碼、複雜推理和結構化 JSON 提取會明顯崩壞。有人實測 Qwen 3.8 27b 後稱 mxfp4/nvfp4 品質接近 Q6,GSQ-RCO 在 IQ3_S、IQ3_XXS 仍可用;也有人認為 Q4_K_M 或 Q5_K_M 是多數模型的甜點區。
llama.cpp releasesAI 評分45
llama.cpp 發布 b11969 建置,通過預計算中點加速 IQ4 量化檔案的建立(#31201),原文未給出具體的提速幅度。同版本更新了 macOS(Apple Silicon、Intel)、iOS XCFramework、Linux(含 CUDA 12、CUDA 13、ROCm 10.0、Vulkan、SYCL、OpenVINO)、Android、Windows 與 openEuler 的預編譯包;
llama.cpp releasesAI 評分43
llama.cpp 合併 PR #29717,為 Hexagon 後端新增 q2_k 和 q3_k 兩種量化型別支援,並統一了 src1_row_size 的分配方式。該改動由高通工程師 Max Krasnyansky 參與提交,面向在驍龍 Hexagon NPU 上執行本地推理的使用者,相關建置覆蓋 Linux arm64 與 Android arm64 的 Snapdragon CPU、Adreno GPU、Hexagon NPU 組合。
llama.cpp releasesAI 評分45
llama.cpp 的 WebGPU 後端新增 Q2_0 量化支援,分別實現了 Q2_0 的行反量化與矩陣乘法,使 2-bit 量化模型可以執行在 WebGPU 上。該改動包含在建置版本 b11809 中;同批建置覆蓋 macOS/iOS、Linux、Windows、Android 上的 CPU,以及 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等後端,並附有各平台產物的驗證連結。
Hugging Face blog● 精選AI 評分69
Ai2 把原先基於優先順序的 GPU 排程器換成了由 GPU 時間預算、層級化公平分配和時間切片契約組成的新系統。它管理數千塊 NVIDIA H100、B200、B300,叢集規模從 88 到 1024 塊 GPU,服務約 150 名內部研究者,GPU 需求長期是供給的 2 到 3 倍。舊方案導致 GPU 蹲坑佔位、優先順序通脹(最終 100% 工作負載都標為 HIGH)以及值班工程師大量時間用於協商關閉不可搶佔任務。
llama.cpp releasesAI 評分56
llama.cpp 建置 b11873 為 OpenCL 後端加入了 Q2_K 量化的初步支援,重點面向驍龍 Adreno GPU。新增 mul_mv_q2_k_f32、q2_k 的 SOA mv 與 tiled mm kernel,並針對 Adreno 補充 noshuffle gemm/gemv 與 dp4a gemm 後完成調優,高通工程師參與共同提交。
機器之心● 精選AI 評分73
哈工大(深圳)與新加坡國立大學團隊提出免訓練 2-bit KV Cache 量化框架 QuantWM,面向影片世界模型,實際壓縮最高 6.20 倍。研究指出,現有量化方法在 VBench 等指標上接近 BF16,畫面卻仍有閃爍、模糊和失真,原因是 Key 的量化誤差改變了注意力分數排序,使模型選中不同的歷史幀或影像塊。
機器之心● 精選AI 評分82
智源 AREX 團隊發布以 Qwen3.8-27B 為基座的開源模型 AREX-2,在 MLE-bench Lite 取得 81.8、Frontier-CS 取得 70.7,超過表中所有對比模型,包括同為 72.7 的 GPT-5.6 Sol 與 Kimi-K3。它用機器學習與演算法程式設計場景的長程反思資料訓練,並把這種能力遷移到深度研究,BrowseComp 達 84.0、HLE 達 52.6,為 40B 以下模型最高。團隊稱這為遞迴自我改進(RSI)提供了可訓練、可驗證的路徑,論文、模型權重與程式碼均已公開。
Hacker News front page● 精選AI 評分76
LittleBit 專案放出論文官方實現,可把 LLM 權重壓縮到 1.0 至 0.1 bits-per-weight,推理時保持原模型結構不變。ICML 2026 的 LittleBit-2 新增 Joint-ITQ 初始化,通過 --use_itq 開啟,只改初始化、不增加推理開銷,並支援 SmoothSign 量化感知訓練與可選殘差分解。
Claude blogAI 評分47
IDC 把旗下 Quanta 技術情報平台以 MCP 聯結器接入 Claude,客戶可在 Claude 桌面端與移動端、Cowork 及 Office 外掛中直接提問,得到基於 IDC 預測、市場資料和 MarketScape 研究生成的競品簡報、供應商候選名單與市場規模分析,每條答案標註對應的 IDC 文件或資料集。
OpenAI NewsAI 評分44
Jump Trading 的 LLM 研發負責人 Lucas Baker 表示,引入 OpenAI GPT-6 Astra 後,可交給 agent 的量化研究工作流在規模與複雜度上大幅提升,從日常寫程式碼擴充套件到需要執行數天、跨多資料來源的完整分析。過去需要頻繁人工指導與干預,現在團隊只需定義安全、可監控的環境與明確目標,讓 agent 自行尋找路徑,並在長任務中自我評估、遞迴改進。在受監管的金融行業,agent 產出的交易訊號仍按普通訊號處理,需人工稽核並納入嚴格控制的執行環境。
llama.cpp releasesAI 評分41
llama.cpp 發布 b11799 建置,新增 SYCL 後端的 q8 快速反量化(#30775),可提升 Intel GPU 上量化模型的推理效率。該版本同時提供 macOS、Linux、Windows、Android 的多平台預編譯包,涵蓋 CUDA 12、CUDA 13、ROCm 10.0、Vulkan、OpenVINO 與 Snapdragon 的 CPU、Adreno GPU、Hexagon NPU 版本;SYCL 建置則分為 FP32 與 FP16 兩版。
機器之心● 精選AI 評分68
OpenRSI Index 正式發布,這是一個用真實開源研究專案出題、檢驗科研智慧體能否改進人類訓練方案的評測基準。任務取自 Marin、Qwen、GPIC 等專案,覆蓋預訓練、後訓練與影像生成,單次執行算力從 5,815 到 20,864 H100·小時。智慧體在工作區反覆實驗,提交後凍結快照交由獨立評測環境驗收,原作者方案在同一環境重跑作為對照,篡改獎勵、洩露評測資訊或超預算計零分。
OpenAI NewsAI 評分41
巴西 Itaú 銀行正在把生成式 AI 鋪到全體客戶與員工:面向客戶的是對話式介面 ia.i,IARA 平台負責治理,兩者共同支撐其 AI First 戰略。該行所在的銀行業是巴西監管最嚴格的行業之一,因此對話產品與治理平台被放在一起推進。原文沒有披露所用模型、上線時間和覆蓋使用者規模等細節,訊息發布於 2026 年 10 月 16 日。
Kimi blog● 精選AI 評分90
Kimi 開源最新模型 K2.6,主打編碼、長程執行與 agent swarm,已上線 Kimi.com、App、API 和 Kimi Code。官方稱其在 Mac 上本地部署 Qwen3.5-0.8B 並用 Zig 實現推理最佳化,經 4000+ 次工具呼叫、12 小時、14 輪迭代,吞吐從約 15 提升到約 193 tokens/s,比 LM Studio 快約 20%;另以 13 小時重構 8 年曆史的 exchange-core,中等吞吐提升 185%。
Hugging Face blog● 精選AI 評分69
Ai2 更新氣候模擬系統 HiRO-ACEv2,新的降尺度模型 HiROv2 可同時預測降雨、風與氣壓等多種高解析度變數,極端事件精度提升。整套系統生成全球 3 公里氣候資料的成本約為高解析度全球大氣模型 X-SHiELD 的 1/300,若只需單個區域,節省可再高百倍以上。官方稱其高解析度統計量與 X-SHiELD 的偏差在 3% 以內,可復現百萬分之一量級的罕見事件,並生成帶颱風眼與雨帶的颶風。