依意思最接近的 13 筆
llama.cpp 發布建置 b11680，Hexagon NPU 後端完成張量重打包（repacking/tiling）重構：新增對分塊與扁平量化權重、以及 F16/F32/BF16 二維權重的重打包支援，分塊 Q5_K 與原始 k-quant 張量可用 GET_ROWS。該版本移除了 need_repack hack，並清理 matmul、反量化 ukernel、張量介面與 L2/dcache 重新整理邏輯，最佳化小 src1 的 get-rows 效能。
Jump Trading 的 LLM 研發負責人 Lucas Baker 表示，引入 OpenAI GPT-6 Astra 後，可交給 agent 的量化研究工作流在規模與複雜度上大幅提升，從日常寫程式碼擴充套件到需要執行數天、跨多資料來源的完整分析。過去需要頻繁人工指導與干預，現在團隊只需定義安全、可監控的環境與明確目標，讓 agent 自行尋找路徑，並在長任務中自我評估、遞迴改進。在受監管的金融行業，agent 產出的交易訊號仍按普通訊號處理，需人工稽核並納入嚴格控制的執行環境。
在 AI Engineer New York 大會上，OpenAI 金融服務版 ChatGPT 負責人 Joseph Kim 提出模型存在有用性閾值，並預測 2027 年金融業將減少對 Excel 和 PowerPoint 的依賴，代理足以做投資想法生成與交易。他強調金融場景需要可追溯性，人工在何處介入是產品設計問題。同場 Two Sigma 的 John Feminella 介紹五類可組合控制，用 auto-mode 分類器只把重要請求交給人，避免審批疲勞；
r/LocalLLaMA 上一則帖子以「FP8/BF16 使用者看到有人跑 IQ1_S」為題引發討論。多位使用者認為量化影響取決於用途：創意寫作、閒聊可容忍 IQ1/IQ2，但編碼、複雜推理和結構化 JSON 提取會明顯崩壞。有人實測 Qwen 3.8 27b 後稱 mxfp4/nvfp4 品質接近 Q6，GSQ-RCO 在 IQ3_S、IQ3_XXS 仍可用；也有人認為 Q4_K_M 或 Q5_K_M 是多數模型的甜點區。
llama.cpp 合併 PR #29717，為 Hexagon 後端新增 q2_k 和 q3_k 兩種量化型別支援，並統一了 src1_row_size 的分配方式。該改動由高通工程師 Max Krasnyansky 參與提交，面向在驍龍 Hexagon NPU 上執行本地推理的使用者，相關建置覆蓋 Linux arm64 與 Android arm64 的 Snapdragon CPU、Adreno GPU、Hexagon NPU 組合。
llama.cpp 發布 b11489，為 Hexagon NPU 的 Q6_K 權重反量化帶來加速，做法是再增加 2 倍迴圈展開，改動由 OpenCode 協助完成。該版本繼續提供 macOS/iOS、Linux、Android、Windows 多平台預編譯包，Snapdragon 版本可分別使用 CPU、Adreno GPU 與 Hexagon NPU，Windows arm64 另有 OpenCL Adreno 建置；
LittleBit 專案放出論文官方實現，可把 LLM 權重壓縮到 1.0 至 0.1 bits-per-weight，推理時保持原模型結構不變。ICML 2026 的 LittleBit-2 新增 Joint-ITQ 初始化，通過 --use_itq 開啟，只改初始化、不增加推理開銷，並支援 SmoothSign 量化感知訓練與可選殘差分解。
哈工大（深圳）與新加坡國立大學團隊提出免訓練 2-bit KV Cache 量化框架 QuantWM，面向影片世界模型，實際壓縮最高 6.20 倍。研究指出，現有量化方法在 VBench 等指標上接近 BF16，畫面卻仍有閃爍、模糊和失真，原因是 Key 的量化誤差改變了注意力分數排序，使模型選中不同的歷史幀或影像塊。
llama.cpp 發布 b11748 建置，主要修復 SYCL 後端在重排後的量化權重上呼叫 get_rows 的問題（PR #30430）。該版本同時更新了多平台預編譯產物：macOS/iOS 的 XCFramework、Linux 與 Windows 的 CPU、Vulkan、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL 建置，以及驍龍平台的 CPU、Adreno GPU 與 Hexagon NPU 支援。
llama.cpp 建置 b11790 為 Hexagon NPU 的權重重排（repack/tiling）加入 NEON 向量化與多執行緒支援：先實現 q4_0 的向量化 repack，再擴充套件到 q1/q2/f16 等型別，並補上簡單的分塊與執行緒化。改動由高通工程師參與提交，Hexagon 後端僅用於 Snapdragon 平台的 CPU、Adreno GPU、Hexagon NPU 建置；同批建置仍覆蓋 macOS、Linux、Windows、Android 各後端。
量子位智庫發布報告《Agent 驅動的企業智慧化：單點提效到規模化重塑》，把企業 AI 落地受阻歸納為任務定義、資料可信度、判斷可驗證性、行動落地、權限責任、價值衡量六大斷點。報告提出 Agent 需具備貫通任務、上下文、判斷、行動、控制與衡量的全鏈路能力，並建議先選一個高價值場景跑通閉環再規模化複製。報告援引案例稱，三花智控的預算分析由 2-3 小時壓縮至 10 分鐘，空格數智新能源 CRM 開發從 60 人天降至 16 人天，上海企通 BIMS 約 2.5 倍提效、功能首次可用率 78.63%。
AI 實驗室 Third Moment Research 藉助 OpenAI 的 GPT-6 Astra、GPT-6.1 Sol 與 Codex，可同時執行 1 萬個 agent，單次自主研究持續 36–48 小時。Codex 曾定位量化回測瓶頸並部署快取與記憶體打包最佳化，把一年美股訂單級資料的回測從約 3 小時縮短到 3–5 分鐘，回測時間減少 97%。
llama.cpp 發布 b11515，主要變更是 SYCL 後端為 Q5_K 量化補上重排佈局的 MMVQ 核心，並加入融合 GLU（#29375），面向 Intel GPU 的量化推理。建置矩陣照舊覆蓋 macOS/iOS、Linux、Windows、Android 與 openEuler，包含 CUDA 12/13、ROCm 10.0、Vulkan、OpenVINO、SYCL FP32/FP16 等後端；