AISpot

搜尋

依意思最接近的 9 筆

llama.cpp releasesAI 評分43

llama.cpp 為 Hexagon NPU 增加 q2_k 與 q3_k 量化支援

llama.cpp 合併 PR #29717,為 Hexagon 後端新增 q2_k 和 q3_k 兩種量化型別支援,並統一了 src1_row_size 的分配方式。該改動由高通工程師 Max Krasnyansky 參與提交,面向在驍龍 Hexagon NPU 上執行本地推理的使用者,相關建置覆蓋 Linux arm64 與 Android arm64 的 Snapdragon CPU、Adreno GPU、Hexagon NPU 組合。

Hacker News front pageAI 評分46

k10s 發布:可點選的 Kubernetes 終端 UI,內建感知上下文的 AI

k10s 是 Go 與 Bubble Tea 寫的可點選 Kubernetes 終端 UI:滑鼠可點選行與面板,ctrl+p 統一搜尋資源型別與物件,啟動時不註冊任何 watch,informers 按需懶載入。它內建 AI,ctrl+a 用自然語言提問時會自動注入當前 context、名稱空間、資源型別與選中物件,回答針對該物件;同時相容 k9s 風格的 plugins.yaml 自訂動作。

機器之心● 精選AI 評分73

哈工大深圳與 NUS 提出 QuantWM,2-bit KV Cache 壓縮 6.2 倍

哈工大(深圳)與新加坡國立大學團隊提出免訓練 2-bit KV Cache 量化框架 QuantWM,面向影片世界模型,實際壓縮最高 6.20 倍。研究指出,現有量化方法在 VBench 等指標上接近 BF16,畫面卻仍有閃爍、模糊和失真,原因是 Key 的量化誤差改變了注意力分數排序,使模型選中不同的歷史幀或影像塊。

機器之心● 精選AI 評分83

KTransformers-FineTune 讓 CPU 直接算 MoE 專家,微調吞吐最高提升 21.2 倍

清華 MADSys 實驗室與趨境科技提出 KTransformers-FineTune(KT-FT),讓 CPU 用主存中的權重直接完成 MoE 專家計算、GPU 只負責注意力,LoRA 微調吞吐達到 ZeRO-Offload 等解除安裝基線的 2.5~21.2 倍。該方案已作為執行後端接入 LlamaFactory,CPU 側用 AVX-512/AMX 指令集計算專家,支援微調與推理在同等硬體下一鍵執行。

量子位● 精選AI 評分81

千問上線千問 Go:代訂票、退差價、向客服索賠

千問正式上線 Personal Agent 能力千問 Go,可代替使用者訂票、預約汽車保養、預訂球場、辦理電商價保退差價,甚至與真人客服多輪交涉索賠。灰度使用者案例顯示,千問 Go 在使用者記不清航班號的情況下登入購票平台翻訂單、聯絡人工客服鎖定延誤班次,把 70 元代金券補償談成現金;另有使用者拿到 52 元保價退款。該能力基於 9 月雲棲大會發布的 Qwen 3.8 Agentic 模型,長在千問 APP 內,除登入帳號等操作外基本無需使用者介入。

llama.cpp releasesAI 評分41

llama.cpp 為 Hexagon NPU 支援 Q4_K/Q6_K tiled GET_ROWS

llama.cpp 的 Hexagon 後端新增 tiled Q4_K 與 Q6_K 的 GET_ROWS 支援,使驍龍 Hexagon NPU 能對這兩種量化格式執行嵌入查表,同一提交還修正了 Q4_K 檢視的校驗邏輯。改動由 OpenCode 協助完成,已隨本次建置發布,覆蓋 Android arm64 與 Linux arm64 的 Snapdragon CPU、Adreno GPU、Hexagon NPU 組合包。

OpenAI NewsAI 評分44

Jump Trading 用 GPT-6 Astra 讓 agent 承擔數天級量化研究

Jump Trading 的 LLM 研發負責人 Lucas Baker 表示,引入 OpenAI GPT-6 Astra 後,可交給 agent 的量化研究工作流在規模與複雜度上大幅提升,從日常寫程式碼擴充套件到需要執行數天、跨多資料來源的完整分析。過去需要頻繁人工指導與干預,現在團隊只需定義安全、可監控的環境與明確目標,讓 agent 自行尋找路徑,並在長任務中自我評估、遞迴改進。在受監管的金融行業,agent 產出的交易訊號仍按普通訊號處理,需人工稽核並納入嚴格控制的執行環境。

llama.cpp releasesAI 評分44

llama.cpp 為 KleidiAI 加入 SME2 Q4_K/Q6_K 矩陣乘支援

llama.cpp 發布建置 b11604,為 KleidiAI 加入 SME2 指令集的 Q4_K 與 Q6_K 矩陣乘支援,補丁編號 #29219,提交者來自 Arm。SME2 屬於 Armv9 的矩陣擴充套件,這項改動面向支援該指令集的 Arm CPU,用於加速這兩種常用量化格式的矩陣乘法。同一版本中,macOS Apple Silicon 的 KleidiAI 啟用建置被標記為 DISABLED,openEuler 也有一項標註 DISABLED;

量子位AI 評分43

量子位智庫發布企業 Agent 落地報告,拆解六大斷點

量子位智庫發布報告《Agent 驅動的企業智慧化:單點提效到規模化重塑》,把企業 AI 落地受阻歸納為任務定義、資料可信度、判斷可驗證性、行動落地、權限責任、價值衡量六大斷點。報告提出 Agent 需具備貫通任務、上下文、判斷、行動、控制與衡量的全鏈路能力,並建議先選一個高價值場景跑通閉環再規模化複製。報告援引案例稱,三花智控的預算分析由 2-3 小時壓縮至 10 分鐘,空格數智新能源 CRM 開發從 60 人天降至 16 人天,上海企通 BIMS 約 2.5 倍提效、功能首次可用率 78.63%。