llama.cpp 的 OpenCL 後端新增 IQ2 系列量化,並針對 Adreno GPU 最佳化
llama.cpp 的 OpenCL 後端首次加入對 IQ2 系列 2-bit 量化(iq2_s、iq2_xs、iq2_xxs)的支援,並針對高通 Adreno GPU 做了專項最佳化。提交為每種量化型別補上了 AOS/SOA 矩陣向量乘、tiled matmul、noshuffle 的 GEMM/GEMV 與 dp4a 路徑,並最佳化了 Adreno 上的 decode 與窄批次場景。
依意思最接近的 23 筆
llama.cpp 的 OpenCL 後端首次加入對 IQ2 系列 2-bit 量化(iq2_s、iq2_xs、iq2_xxs)的支援,並針對高通 Adreno GPU 做了專項最佳化。提交為每種量化型別補上了 AOS/SOA 矩陣向量乘、tiled matmul、noshuffle 的 GEMM/GEMV 與 dp4a 路徑,並最佳化了 Adreno 上的 decode 與窄批次場景。
Ai2 把原先基於優先順序的 GPU 排程器換成了由 GPU 時間預算、層級化公平分配和時間切片契約組成的新系統。它管理數千塊 NVIDIA H100、B200、B300,叢集規模從 88 到 1024 塊 GPU,服務約 150 名內部研究者,GPU 需求長期是供給的 2 到 3 倍。舊方案導致 GPU 蹲坑佔位、優先順序通脹(最終 100% 工作負載都標為 HIGH)以及值班工程師大量時間用於協商關閉不可搶佔任務。
巴西 Itaú 銀行正在把生成式 AI 鋪到全體客戶與員工:面向客戶的是對話式介面 ia.i,IARA 平台負責治理,兩者共同支撐其 AI First 戰略。該行所在的銀行業是巴西監管最嚴格的行業之一,因此對話產品與治理平台被放在一起推進。原文沒有披露所用模型、上線時間和覆蓋使用者規模等細節,訊息發布於 2026 年 10 月 16 日。
Ai2 更新氣候模擬系統 HiRO-ACEv2,新的降尺度模型 HiROv2 可同時預測降雨、風與氣壓等多種高解析度變數,極端事件精度提升。整套系統生成全球 3 公里氣候資料的成本約為高解析度全球大氣模型 X-SHiELD 的 1/300,若只需單個區域,節省可再高百倍以上。官方稱其高解析度統計量與 X-SHiELD 的偏差在 3% 以內,可復現百萬分之一量級的罕見事件,並生成帶颱風眼與雨帶的颶風。
Apple 宣布隨 iOS 27.3 在中國上線 Apple Intelligence,11 月 4 日先推 beta,正式版計劃 12 月發布。此次並不包含新版 Siri AI,首批上線的是較早一批功能,包括通知摘要、即時翻譯、改寫與校對、視覺智慧,以及照片中消除物體。Apple 還表示與阿里巴巴合作,為後者相關服務加入支援。
Ai2 開源了 AstaBrief 8B,一個把研究問題與檢索文獻片段轉成帶引用報告的模型,基於 Qwen3-8B 訓練,已作為 Asta 的 Fast 模式上線。官方稱 Fast 模式平均 51.1 秒生成一份報告,比 Claude 驅動的 Thinking 模式 178.5 秒快約 3.5 倍。模型權重、訓練資料與範例工作流一併開放,機構可在自有基礎設施上本地生成報告。
Ai2 發布 Old Ideas, Novel Problems 研究與配套基準,結論是用 LLM 當新穎性評審並不可靠:只改 prompt 裡幾處措辭,模型分辨兩個想法哪個更新的準確率就變動超過 50 個百分點。測試涵蓋 GPT-5.1、GPT-5.2、GPT-5.4 與 Claude Sonnet 4.5、Opus 4.5/4.6,檢索與額外推理都不能穩定改善判斷,兩個專門建置的新穎性評估系統還不如直接用 prompt 呼叫的 Claude Opus 4.6 基線。
蘋果計劃今年 12 月隨 iOS 27.3 在中國大陸首次上線 Apple Intelligence,首批為 Genmoji、通知摘要、寫作工具和照片 Clean Up 等 2024 年就已推出的功能,新版 Siri AI 不在首發名單,古爾曼稱蘋果高管對其近期獲批並不樂觀。國行版由阿里提供語言與影像模型(通義千問、通義萬相),百度參與搜尋與 Siri 相關功能,需重新處理內容過濾與部署。
智源 AREX 團隊發布以 Qwen3.8-27B 為基座的開源模型 AREX-2,在 MLE-bench Lite 取得 81.8、Frontier-CS 取得 70.7,超過表中所有對比模型,包括同為 72.7 的 GPT-5.6 Sol 與 Kimi-K3。它用機器學習與演算法程式設計場景的長程反思資料訓練,並把這種能力遷移到深度研究,BrowseComp 達 84.0、HLE 達 52.6,為 40B 以下模型最高。團隊稱這為遞迴自我改進(RSI)提供了可訓練、可驗證的路徑,論文、模型權重與程式碼均已公開。
愛爾蘭一所公立繼續教育學院的教師發帖,稱已獲得資金建成一個小型 AI 實驗室,硬體配置尚可,目標是讓學生學到使用 ChatGPT 之外的實用技能,因此向社群徵集教學方向建議。帖子未透露具體硬體型號、課程安排或學生人數。
Ai2 於 2026 年 10 月 2 日開源 AstaBrief 8B,一個把研究問題與檢索文獻片段轉成帶引用報告的模型,基於 Qwen3-8B 訓練,採用 SFT 加 DPO 而非強化學習。它已作為 Asta 的 Fast 模式上線,與 Claude 驅動的 Thinking 模式並列,整條流水線平均每份報告 51.1 秒,比 Thinking 模式的 178.5 秒快約 3.5 倍。
Ai2 發布 FairStress 基準;除模型最終選擇外,它還測量模型在說服性論點下改變決定的難易程度是否因涉及群體而異。該基準包含 300 個雙候選人場景,覆蓋 29 個領域;組合身份呈現方式與對抗性字首後擴充套件為逾 1300 萬個測試用例,並另發布 5 萬條 FairStress-Core 子集,整合進 Olmo-eval。測試覆蓋 Olmo、Llama、Qwen、Gemma、Claude 與 GPT 系列,結果顯示同一論點會因受益群體不同而對模型決策產生不同影響。
Kimi 開源最新模型 K2.6,主打編碼、長程執行與 agent swarm,已上線 Kimi.com、App、API 和 Kimi Code。官方稱其在 Mac 上本地部署 Qwen3.5-0.8B 並用 Zig 實現推理最佳化,經 4000+ 次工具呼叫、12 小時、14 輪迭代,吞吐從約 15 提升到約 193 tokens/s,比 LM Studio 快約 20%;另以 13 小時重構 8 年曆史的 exchange-core,中等吞吐提升 185%。
8 月低調上線的 AI agent 產品 Instinct 靠簡訊式互動走紅,能代訂 DMV 預約、傳送跟進郵件,如今正面臨 Muse 與 Dots 的夾擊。Instinct 採用僅限邀請、不做營銷、幾乎不設官網的推廣方式,仍迅速成為 AI 圈最受關注的產品之一。隨後兩家實力強得多的公司先後推出功能大致相同的 Muse 和 Dots,這家初創公司能否延續熱度被打上問號。
xAI 於 2026 年 10 月 20 日在官網新聞頁發布了一篇題為 incident-sweep 的公告。該帖僅給出全文連結 x.ai/news/incident-sweep,未在正文中說明事件性質、影響範圍或處理進展。具體內容需要開啟原文檢視。
蘋果董事會執行主席蒂姆·庫克 10 月 15 日在上海接受採訪時確認,蘋果智慧接入阿里千問大模型已獲批准,將於 10 月底在中國發布測試版本。首批上線的是即時翻譯、書寫工具、照片清除工具等核心蘋果智慧功能,Siri AI 這次不包括在內。庫克表示,很高興首批核心功能可以逐步上線。
蘋果 Apple Intelligence 計劃於今年 12 月通過 iOS 27.3 在中國大陸正式上線,覆蓋 iPhone、iPad 和 Mac,首批是兩年前已在美國發布的基礎 AI 功能,不包含今年發布的全新 Siri AI 助手。該服務已於 7 月 8 日通過生成式 AI 備案,9 月 29 日取得上線許可。據彭博社報導,百度負責搜尋與 Siri 相關功能,iOS 27 Beta 2 韌體中已出現 Baidu Visual Search 模組;
llama.cpp 發布 b11969 建置,通過預計算中點加速 IQ4 量化檔案的建立(#31201),原文未給出具體的提速幅度。同版本更新了 macOS(Apple Silicon、Intel)、iOS XCFramework、Linux(含 CUDA 12、CUDA 13、ROCm 10.0、Vulkan、SYCL、OpenVINO)、Android、Windows 與 openEuler 的預編譯包;
Instagram 負責人 Adam Mosseri 在 Colin and Samir 播客中表示,圍繞 AI 的焦慮、沮喪與憤怒不僅不會緩解,還會繼續加劇,創意行業尤其明顯,且不止年輕人與創作者有這種情緒。他認為這些憤怒有的成立、有的並不成立,但整體負面情緒會進一步擴散。該期播客主要談 Instagram 上線寬屏與長影片功能。
Intel 公布面向 agentic AI 的資料中心推理 GPU D270,單卡最高 480GB LPDDR5X 記憶體,350W 風冷,不依賴 HBM。晶片面積從圖形與光追管線轉向 32 個 Xe3P 核心和 256 個 XMX 矩陣引擎,用於加速長上下文、多輪 agent 工作流的 prefill 與高併發服務。
EinsiaAI 旗下 Navers Lab 發布 Quant Arena,讓 9 個大模型在 3042 只 A 股的真實資料上自行編寫策略、回測和迭代;結果 5 個模型虧本、無一跑贏市場基準。研究期使用 2022—2023 年行情,每個模型最多進行 5 次候選評估;策略凍結後僅在 2024 年封存資料上評估一次。收益最高的 GPT-6 Astra 年化收益率 10.7%、最大回撤 -6.8%,仍低於 17.1% 的市場基準;
Kimi K2.5 發布,官方稱其為迄今最強開源模型,原生多模態,在 K2 基礎上用約 15T 視覺與文字混合 token 繼續預訓練。其 Agent Swarm 可自行組織最多 100 個子智慧體、執行最多 1500 次工具呼叫,相比單智慧體執行時間最多縮短 4.5 倍。模型已上線 Kimi.com、App、API 和 Kimi Code;
可直接發簡訊使用的 AI 助手正批次出現,其中 Instinct 在 9 月完成 10 億美元融資、估值達 100 億美元,併為助手提供專屬信箱。這些 agent 能記住上下文、連線日曆和信箱並代為執行任務;Ask Proxy 個人版 1 美元/天、企業版 15–23 美元/人/月,Caddy 走 iMessage/RCS,Comma 開源免費,Fambot 測試期免費、計劃收約 Netflix 訂閱費,Folk Pro 8.33 美元/月。