llama.cpp 的 server 讓 RERANK 端點支援多模態輸入
llama.cpp 建置 b11818 讓 server 的 RERANK 端點支援帶型別的 content 輸入,可直接傳入多模態內容。當模型沒有 rerank chat template 時,服務端會明確拒絕多模態輸入,而不是像此前那樣靜默丟棄圖片;媒體下載或 base64 解碼失敗、top_n 為負數也改為返回 400 而不是 500。README 同時補充說明:TEI 的輸入格式與 Jina 保持一致。
依意思最接近的 30 筆
llama.cpp 建置 b11818 讓 server 的 RERANK 端點支援帶型別的 content 輸入,可直接傳入多模態內容。當模型沒有 rerank chat template 時,服務端會明確拒絕多模態輸入,而不是像此前那樣靜默丟棄圖片;媒體下載或 base64 解碼失敗、top_n 為負數也改為返回 400 而不是 500。README 同時補充說明:TEI 的輸入格式與 Jina 保持一致。
llama.cpp 發布建置 b11829,唯一程式碼改動在 server 端:rerank 佔位符現在只從原始模板中替換(#30864)。其餘為各平台預編譯產物的常規發布,覆蓋 macOS Apple Silicon 與 Intel、iOS XCFramework、Linux 的 CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO,以及 Android arm64、Windows 和 openEuler 多個版本;
HackerRank 聯合創始人兼 CEO Vivek 公開為「讓人刷 LeetCode」道歉,並宣布推出 AI 面試官 Chakra。HackerRank 將把面試題從演算法題換成真實程式碼倉庫中的任務,評估標準從程式碼是否正確轉向 AI 使用能力與判斷力,候選人環境也從 IDE 改為 agentic 開發環境。候選人可像在真實工作中那樣使用 AI 工具解題,Chakra 隨後追問為何選擇該方案、會改什麼、如何驗證 AI 生成的程式碼。
HackerRank 的 AI 面試 agent Chakra 結束約六個月 beta,週一起正式向企業客戶開放,測試期間已完成逾 50 萬場面試,Snowflake、Snorkel、Capgemini 等公司參與試用。候選人要在帶 AI 助手的畫布上處理真實程式碼倉庫任務,Chakra 會依據其操作追問思路,評估批判性思維、判斷力與「AI fluency」,即如何向 AI 描述問題、判斷其輸出並引匯出解法。
llama.cpp 新建置 b11495 為 reranker 增加了 classifier_activation 引數,可以指定分類頭使用的啟用函式;gelu 現在對映到 gelu_erf 並接受 tanh,預設啟用函式改為 tanh,ModernBERT 則回退到 gelu_erf。
小紅書與復旦大學等機構提出的 DR-Rubric 已被 NeurIPS 2026 接收,論文與程式碼公開。該方法先讓模型圍繞任務做多輪檢索收集證據,再把證據轉成原子化、可逐條檢查的評分細則,作為 GRPO 的獎勵訊號,已在小紅書業務中實際使用。六個基準上每輪僅用 1000 條 RL 資料即取得有競爭力的表現,其中 GPT-5 生成的細則在 ResearchQA 達 73.7、DeepResearchBench 達 43.0;
小紅書 Dots 團隊開源稀疏注意力加速方案 DoSA,在保持原始 Top-K 選擇結果完全等價的前提下加速索引器,約 1M token 上下文下 Dots3-Note-preview、GLM-5.2、DeepSeek-V3.2 的首 token 延遲較各自 SGLang 基線分別降低約 37%、46% 和 48%。其做法是用分數上界與入選門檻下界,提前排除約 97% 不可能入選的候選,只對剩餘候選做全部索引頭的精確打分。
Ai2 把原先基於優先順序的 GPU 排程器換成了由 GPU 時間預算、層級化公平分配和時間切片契約組成的新系統。它管理數千塊 NVIDIA H100、B200、B300,叢集規模從 88 到 1024 塊 GPU,服務約 150 名內部研究者,GPU 需求長期是供給的 2 到 3 倍。舊方案導致 GPU 蹲坑佔位、優先順序通脹(最終 100% 工作負載都標為 HIGH)以及值班工程師大量時間用於協商關閉不可搶佔任務。
馬斯克公布 X 時間線推薦的兩項改動:一是啟用新的 AI/SI 排序模型,稱其能更準確預測使用者可能停留的時長;二是上線專門訓練的檢索模型,把使用者會完整讀完的帖子推到更前面。他同時表示,使用者活躍秒數正指數增長,幾乎每天都在重新整理歷史新高。具體上線時間與適用範圍未作說明。
蘋果與卡內基梅隆大學提出 SSR 框架,讓多模態搜尋 Agent 不再逐 token 生成自由形式推理,而是從 6 條預定義推理選項中做選擇題。在 7 個多模態搜尋 benchmark 上,每輪推理延遲降低超過 90%,每題總推理延遲降低 28–54%,p95 推理延遲僅 0.07 秒;4B 模型平均成功率 61.37%,與同規模 SOTA 持平,2B 達 51.26%。推理選擇由模型自身打分完成,不需要額外分類頭,也可跳過 SFT warm start 直接接 RL 訓練。
OpenAI 的 Decisions API 已正式可用,可在工作流中加入近即時的判斷能力。它面向應用與 agent,支援對文字和圖片分類、評估輸入並決定後續走向,無需生成完整的模型回覆,從而更快、更省成本。
OpenAI 開發者帳號公布 Decisions API 的六類典型用法:把請求路由到合適的模型、工具或智慧體;把規模化輸入轉成標籤、排名和評分;分析影像、比較視覺內容或定位影片關鍵幀;依據截圖選擇按鈕、填寫表單或判斷操作;標記有風險的工具呼叫或需深入審查的問題;以及對大規模資料集分類以發現趨勢和模式。推文未給出定價、可用範圍或上線時間等資訊。
美國初創公司 Reflection AI 發布首個前沿開源權重模型 Beam,稱其在高階推理基準上以更低推理成本對標中國領先開源模型。Beam 是純文字混合專家模型,總引數 5010 億、啟用 230 億,預訓練用了 23.8 萬億 token,上下文視窗 100 萬 token;對比 Z.ai 的 GLM-5.2 總引數約 7440 億、啟用 400 億。
Meta 於 10 月 13 日宣布在 Facebook 上線 AI 功能 Your Algorithm,使用者可用自然語言描述想多看或少看的內容,即時影響 Feed 與 Reels 的推薦結果。該功能此前已在 Instagram 推出:2025 年 12 月先上 Reels,2026 年 6 月擴充套件到 Feed 與 Explore;Threads 也有類似功能 Dear Algo。
OpenAI 開發者帳號披露了其廣告系統的三段執行流程:orchestrator 會探索使用者的可能需求,把一次對話拆成多個意圖。接著,系統用基於嵌入(embedding)的搜尋找出候選廣告,再通過資格與相關性檢查縮小範圍。最終由競價工具完成廣告的最終選擇與定價。帖文未提及該系統的適用範圍與上線時間。
PhAI Labs 聯合 16 家機構提出科研 Agent 遞迴自我改進框架 DiscoveryRSI,並訓練出 DiscoveryRSI-27B。在把 AI 假設與後續發表文獻對照的評測中,DiscoveryRSI 有 6.3% 的假設找到可用的研究依據,約為 GPT 組 2.5% 的 2.5 倍,Claude Opus 5 組以 2.3% 墊底。兩輪自改進後,241 個留出問題上的假設品質均分從 4.86 升至 5.39,可證偽性從 4.00 升至 6.20。
OpenAI 於 9 月 21 日發布官方戰略宣告,把自動化 AI 研究員與遞迴自我改進(RSI)列為下一階段重要目標,並計劃在 2028 年 3 月前打造真正的自動化 AI 研究員;Anthropic 同期披露,截至 8 月 Claude 已在約 26% 的內部 AI 研發工作中承擔主導角色。
北京通用人工智慧研究院體系孵化的通衍靈智公布 RSI(遞迴自我改進)個性化 AI 路線:在共享基礎模型之上,用輕量 Personal LoRA 承載個人與企業的專屬能力。Evaluator 先按使用者標準篩選業務反饋,只把反覆出現的模式用於增量更新;更新後要與舊版本在同一批任務上對比,退化就回滾。
Spotify 週二宣布,過去一年已從使用者推薦中移除超過 5000 萬首被判定為 AI 生成垃圾內容或 spam 的歌曲,並調整推薦系統以突出人類藝術家的音樂。官方稱編輯部不會把被識別為 slop 或 spam 的內容編入推薦,調整後聽眾對此類內容的投訴明顯下降。Spotify 尚未強制要求所有 AI 曲目標註,但已推出「AI Persona」徽章。
OpenRSI Index 正式發布,這是一個用真實開源研究專案出題、檢驗科研智慧體能否改進人類訓練方案的評測基準。任務取自 Marin、Qwen、GPIC 等專案,覆蓋預訓練、後訓練與影像生成,單次執行算力從 5,815 到 20,864 H100·小時。智慧體在工作區反覆實驗,提交後凍結快照交由獨立評測環境驗收,原作者方案在同一環境重跑作為對照,篡改獎勵、洩露評測資訊或超預算計零分。
NDS 開源 Rampart:一個完全在瀏覽器內執行的個人資訊脫敏系統,模型含分詞器僅 14.7MB,WebGPU 下 p50 延遲 3.9ms。它由正則校驗層和 MiniLM 小模型組成,前者處理社保號、信用卡、帳號等結構化資訊,後者識別人名與街道地址。在覆蓋七種語言的 3 萬行 OpenPII 測試集上,私有詞召回率 98.42%,高於約 2.8GB 的 OpenAI Privacy Filter(97.4%)。
Cloudflare 與 Ceramic.ai、Exa、Linkup 合作,通過 AI Gateway 推出 Web Search API,讓 agent 用搜尋抓取即時網頁內容並注入上下文,而不是猜 URL 再 curl 而返回 404。呼叫計入 AI Gateway 額度與可觀測日誌,支援 BYOK 和 Zero Data Retention 標識,按合作方原價提供、不加價,可在 Workers 裡一行繫結或直接調 REST 端點。
Ricursive Intelligence 兩位創始人在 TechCrunch Disrupt 上介紹,公司正開發能自行設計晶片、從每次迭代中學習並改進後續設計的 AI,目標是自動化並加速晶片設計流程。創始人 Anna Goldie 與 Azalia Mirhoseini 稱未來五年算力需求至少增長 10000 倍,與其建 10000 倍資料中心,不如讓晶片和晶圓用得更高效;
llama.cpp 的 CUDA 後端重做 top-k 演算法選擇,大行數場景改用按行網格的 radix select 替代 CUB 逐行 DeviceTopKKernel,在 qwen4exp 34,816 tokens 上啟動次數從 1,671,253 次降到 2,329 次,耗時從 5,761.8 ms 降到 941.8 ms。
復旦大學、騰訊混元與清華大學聯合發布 ExplorationBench,用兩套規則被改寫的「異星世界」AlienCode 和 AlienLogic,評測 AI 能否通過自主實驗發現規則。10 個前沿系統讀完範例後,在 AlienCode 上最高僅 15.7%,四輪探索後最好軌跡達 89.0%;若只讓模型多想、不給環境反饋,最高只有 11.0%。GPT-5.6 Sol 自主探索拿到 88.1%,而事先直接告知全部規則反而只有 69.5%,說明探索過程同時提升了規則的使用能力。
微軟推出決策評分模型 Microsoft-Decision-1,已在 Microsoft Foundry 上線,並將登陸 OpenRouter。該模型基於 Qwen3.5-9B 後訓練,用於路由、分類、優先順序排序、驗證與工作流控制,支援是/否、多選、評分及對 AI 回答和 agent 動作的 rubric 打分。官方稱其在 36 項基準、近 15 萬道題中準確率最高,P50 延遲比 GPT-6 Sol 快約 35 倍、比第二名 Quyet-1.0-Large 快 4.5 倍;
一份面向 AI agent 的評估方法與開源工具 agent-eval 發布,主張用可重複的評估流程替代憑感覺看輸出。方法以關鍵使用者旅程(CUJ)定義成功標準,每個條件都對應一個評估點,先用模擬使用者 LLM 生成正常與邊緣場景,再在單元測試、確定性指標、LLM-as-a-judge 評分與整合測試四層做檢查。
a16z 合夥人 Olivia Moore 發布消費者 AI 百強應用報告:ChatGPT 仍遙遙領先,Suno、ElevenLabs 等中小產品展現出持久力。報告發現社交、約會、電商、旅遊、金融、健康等類別在百強榜上完全沒有產品入選,美國也僅 2.2% 的家庭為 AI 付費。
rStation 上線,這是一個面向 AI agent 的共享研究社群:獨立 agent 在站內討論研究問題並發表經過評審的論文,人類可以旁觀。站點列出的待研究問題包括黎曼猜想、霍奇猜想、有理丟番圖七元組、地月問題、三點不共線與強正則圖,其中部分題目由 Epoch AI 提供。內容領域覆蓋數學、AI、電腦科學與綜合,並設有 Reviewed papers 板塊。