阿里 Qwen 發布基準測試套件
阿里 Qwen 團隊發布了一套基準測試套件,用於評估模型能力。官方帳號僅公布套件名稱,未披露包含的測試專案、覆蓋模型範圍與具體分數,也未說明發布時間與獲取方式。
找到 16 筆
阿里 Qwen 團隊發布了一套基準測試套件,用於評估模型能力。官方帳號僅公布套件名稱,未披露包含的測試專案、覆蓋模型範圍與具體分數,也未說明發布時間與獲取方式。
Parsimony 是一個開源基準,用來衡量 AI 模型在改程式碼時到底新增了多少程式碼。它複用 DeepSWE、SWE-bench Verified 與 SWE-bench Live 已公開的補丁,統計語句、呼叫、命名、字面量等「編碼單元」而非程式碼行數,並減去被刪除的程式碼,只算淨增量。GPT-6 與 Claude 5.5 尚無公開補丁,作者在自己的訂閱上跑了 3–10 個任務,結果以淺色圓圈顯示、不參與排名。作者也歡迎提交新模型的公開補丁匯出。
Mistral AI 官方帳號宣布,Mistral Large 4 在 Harvey 的 Legal Agent Benchmark(LAB)中位列開源模型第一。該推文以「金球獎·法律組」的說法公布這一排名,LAB 是面向法律場景智慧體能力的評測基準。原文未給出具體分數、參評模型數量與評測細節。
TechCrunch Disrupt 2026 第二天在舊金山 Moscone West 舉行,議程集中在 AI:Nvidia、Waabi、Flock Safety、Ricursive Intelligence 以及 Benchmark 合夥人登臺,話題覆蓋機器人、AI 硬體、公共安全與風險投資。
Karpathy 在 X 上回應 Simon Willison 的「騎腳踏車的鵜鶘」測試,並公開了一個可在瀏覽器中直接遊玩、可 fork 的指環王主題小遊戲,原始碼已上傳至 karpathy.ai/lotr-movie。他同時調侃稱「GTA Hobbiton」會比 GTA VI 更早發布。
Google 等提出 RRSI,用正則化約束 Agent Harness 的遞迴自我改進(RSI):不鎖死自我修改能力,而是限制每輪同時修改的機制數量、保留進化歷史,並在篩選階段剔除 benchmark-specific 改動和落在噪聲範圍內的漲分。
TechCrunch Disrupt 2026 將於 10 月 13 至 15 日在舊金山 Moscone West 舉行,官方公布 Disrupt Stage 全部議程:Cerebras CEO Andrew Feldman 將討論 AI 能否繼續擴充套件,Amazon 的 Panos Panay 談智慧手機之後並帶新硬體登場,Benchmark 五位合夥人罕見同臺,Replit CEO Amjad Masad 談 AI 讓軟體開發平民化。
微軟聯合 Hugging Face 推出 ThinkingBox 基準,通過 Hugging Face 提供,不看 agent 的回覆文字和工具呼叫,只檢查它留在後端資料庫裡的最終狀態與副作用,每個任務重複跑 20 次。在 507 個有狀態業務流程、12 個模型、121,680 次有效試驗中,79,853 次未通過可執行檢查,其中 67.24% 仍乾淨收尾且無工具報錯。
研究者把 Pokémon Showdown 雙打格式封裝成多智慧體環境,讓兩個 Qwen3.8-27B 智慧體組隊:能自由對話時對最大傷害指令碼機器人勝率 64%,完全不能交流僅 42%。由單個模型同時操控兩隻寶可夢勝率 54%,每回合各發一條訊息為 52%。自由對話每場消耗約 97.8 萬 prompt token,是無對話 25.9 萬的 3.8 倍;同一隊伍對 2B、9B 模型隊伍勝率分別為 96% 和 74%。
NeurIPS 2026 論文 SpanUQ 提出 Span-Level Uncertainty Estimation 任務,把 LLM 不確定性估計從 token 或整段回答改為按語義片段定位並打分。SpanUQ 是約 25M 引數的輕量 Probe,凍結基礎模型,利用隱狀態單次前向同時完成片段檢測與不確定性估計,避免多采樣推理。其 Span Detector 達 0.910 F1,較最強啟發式方法相對提升 39.4%;UCIR 精修額外開銷低於 15%。
浙江大學、復旦大學、螞蟻集團與南京大學團隊推出 WorldMemBench,用可控的“離開—回訪”鏡頭評測影片世界模型的記憶。基準含 260 個案例、23 個內容類別,分靜態記憶、動態記憶及影片品質、相機跟隨四個維度,測試了 HY-WorldPlay、LingBot-World 等九個模型。結果顯示靜態與動態記憶的強項分化:HY-WorldPlay 七項靜態指標全部領先,LingBot-World 動態記憶總分最高;
輝達聯合 MIT 與牛津大學提出的 Physis-Lang,把物理原因、規律和結果寫進影片文字描述,並貫穿資料篩選、模型訓練與影片生成。其 Cosmos3-Super 與 Cosmos3-Nano 在 Physics-IQ Verified 榜單以 48.2 和 43.3 分列前二,Super 較此前最高分高出 5.5 個百分點。基於 Cosmos3-Nano 的版本在論文四項物理 benchmark 上取得開源最佳,三項總分超過 Veo 3.1。
研究團隊與淘寶天貓合作推出 E-Commerce Bench,讓模型以商家身份在模擬市場中經營網店一整年。智慧體初始資金 10 萬元,可同時開多家店,在每天 600 分鐘的時間預算內完成選品、與供應商砍價、定價上架、管理庫存與現金流等決策。環境基於 6,886 個商品、60 個類目、576 家供應商和 12 種店鋪型別,需求與供應商報價由確定性核心計算,避免隨機噪聲和越獄砍價。評測從利潤、現金流、談判、防欺詐、效率、執行力和長期學習七個維度打分。
蘋果與卡內基梅隆大學提出 SSR 框架,讓多模態搜尋 Agent 不再逐 token 生成自由形式推理,而是從 6 條預定義推理選項中做選擇題。在 7 個多模態搜尋 benchmark 上,每輪推理延遲降低超過 90%,每題總推理延遲降低 28–54%,p95 推理延遲僅 0.07 秒;4B 模型平均成功率 61.37%,與同規模 SOTA 持平,2B 達 51.26%。推理選擇由模型自身打分完成,不需要額外分類頭,也可跳過 SFT warm start 直接接 RL 訓練。
數學家陶哲軒在 SAIR 演講中公開呼籲模型公司放慢數學研究節奏,稱 AI 無休止加速卻對後果一無所知,並稱之為 Proof Indigestion(證明消化不良):AI 只在生成解答與 Lean 驗證上狂飆,理解、評審、寫入教科書幾乎停滯。此前他與 25 位菲爾茲獎得主聯名發表公開信,批評把數學當 benchmark 刷分。OpenAI 隨後回應,宣布在普林斯頓高等研究院設立數學與人工智慧顧問小組,但宣告寫明該小組不就數學上的內部進展提供建議。
南大系初創公司南芥智慧(SinapisAI)發布首份技術報告,其 Mio 1.0 Lite 在九個公開 benchmark 上平均分 77.15/100 排名第一,平均每請求成本 0.06 元為全場最低,比分數最高的對手 GPT 6.1 Sol 高 6.35 分、成本低 94.0%。系統先為模型建立可量化的能力畫像,再結合任務需求與資源預算做模型選擇與協作,底層模型倉庫已收錄 484 個模型,產品平台於 10 月 8 日開啟公測。