AISpot

搜尋

找到 16 筆

X @Alibaba_QwenAI 評分5

阿里 Qwen 發布基準測試套件

阿里 Qwen 團隊發布了一套基準測試套件,用於評估模型能力。官方帳號僅公布套件名稱,未披露包含的測試專案、覆蓋模型範圍與具體分數,也未說明發布時間與獲取方式。

Hacker News front pageAI 評分50

開源基準 Parsimony 按語法單元統計 AI 新增程式碼量

Parsimony 是一個開源基準,用來衡量 AI 模型在改程式碼時到底新增了多少程式碼。它複用 DeepSWE、SWE-bench Verified 與 SWE-bench Live 已公開的補丁,統計語句、呼叫、命名、字面量等「編碼單元」而非程式碼行數,並減去被刪除的程式碼,只算淨增量。GPT-6 與 Claude 5.5 尚無公開補丁,作者在自己的訂閱上跑了 3–10 個任務,結果以淺色圓圈顯示、不參與排名。作者也歡迎提交新模型的公開補丁匯出。

X @MistralAIAI 評分40

Mistral Large 4 在 Harvey 法律智慧體基準居開源第一

Mistral AI 官方帳號宣布,Mistral Large 4 在 Harvey 的 Legal Agent Benchmark(LAB)中位列開源模型第一。該推文以「金球獎·法律組」的說法公布這一排名,LAB 是面向法律場景智慧體能力的評測基準。原文未給出具體分數、參評模型數量與評測細節。

TechCrunch AIAI 評分19

TechCrunch Disrupt 2026 議程公布:Cerebras CEO 談 AI 能否繼續擴充套件,Benchm…

TechCrunch Disrupt 2026 將於 10 月 13 至 15 日在舊金山 Moscone West 舉行,官方公布 Disrupt Stage 全部議程:Cerebras CEO Andrew Feldman 將討論 AI 能否繼續擴充套件,Amazon 的 Panos Panay 談智慧手機之後並帶新硬體登場,Benchmark 五位合夥人罕見同臺,Replit CEO Amjad Masad 談 AI 讓軟體開發平民化。

Hugging Face blog● 精選AI 評分75

微軟與 Hugging Face 發布 ThinkingBox,按資料庫狀態給 AI agent 打分

微軟聯合 Hugging Face 推出 ThinkingBox 基準,通過 Hugging Face 提供,不看 agent 的回覆文字和工具呼叫,只檢查它留在後端資料庫裡的最終狀態與副作用,每個任務重複跑 20 次。在 507 個有狀態業務流程、12 個模型、121,680 次有效試驗中,79,853 次未通過可執行檢查,其中 67.24% 仍乾淨收尾且無工具報錯。

Hacker News front pageAI 評分67

寶可夢雙打環境測試多智慧體協作:自由對話勝率 64%

研究者把 Pokémon Showdown 雙打格式封裝成多智慧體環境,讓兩個 Qwen3.8-27B 智慧體組隊:能自由對話時對最大傷害指令碼機器人勝率 64%,完全不能交流僅 42%。由單個模型同時操控兩隻寶可夢勝率 54%,每回合各發一條訊息為 52%。自由對話每場消耗約 97.8 萬 prompt token,是無對話 25.9 萬的 3.8 倍;同一隊伍對 2B、9B 模型隊伍勝率分別為 96% 和 74%。

機器之心● 精選AI 評分71

SpanUQ 提出按語義片段估計 LLM 不確定性

NeurIPS 2026 論文 SpanUQ 提出 Span-Level Uncertainty Estimation 任務,把 LLM 不確定性估計從 token 或整段回答改為按語義片段定位並打分。SpanUQ 是約 25M 引數的輕量 Probe,凍結基礎模型,利用隱狀態單次前向同時完成片段檢測與不確定性估計,避免多采樣推理。其 Span Detector 達 0.910 F1,較最強啟發式方法相對提升 39.4%;UCIR 精修額外開銷低於 15%。

機器之心● 精選AI 評分66

浙大等發布 WorldMemBench,評測影片世界模型記憶

浙江大學、復旦大學、螞蟻集團與南京大學團隊推出 WorldMemBench,用可控的“離開—回訪”鏡頭評測影片世界模型的記憶。基準含 260 個案例、23 個內容類別,分靜態記憶、動態記憶及影片品質、相機跟隨四個維度,測試了 HY-WorldPlay、LingBot-World 等九個模型。結果顯示靜態與動態記憶的強項分化:HY-WorldPlay 七項靜態指標全部領先,LingBot-World 動態記憶總分最高;

機器之心● 精選AI 評分78

輝達 Physis-Lang 登頂 Physics-IQ Verified,用物理語言描述提升影片生成

輝達聯合 MIT 與牛津大學提出的 Physis-Lang,把物理原因、規律和結果寫進影片文字描述,並貫穿資料篩選、模型訓練與影片生成。其 Cosmos3-Super 與 Cosmos3-Nano 在 Physics-IQ Verified 榜單以 48.2 和 43.3 分列前二,Super 較此前最高分高出 5.5 個百分點。基於 Cosmos3-Nano 的版本在論文四項物理 benchmark 上取得開源最佳,三項總分超過 Veo 3.1。

Qwen blog● 精選AI 評分77

E-Commerce Bench: Long-Horizon Operations, Multi-Dimensional Evaluation

研究團隊與淘寶天貓合作推出 E-Commerce Bench,讓模型以商家身份在模擬市場中經營網店一整年。智慧體初始資金 10 萬元,可同時開多家店,在每天 600 分鐘的時間預算內完成選品、與供應商砍價、定價上架、管理庫存與現金流等決策。環境基於 6,886 個商品、60 個類目、576 家供應商和 12 種店鋪型別,需求與供應商報價由確定性核心計算,避免隨機噪聲和越獄砍價。評測從利潤、現金流、談判、防欺詐、效率、執行力和長期學習七個維度打分。

機器之心● 精選AI 評分79

蘋果與 CMU 提出 SSR:Agent 推理改為做選擇題,每輪延遲降超 90%

蘋果與卡內基梅隆大學提出 SSR 框架,讓多模態搜尋 Agent 不再逐 token 生成自由形式推理,而是從 6 條預定義推理選項中做選擇題。在 7 個多模態搜尋 benchmark 上,每輪推理延遲降低超過 90%,每題總推理延遲降低 28–54%,p95 推理延遲僅 0.07 秒;4B 模型平均成功率 61.37%,與同規模 SOTA 持平,2B 達 51.26%。推理選擇由模型自身打分完成,不需要額外分類頭,也可跳過 SFT warm start 直接接 RL 訓練。

量子位● 精選AI 評分75

陶哲軒轉向 AI 減速派,呼籲模型公司放慢數學研究

數學家陶哲軒在 SAIR 演講中公開呼籲模型公司放慢數學研究節奏,稱 AI 無休止加速卻對後果一無所知,並稱之為 Proof Indigestion(證明消化不良):AI 只在生成解答與 Lean 驗證上狂飆,理解、評審、寫入教科書幾乎停滯。此前他與 25 位菲爾茲獎得主聯名發表公開信,批評把數學當 benchmark 刷分。OpenAI 隨後回應,宣布在普林斯頓高等研究院設立數學與人工智慧顧問小組,但宣告寫明該小組不就數學上的內部進展提供建議。

機器之心AI 評分48

南芥智慧發布技術報告:Mio 1.0 Lite 九項基準平均分第一、每請求成本最低

南大系初創公司南芥智慧(SinapisAI)發布首份技術報告,其 Mio 1.0 Lite 在九個公開 benchmark 上平均分 77.15/100 排名第一,平均每請求成本 0.06 元為全場最低,比分數最高的對手 GPT 6.1 Sol 高 6.35 分、成本低 94.0%。系統先為模型建立可量化的能力畫像,再結合任務需求與資源預算做模型選擇與協作,底層模型倉庫已收錄 484 個模型,產品平台於 10 月 8 日開啟公測。