AISpot

搜尋

找到 24 筆

llama.cpp releasesAI 評分43

llama.cpp:ggml SCALE 支援非連續檢視

llama.cpp 新建置 b11923 放寬了 ggml SCALE 運算元的輸入要求:此前 src0 必須一維連續,現在只需 dim-0 連續、允許任意行步長,與 Metal 後端一元運算元的行為一致。CPU(f32、bf16 按位元組步長定址行)、CUDA(步長感知核心,用 fastdiv 做行分解)與 Metal(新增 bf16 scale)均已適配,SYCL 仍限定連續輸入。test_scale 增加了 view 變體測試,已在 CPU、Metal、CUDA 上驗證;

llama.cpp releasesAI 評分40

llama.cpp CUDA 後端融合 Qwen4Exp 四段運算元鏈

llama.cpp 建置 b11721 在 CUDA 後端把 Qwen4Exp 的 SCALE → SIGMOID → SCALE → hc_post 鏈融合成單個 kernel,由四個 kernel 縮減為一個,程式碼移植自 Vulkan 的 HC_POST_GATE 融合(#29520)。實現上 dsv4_hc_post_f32 新增 gated 模板標誌,直接用原始權重計算 scale_out·sigmoid(scale_in·p);

Hugging Face blog● 精選AI 評分91

Reflection 開源首個模型 Beam:501B MoE、Apache 2.0

美國新實驗室 Reflection 開源首個模型 Beam:501B 引數 MoE,每 token 僅啟用 23B,支援 1M token 上下文,Apache 2.0 許可,主攻編碼與 agentic 場景。首日支援 transformers、SGLang 與 vLLM,提供 BF16、FP8、NVFP4 三種 checkpoint 及自研 Rust 推理 harness,並附 SFT 與 RL 微調配方。

X @AIatMeta● 精選AI 評分66

@AIatMeta: We trained our Muse foundational models, including Muse Wonder, at Prometheus, our gigawatt-scale s…

Meta 披露其 Muse 系列基礎模型(含 Muse Wonder)在俄亥俄州 New Albany 的千兆瓦級超算叢集 Prometheus 上完成訓練。該叢集擁有數十萬塊 GPU,預訓練 goodput 達 85% 以上、強化學習 90% 以上,Muse Wonder 訓練期間平均約 4.7 萬 GPU 小時才出現一次中斷。Meta 還附上了介紹 Prometheus 技術細節的連結。

X @AnthropicAI● 精選AI 評分79

@AnthropicAI: New on our Frontier Red Team blog: using Claude to formally verify software at large scale.

Anthropic 前沿紅隊部落格發布研究:與 Theorem Labs 合作,用 Claude 在數週內為一百多個真實開源庫證明安全屬性。形式化驗證過去只能用於小規模程式碼庫或需大量專家時間,AI 模型正讓大規模驗證變得可行。完整研究已在其部落格發布。

Hacker News front pageAI 評分71

Inception 發布 Mercury 3:擴散模型速度超 1000 token/秒

Inception 發布擴散架構大模型 Mercury 3,稱在多項基準上超過 GPT-6 Luna 與 Claude Haiku 5.5,NVIDIA GPU 上速度達 1068 token/秒,為後兩者的 4–8 倍。其引數量比 Mercury 1 擴大 40 倍以上,上下文從 Mercury 2.5 的 260K 提升到 1M。定價為每百萬輸入 token 0.20 美元、輸出 0.70 美元,發布期五折,快取輸入再降 90%。

NVIDIA blog● 精選AI 評分65

NVIDIA 開源 Vera Rubin 機架設計,MGX 1.2 支援單機架 250kW

NVIDIA 在 OCP 全球峰會上把 Vera Rubin 機架與計算托盤設計通過 MGX 開放架構貢獻給 OCP,併發布 MGX 1.2 規格。MGX 1.2 新增機架級盲插液冷、5000A 液冷母排與原生 19 英寸裝置支援,單機架部署最高 250kW,同時加入面向 agentic AI 的 Vera CPU 機架設計。

Kimi blog● 精選AI 評分81

Kimi 推出 Agent Swarm,可排程 100 個子智慧體並行

Kimi 發布 Agent Swarm,基於 Kimi K2.5 可最多部署 100 個並行子智慧體、執行超 1500 次工具呼叫,比順序執行快 4.5 倍。它面向可並行任務,如大規模檢索、批次下載、多檔案處理、多角度分析與長文寫作,官方給出從 40 篇 PDF 生成 100 頁文獻綜述、整理 200 多篇 Paul Graham 文章等範例。

NVIDIA blog● 精選AI 評分80

NVIDIA DGX Spark 推出 64GB 版,10 月 23 日 4999 美元起

NVIDIA 宣布 DGX Spark 新增 64GB 統一記憶體版本,10 月 23 日由 Acer、ASUS、Dell、Gigabyte、HP、MSI 發售,起售價 4999 美元。該機型保留 GB10 Grace Blackwell 晶片、DGX OS 與完整 AI 軟體棧,支援最高 1000 億引數模型本地執行;兩臺可通過 ConnectX-7 直連組成 128GB 叢集,支援 2000 億引數模型,官方 Qwen 3.8 27B 測試效能提升至 1.7 倍。

X @MistralAIAI 評分45

Mistral 與 CERN 合作探索大型物理模型

Mistral AI 與歐洲核子研究中心(CERN)宣布合作,探索用大規模 AI 模型應對粒子物理日益增長的複雜度。雙方的目標是訓練一個單一的大型物理模型(Large Physics Model),訓練資料為數十億次模擬對撞。目前公開的只有合作意向與這一目標,模型規模、時間表與開放方式均未披露。

NVIDIA blog● 精選AI 評分65

NVIDIA 機密計算新增裸金屬部署,擴充套件至 GB300 NVL72

NVIDIA 為 Confidential Computing 新增 Confidential Bare Metal 部署選項,讓前沿模型廠商能在第三方裸金屬基礎設施上執行敏感負載,同時保留對模型和資料的控制。至此機密計算共有裸金屬、Kubernetes 容器、虛擬機器三種部署形態,並新增傳輸中資料保護、平台完整性度量與硬體級訪問限制等控制。

NVIDIA blogAI 評分59

Mistral Large 4 用 3800 塊 GB200 訓練,輝達歐洲雲合作伙伴同步擴容

輝達在歐洲的雲合作伙伴集體擴容,其中 Mistral 在自有歐洲資料中心用 3800 塊 Grace Blackwell GPU 訓練出最新前沿多模態模型 Mistral Large 4,覆蓋編碼、agentic 工作流與多模態理解,其 Vera Rubin 基礎設施計劃 2027 年交付。Nscale 用 GB300 NVL72 與 DSX MaxLPS,在同等供電預算下多部署 37% 的 GPU,聚合推理吞吐提升近 50%。

Hacker News front pageAI 評分35

Stripe 設計負責人談用 AI 避免殭屍 UI

Stripe 設計負責人 Katie Dill 在 2026 年 9 月 10 日舊金山 Lenny and Friends Summit 的演講中提出,AI 讓建置產品更容易,但產品容易淪為通用的殭屍 UI。她認為好設計仍取決於清晰的觀點、對使用者的理解和對細節的用心,並分享瞭如何把標準寫進 AI 工具、在初稿之外繼續編輯、用 AI 做出更原創的產品。該影片由 Lenny's Podcast 於 9 月 25 日發布,時長 21 分 47 秒。

Hacker News front page● 精選AI 評分83

Claude 為 123 個開源庫生成彙編級形式化證明

Claude 在 123 個真實開源庫的 RISC-V 彙編層面生成了形式化安全證明,作者稱這是首次用 AI 把形式化驗證大規模應用到生產軟體。證明覆蓋所有小於 64 MB 的輸入:在單執行緒靜態二進位制、固定記憶體預算的 RISC-V 執行環境下,程式總能正常退出,不觸發記憶體安全錯誤或斷言失敗。寫證明的過程中 Claude 還發現了數萬億次測試都沒檢出的 bug;

Apple Machine Learning ResearchAI 評分56

GHARP 用少量影像即時生成 3D 高斯頭部動畫

研究者提出 GHARP,基於大規模重建先驗,能從被攝者的少量輸入影像和驅動表情訊號即時生成 3D 高斯頭部動畫。該方法把任務拆成兩個階段:身份階段離線建置主體的幾何與外觀表示,動畫階段在執行時預測與表情相關的殘差。作者稱這種分離在保真度、畫質與執行時間之間取得更有利的權衡,離線階段可以更重,執行時動畫仍保持即時。

Hacker News front pageAI 評分63

GitHub 把寫入鎖的粒度從倉庫改為單個引用,寫入吞吐提升 3–4 倍

GitHub 把 Git 寫入的仲裁序列化範圍從整個倉庫收窄到單個引用(reference),內部真實流量測試中,不同引用的寫入吞吐提升 3–4 倍,延遲更低。跨區域的副本使每次網路往返約需 25ms,而一次寫入需要多次往返,再加上倉庫級鎖,最慢的健康副本就決定了每次寫入的延遲和吞吐上限。改動後,只有寫同一引用的請求會相互等待,GitHub 藉此把最後 0.00001% 的高流量倉庫遷入 Azure;

Google Developers blog● 精選AI 評分78

MaxText 在 TPU 上完整復現 Olmo 3 7B 預訓練

MaxText 團隊用 JAX/XLA 在 Google Cloud TPU 上從零復現了 Ai2 的 Olmo 3 7B 語言模型,預訓練與中期訓練各階段在所有留出評測上均與原始 PyTorch-on-GPU 參考結果精確一致。實現最高達到 57.4% 的模型浮點運算利用率(MFU),並在不修改訓練配方的情況下經受住執行中叢集擴縮容與跨代 TPU 切換。該案例還暴露出一個資料載入器記憶化 bug,它人為壓低了訓練損失,靠完整留出驗證才被發現。

Apple Machine Learning Research● 精選AI 評分65

工具發現新範式 Plan-then-Retrieve:先生成抽象工具樁再檢索

論文提出並研究 Plan-then-Retrieve(PtR)工具發現範式:讓 LLM 先生成抽象工具樁(Abstract Tool Stubs),即描述所需能力的假設函式簽名,再拿這些簽名到工具登錄檔中做檢索查詢。作為對照,主流的 Retrieve-then-Plan(RtP)直接用使用者查詢做嵌入,通過近似最近鄰搜尋找相似工具。問題背景是工具增強的 LLM agent 需從大型登錄檔裡發現可用 API,而有限的上下文視窗不允許把所有工具定義塞進單個 prompt。

Kimi blog● 精選AI 評分81

Kimi 推出 Agent Swarm:K2.5 可並行排程 100 個子智慧體

Kimi 發布 Agent Swarm 多智慧體能力,Kimi K2.5 最多可並行排程 100 個子智慧體、執行超過 1500 次工具呼叫,官方稱結果比序列執行快 4.5 倍。使用者只需給出目標,模型會自行設計組織結構、招募並分派子智慧體,無需人工編排,官方稱這突破了單智慧體在上下文視窗與長任務上的結構性上限。典型場景包括批次蒐集 100 個細分領域的資訊、把 40 篇 PDF 彙總成 100 頁帶完整引用的文獻綜述,以及由多個不同立場的專家智慧體同時評審同一份產品方案。

Claude Platform release notes● 精選AI 評分75

Claude Opus 5.5 快速模式不再需要申請,已正式上線

Claude Opus 5.5 的 fast mode 已結束 research preview,無需申請即可使用;請求不再需要 fast-mode-2026-02-01 beta header,繼續傳送該 header 仍然相容。該模式在 Start、Build、Scale 三檔用量層級都有預設速率限制,並已在 Azure 託管的 Microsoft Foundry 提供。

OpenAI News● 精選AI 評分75

OpenAI 封禁俄伊兩個 AI 假媒體影響力行動,俄方達 Category 5

OpenAI 宣布封禁來自俄羅斯和伊朗的各一個隱蔽影響力行動,它們把其模型與傳統手段結合,經營「假媒體」實體來洗白地緣政治資訊。伊朗方面運營 7 個「記者」人設,向全球中小媒體投遞長文;俄方在拉美借不知情者開設「智庫」,並偽造洩露檔案與音訊指令碼,兩者還大量用 AI 起草內部報告以誇大成效。按 IO Breakout Scale 評估,俄方行動達到第 5 級,是 OpenAI 開始披露以來搗毀的首個第 5 級行動,伊朗行動為第 4 級。