搜尋

Hacker News front page10/6 16:23AI 評分73

AI 設計的開源加速卡 openTPU 跑通十餘款模型

一個由 AI 設計的開源 AI 加速器 openTPU 已在真實 PCIe 卡上跑通十餘款模型的真實權重，輸出與 bit-exact 模擬器逐位一致。硬體是 Xilinx Kintex-7 xc7k480t 加兩路 DDR3，LFM2.5-230M int8 解碼 59.0 tok/s、4-bit 達 85.8 tok/s；解碼受 DRAM 頻寬限制，實測跑到峰值的 82%-94%。

開源地端推論 openTPU 開源硬體 FPGA AI 加速器本地推理

TechCrunch AI● 精選10/20 18:38AI 評分80

Google 開源 TorchTPU，PyTorch 應用改配置即可跑在 TPU 上

Google 宣布開源 TorchTPU，PyTorch 應用只需改配置、無需重寫程式碼，就能執行在 Google 的 TPU 與 Google Cloud 上。據稱 85% 的 AI 應用基於 PyTorch，而它的許多特性原本專為 Nvidia GPU 設計。前一天 Amazon 也發布 TorchNeuron 支援自家 Trainium，並向 PyTorch 主專案提交程式碼，把各項特性與 Nvidia 晶片解耦。

產品與方案開發工具 TorchTPU PyTorch TPU Trainium 開源

llama.cpp releases11/1 06:23AI 評分42

llama.cpp 為 LFM3 啟用張量並行切分

llama.cpp 發布 b12027 建置，為 LFM3 模型啟用 tensor split，支援把該模型按張量切分到多張 GPU 上推理。同批建置覆蓋 macOS Apple Silicon、Windows 與 Linux 的 CUDA 12、CUDA 13、Vulkan、ROCm 10.0、OpenVINO、SYCL 等後端，並新增 Ubuntu 26.04 s390x 的 CPU 與 zDNN 版本；

地端推論開源 llama.cpp LFM3 tensor split 本地推理版本更新

llama.cpp releases10/15 12:00AI 評分45

llama.cpp Metal 後端新增 BF16 張量 flash attention 核心

llama.cpp 最新建置 b11645 為 Metal 後端的張量 API flash attention 核心加入了 BF16 變體，主要面向 Apple Silicon 上的 macOS 與 iOS。同一提交還把張量 FA 核心遷移到 kernels/fa_tensor.metal。

地端推論開源 llama.cpp Metal Flash Attention BF16 Apple Silicon

量子位● 精選10/11 07:52AI 評分87

陶哲軒宣告數學 2.0 時代：AI 讓證明從稀缺走向氾濫

菲爾茲獎得主陶哲軒發布《數學 2.0》演講，宣告建立在證明稀缺之上的數學 1.0 時代落幕：AI 正讓數學證明變得氾濫。他呼籲建立更透明的評估機制，把失敗結果與算力成本一併納入報告，並減少對搶先生成證明的強調，轉而重視解釋、評審與知識整理；其參與創立的 SAIR 基金會開放數學模型計劃將很快發布。此番表態的背景是 OpenAI 一次性發布 722 篇數學論文後，陶哲軒牽頭成立人類數學協會（AHM），並呼籲數學家停止與 OpenAI 合作。

研究政策與安全數學 2.0 AI 證明陶哲軒人類數學協會形式化驗證

3 個來源 · 3 則報導閱讀原文

Hacker News front page● 精選10/20 16:40AI 評分84

Google 開源 TorchTPU，為 TPU 提供 PyTorch 原生後端

Google 開源 TorchTPU，讓 PyTorch 模型可直接跑在 TPU 上，PyPI 最新版本為 0.2.0。專案提供 TPU 的 ATen 核心實現、XLA 計算編譯快取，支援資料並行與張量並行分散式訓練，並接入 torch.compile() 圖模式執行，附帶 Llama、Qwen、ResNet、DLRM、minGPT、UNet 等範例。安裝要求 Python 3.11+，Marimo 互動筆記本需在 TPU VM（如 v6e 例項）上執行。

開源開發工具 TorchTPU PyTorch TPU 開源 XLA

機器之心● 精選10/24 14:37AI 評分90

Google 開源 TorchTPU，TPU 成為 PyTorch 原生裝置

Google 在 PyTorch Conference 2026 上開源 TorchTPU，讓 TPU 與 GPU、CPU 並列，成為 PyTorch 的原生裝置。專案由 Google 和 Meta 聯合開發；在 Hugging Face Transformers v5 裡只需傳入 device_map="tpu" 即可部署，vLLM、SGLang、Ray、TorchTitan 等已同步接入。

開源開發工具 TorchTPU PyTorch TPU CUDA 開源

量子位● 精選10/6 07:59AI 評分75

陶哲軒轉向 AI 減速派，呼籲模型公司放慢數學研究

數學家陶哲軒在 SAIR 演講中公開呼籲模型公司放慢數學研究節奏，稱 AI 無休止加速卻對後果一無所知，並稱之為 Proof Indigestion（證明消化不良）：AI 只在生成解答與 Lean 驗證上狂飆，理解、評審、寫入教科書幾乎停滯。此前他與 25 位菲爾茲獎得主聯名發表公開信，批評把數學當 benchmark 刷分。OpenAI 隨後回應，宣布在普林斯頓高等研究院設立數學與人工智慧顧問小組，但宣告寫明該小組不就數學上的內部進展提供建議。

政策與安全研究陶哲軒 AI 減速數學研究 AI 安全 OpenAI

Hacker News front page● 精選10/8 05:14AI 評分79

陶哲軒回應 OpenAI 數學成果：數學需轉向 Math 2.0

陶哲軒就 OpenAI 近期數學成果發文，提出數學研究應從「Math 1.0」轉向「Math 2.0」。他指出，AI 提示者自主解出公開問題後並不理解結果，無法答疑或作報告，相關研討會與合作遠少於傳統突破，新人流入減少，有前景的方向還被隱瞞以防被搶發。問題一旦被解決就無法回退，公開問題正被大規模、不可持續地收割，令整個數學領域變得貧瘠。他主張 Math 2.0 淡化單純解題，重視闡述、社群建設與開闢新方向，並重新評估教育、發表與晉升標準。

研究 Terence Tao 數學研究 AI 解題 Math 2.0 開放問題

Hacker News front page10/9 17:42AI 評分71

Anthropic 用 Lean 自動形式化費馬大定理，11 天生成 1300 萬行

數學形式化正從人工轉錄轉為 AI 自動形式化：Anthropic 於 2026 年 9 月 4 日宣布完成費馬大定理的自動形式化，11 天生成 1300 萬行 Lean 程式碼；OpenAI 9 月 8 日公布 Navier-Stokes 強制爆破定理時也附帶了 Lean 形式化。此前 Math Inc. 在 24 維球填充問題上生成約 50 萬行程式碼，Meta 的 ATLAS 專案則自動形式化了 26 本教科書的大部分內容。

研究開源 Lean mathlib 自動形式化形式化證明 AI

TechCrunch AI10/28 19:19AI 評分70

Anthropic 推出企業報表工具，量化 AI 花費的回報

Anthropic 發布一套面向企業客戶的報表工具：管理者可以按時間段檢視團隊用 AI 做了什麼、產出多少、消耗多少 token、流程卡在哪裡，並獲得改進建議；這些資料預設不用於模型訓練。同時上線團隊共享預算池，用於管理 token 支出。Anthropic 披露 Claude Code 淨收入留存率達 900%；

產品與方案開發工具 Claude Code 企業支出管理投資回報率 token 消耗企業採用

2 個來源 · 2 則報導閱讀原文

TechCrunch AI● 精選10/19 20:09AI 評分81

AWS 發布 TorchNeuron，一行配置把 PyTorch 應用遷到 Trainium

AWS 發布開發工具 TorchNeuron，用 PyTorch 寫的 AI 應用只需改一行配置即可跑在自研晶片 Trainium 上，無需重寫程式碼。AWS 稱約 85% 的 AI 應用基於 PyTorch，熟悉 PyTorch 的開發者可直接上手。亞馬遜還會把解耦 PyTorch 與特定晶片的程式碼回饋上游，推動框架硬體無關；Trainium 兼顧訓練與推理，AWS 強調價效比，語音 AI 公司 Deepgram 遷移後每美元處理音訊量提升 70%。

產品與方案開發工具 Trainium PyTorch CUDA 硬體解耦 AWS

2 個來源 · 5 則報導閱讀原文

機器之心● 精選10/20 09:53AI 評分76

記憶張量開源首個記憶原生基座模型 MemT 1.0

記憶張量發布並開源 MemT 1.0，稱其為業內首個記憶原生基座模型，歷史資訊被編碼為可更新的內部記憶狀態，隨每輪對話逐 token 更新並可跨會話儲存恢復。兩個版本為 MemT-1.0-Flash（288B 引數、17B 啟用、336M 動態記憶）與 Nano（36B 引數、3B 啟用、10M 動態記憶）。

模型開源記憶原生引數化記憶開源模型 MemT 1.0 SWE-bench

2 個來源 · 2 則報導閱讀原文

llama.cpp releases● 精選10/3 00:28AI 評分68

llama.cpp 為 Metal 新增 F16 KV 張量 API flash attention 核心

llama.cpp 合併 PR #29570，在 Metal 後端為 F16 KV 快取加入基於張量 API 的 flash attention 核心。該核心覆蓋 DK=DV=512、DK=576/DV=512、DK=192/DV=128 等配置，並支援 attention sinks、ALiBi 與 logit softcap。改動隨 b11362 建置發布，覆蓋 macOS Apple Silicon、iOS 及 Linux、Windows、Android 等多平台建置。

地端推論開源 llama.cpp Metal Flash Attention Apple Silicon 推理核心

Hacker News front page● 精選10/6 22:17AI 評分86

OpenAI 公開內部前沿模型數學成果與 Lean 形式化證明

OpenAI 於 2026 年 10 月 6 日發布由內部前沿模型產出的多項數學結果，以 GitHub 倉庫形式公開，併為其中許多證明提供 Lean 形式化驗證。倉庫同時給出 10 份模型推理摘要、以 ChatGPT Pro 用量折算的算力估算，以及嘗試題目數量的統計，平均每個結果約消耗相當於 3 小時 ChatGPT Pro 思考的算力。

訂閱動態研究開源數學推理 Lean 形式化證明 ChatGPT Pro

llama.cpp releases10/16 05:30AI 評分45

llama.cpp b11680：Hexagon 後端重構張量重打包，支援分塊量化與 FP 權重

llama.cpp 發布建置 b11680，Hexagon NPU 後端完成張量重打包（repacking/tiling）重構：新增對分塊與扁平量化權重、以及 F16/F32/BF16 二維權重的重打包支援，分塊 Q5_K 與原始 k-quant 張量可用 GET_ROWS。該版本移除了 need_repack hack，並清理 matmul、反量化 ukernel、張量介面與 L2/dcache 重新整理邏輯，最佳化小 src1 的 get-rows 效能。

地端推論開源 Hexagon NPU llama.cpp 張量重排 K-Quant 量化 Snapdragon

1 個來源 · 5 則報導閱讀原文

量子位● 精選10/30 11:05AI 評分82

面壁智慧 ForgeKernel 直播自寫運算元，反超 DeepSeek FlashMLA 9.8%

面壁智慧的運算元生成系統 ForgeKernel 在無原始碼、無參考實現的情況下，通過直播自進化 22.5 小時，在輝達 B200 上把 DeepSeek-V4.1 的 FlashMLA Prefill 運算元做到 472 微秒，比人類手寫的 518 微秒快 9.8%。全程 42 輪迭代、留下 32 個版本，只用了 1 張 B200 和 22 個 GPU 小時，人工編寫 0 行程式碼。它此前已登頂昇騰 CANNBench 950DT、950PR、A3 三張榜單第一，並在直播結束後開源；

研究開發工具運算元生成 ForgeKernel FlashMLA 昇騰開源

機器之心● 精選10/12 09:30AI 評分89

OpenAI 公開 722 篇 AI 數學手稿，菲爾茲獎得主稱研究領域被摧毀

10 月 6 日，OpenAI 在 GitHub 公開 722 篇 AI 數學手稿，分屬 372 個結果族、含 377 項新證明，約三分之一涉及重要猜想，多數由一款尚未發布的內部模型生成，平均每項結果的計算量相當於 ChatGPT Pro 思考約 3 小時。發布兩天後 OpenAI 因錯誤撤回 3 篇，多位數學家指出部分手稿未必真正證明了所聲稱的結論。

模型研究 AI 數學證明 Lean 形式化驗證學術生態衝擊內部模型

Simon Willison10/7 23:14AI 評分23

班·艾佛列克談 VFX 中已用多年的機器學習

班·艾佛列克在引述中表示，視覺特效工作流多年來一直包含機器學習，他把卷積神經網路（CNN）稱為 transformer 的前身，區別在於後者能同時做更多計算。他自述能寫「很糟糕的 Python 指令碼」，並解釋張量是畫面在數值上的翻譯——批次號、幀號，以及每幀每個畫素的紅綠藍值。CNN 在張量上做邊緣檢測與特徵提取，識別出窗臺在哪裡，就能更容易地把綠幕部分摳掉並替換成別的內容。

研究 machine-learning Python 視覺特效卷積神經網路

機器之心● 精選10/16 06:58AI 評分83

KTransformers-FineTune 讓 CPU 直接算 MoE 專家，微調吞吐最高提升 21.2 倍

清華 MADSys 實驗室與趨境科技提出 KTransformers-FineTune（KT-FT），讓 CPU 用主存中的權重直接完成 MoE 專家計算、GPU 只負責注意力，LoRA 微調吞吐達到 ZeRO-Offload 等解除安裝基線的 2.5～21.2 倍。該方案已作為執行後端接入 LlamaFactory，CPU 側用 AVX-512/AMX 指令集計算專家，支援微調與推理在同等硬體下一鍵執行。

地端推論開源 KTransformers MoE LoRA CPU/GPU 協同計算 LlamaFactory

Google Developers blog10/20 16:50AI 評分60

TorchTPU 把原生 TPU 後端接入 PyTorch

TorchTPU 將原生 torch.device("tpu") 後端接入 PyTorch，開發者無需改用 JAX 即可在 Google Cloud TPU 上訓練大模型。配套的 TorchTitan TPU 分支提供 SimpleFSDP、Graph Trainer 和自訂 Pallas 核心等生產級擴充套件，在稠密與 MoE 架構上取得較高 MFU。官方還給出最佳化 playbook、recipes 與 Hugging Face 建模後端，便於在 TPU 上擴充套件自有負載。

開發工具產品與方案 TorchTPU TPU PyTorch TorchTitan 模型訓練最佳化

llama.cpp releases10/29 06:48AI 評分58

llama.cpp SYCL 反量化改用向量儲存，MXFP4 MoE 預填充最高提速 61%

llama.cpp 的 SYCL 後端把多種量化格式的反量化寫回改為向量化儲存，MXFP4 MoE 20B 模型預填充提升 57%（pp2048）到 61%（pp512）。改動覆蓋 Q4_0、Q4_K、Q5_K、Q6_K、Q3_K、Q2_K、IQ3_XXS/IQ3_S 與 MXFP4，在 Arc Pro B70 上，重排佈局後的預填充分別提升約 6%–29%，其中 Q6_K 為 28.7%、IQ3 約 20%–21%。

地端推論開源 llama.cpp SYCL 反量化向量化效能最佳化

X @OpenAI10/6 22:19AI 評分30

OpenAI 官方分享數學領域的 AI 進展

OpenAI 在官方帳號發布連結，指向官網頁面 sharing-ai-progress-in-mathematics，主題是分享數學方向上的 AI 進展。該資料本身只有這一條連結，未披露涉及的具體模型、基準成績、發布時間或使用方式，因此除官方就數學進展對外發聲這一點外，暫無更多可確認的細節。

研究數學 OpenAI AI 進展

Hacker News front page10/30 20:09AI 評分57

用約 25 行 SQL 自動推匯出 FlashAttention 核心

一份演示用約 25 行只表達樸素 attention 的 SQL，自動推匯出了 FlashAttention 核心。這依賴作者正在建置的三個可移植 SQL 擴充套件：xarray-sql 把雲上 PB 級陣列資料集表示為關係表，ddx 為 SQL 加入 JAX 風格的自動微分，einfold 是面向 SQL 張量收縮的模組化查詢規劃器。作者的主張是把張量程式的邏輯層與物理層分離，用關係代數來形式化「苦澀的教訓」，並招募資料庫理論與 ML 系統交叉方向的人。

研究開發工具 FlashAttention SQL 自動微分查詢規劃器張量計算

Hacker News front page10/16 14:01AI 評分67

七位數學家撰文反對倉促用 AI 形式化全部數學

Jeremy Avigad、Kevin Buzzard 等七位數學家聯合發文，反對在 OpenAI 上週發布後興起的「儘快形式化全部數學」呼籲，認為做得不好會造成持久損害、浪費鉅額資源。文中舉例：Anthropic 稱 Claude 用 1300 萬行程式碼、11 天完成費馬大定理的形式化驗證，Buzzard 稱讚成果卻表示不會停下自己手頭的形式化工作；Math, Inc. 試圖劫持 Viazovska 球堆積形式化專案，原團隊最終棄用 AI 程式碼重做。

研究數學形式化 AI 定理證明 Lean 學術規範形式化驗證

機器之心● 精選10/27 02:54AI 評分76

復旦與華為小藝提出 SAGE，昇騰 NPU 運算元生成成功率達 95.5%

復旦與華為小藝提出 SAGE，面向昇騰 NPU 的運算元生成成功率達 95.5%。SAGE 把知識冷啟動、工具增強診斷和經驗學習串成閉環：冷啟動用 Ascend C 速查表、除錯指南與實現範例，並通過生成實現和專家實現的差分挖掘可複用模式；診斷階段讓 Agent 自主呼叫除錯與 profiling 工具定位中間張量異常和效能瓶頸。經驗學習用 ATU 只給實際被採用的經驗分配測試反饋，並把反覆有效的規則沉澱為熱記憶。

研究開發工具 SAGE 昇騰 NPU 運算元生成 Coding Agent 經驗學習

llama.cpp releases10/5 05:24AI 評分42

llama.cpp 在 CUDA 小批次下用 MMVF 最佳化 f16/bf16 矩陣乘法

llama.cpp 合併 PR #29633，在 CUDA 後端針對小批次場景的 thin f16/bf16 mul_mat 改用 MMVF 指令，並調整了核心選擇邏輯。該改動由 NVIDIA 工程師提交，影響 Ubuntu 與 Windows 的 CUDA 12/13 建置，面向在 NVIDIA GPU 上執行本地推理的使用者。

地端推論開源 llama.cpp CUDA MMVF mul_mat kernel