llama.cpp b12004:推理預算遇到提示中的結束標籤即終止
llama.cpp 發布建置 b12004,common 模組的 reasoning budget forcing 改為在提示中出現結束標籤時終止推理,不再只等預算耗盡。
依意思最接近的 30 筆
llama.cpp 發布建置 b12004,common 模組的 reasoning budget forcing 改為在提示中出現結束標籤時終止推理,不再只等預算耗盡。
企業一度鼓勵員工儘可能多地使用 AI,即所謂的 #tokenmaxxing,隨後賬單隨之而來。報導援引一項針對近 400 家企業的調查稱,其中只有 11% 能準確預測自己的 AI 支出。AI 使用量以 token 計量,而企業發現 token 很難統計,這讓 AI 預算幾乎無法編制。
2026 年 7 至 9 月,OpenAI、Anthropic 和 Nvidia 的聯邦遊說支出都達到各自單季最高。其中 Nvidia 花 220 萬美元最多,Anthropic 為 210 萬,OpenAI 為 150 萬。與微軟、Google 等長期佈局華盛頓的大廠相比,這一規模並不算異常:微軟自 2021 年起每季至少 200 萬美元,Google 常在 300 萬以上;但這顯示三家 AI 公司正加大對政策制定的投入。
Anthropic 發布一套面向企業客戶的報表工具:管理者可以按時間段檢視團隊用 AI 做了什麼、產出多少、消耗多少 token、流程卡在哪裡,並獲得改進建議;這些資料預設不用於模型訓練。同時上線團隊共享預算池,用於管理 token 支出。Anthropic 披露 Claude Code 淨收入留存率達 900%;
Anthropic 在更新後的招股書中警告,自家下一代模型可能即將觸及《負責任擴充套件協議》定義的「由 AI 驅動的大幅加速進展」RSI 閾值,並承認衡量研發加速的證據多為滯後指標,可能在加速發生後才察覺。同期披露的 Q3 營收約 170 億美元(1130 億人民幣),同比增長 1127%,但環比增速由 Q2 的 144% 降至 47%;單季淨虧損 232.9 億美元,前九個月累計虧損 1040 億美元。招股書還首次列明 8954 億美元的算力採購賬單。
Anthropic 承諾投入 500 萬美元的資金、算力與 Claude 存取權限,幫助數學界應對 AI 帶來的巨大變化。這筆資助由 Simons Foundation 以社群驅動的方式管理,用於支援研討會、會議和領域專家的講座。Anthropic 表示,如何最好地把 AI 用於數學乃至更廣泛的科學研究,仍需時間、精力與資源。
據 Business Insider 報導,Anthropic 內部使用 AI 的規模按零售價格折算後,已超過公司支付給員工的薪酬總額。報導以零售價而非內部成本價來折算內部 AI 用量,再拿它與薪酬總額作對比。原文沒有給出具體的 token 數量或金額,該話題在 Hacker News 上獲得 29 分、20 條評論。
Anthropic 在修訂版 S-1A 的風險因素中警告,公司可能很快達到其《負責任擴充套件政策》對“遞迴自我改進”(RSI)的定義,即 AI 大幅加速自身研發進展。檔案承認過去曾用 AI 開發新模型而未及時識別能力躍升;但也強調目前沒有任何模型越過該門檻,並承諾在可預見的未來仍保持人類監督。同期披露的財務資料顯示收入快速上漲、支出同步走高。
Ai2 把原先基於優先順序的 GPU 排程器換成了由 GPU 時間預算、層級化公平分配和時間切片契約組成的新系統。它管理數千塊 NVIDIA H100、B200、B300,叢集規模從 88 到 1024 塊 GPU,服務約 150 名內部研究者,GPU 需求長期是供給的 2 到 3 倍。舊方案導致 GPU 蹲坑佔位、優先順序通脹(最終 100% 工作負載都標為 HIGH)以及值班工程師大量時間用於協商關閉不可搶佔任務。
軟體工程學者 Diomidis Spinellis 在部落格中判斷,AI 將接管大部分認知工作,思考會像狩獵、書法和木工一樣,從謀生手段變成休閒愛好。他給出三個驅動因素:效能更高、成本更低、可用性更高,並提到 OpenAI 內部模型已解決數百個此前未解的數學問題。文中還提到到 2030 年數萬億美元的資料中心投資將帶來更多算力,政府可能以監管和稅收限制 AI,但歷史上的類似舉措未能阻止技術革命;他建議保持靈活、跟上進展,並在工作之外建立有意義的生活。
以色列創業公司 42AI 結束隱身狀態,帶著 6,250 萬美元種子輪融資推出「行為世界模型」,用來預測人在全新情境下會做出什麼決策。它已在約 10 家大型券商上線,用於管理流動性、保證金要求與對沖敞口;公司稱其交易預測準確率達 98%(指交易流是否落在預測區間),預測交易方向與成交量的 F1 為 0.8 到 0.85。模型訓練資料覆蓋 200 多萬人與近 3,000 萬條客戶記錄,據稱不需要個人身份資訊,收入已達七位數,後續將探索遊戲、反欺詐與網路安全。
Anthropic 在 IPO 前披露了總額 9000 億美元的 AI 支出承諾,訊息由 FT 報導。報導標題未說明這筆承諾的具體構成、時間跨度與相關交易方。
阿波羅全球管理首席經濟學家 Torsten Slok 稱,AI 對科技行業以外的美國大企業帶來「零財務回報」。他考察剔除 Alphabet、Amazon、Apple、Meta、Microsoft、Nvidia、Tesla 後的標普 493 成分股,發現其利潤率與人均營收基本持平,沒有證據顯示 AI 提升了生產率。Slok 認為企業很難把日益廉價的智慧轉化為更高的營收與利潤率,因為商業中的智慧更多是判斷力;近期多項研究也未發現 AI 帶來顯著生產力增益。
OpenAI 於 9 月 21 日發布官方戰略宣告,把自動化 AI 研究員與遞迴自我改進(RSI)列為下一階段重要目標,並計劃在 2028 年 3 月前打造真正的自動化 AI 研究員;Anthropic 同期披露,截至 8 月 Claude 已在約 26% 的內部 AI 研發工作中承擔主導角色。
研究機構 SemiAnalysis 披露,Anthropic 正在對 Claude 訂閱額度做 A/B 測試,相同套餐的不同帳號被分配了不同額度。測試中部分帳號的 5 小時額度提高約 20%,但每週額度反而少約 20%,兩個 Max 20x 帳號的每月 API 等價價值從 11726 美元降至 9385 美元。SemiAnalysis 估算訂閱業務只貢獻 Anthropic 約 10% 的收入,卻消耗約 42% 的推理算力;
Artificial Analysis 將模型智慧指數升級到 v5.0,評測集換成 9 項新基準。Knowledge Work、Coding、Science、General 四類各佔 25%,單項權重最高為 15%,分別是 AA-Briefcase v1.1、FrontierCode 2.0、Terminal-Bench-Science 0.1 和 AA-Omniscience v1.1;
數學家陶哲軒在 SAIR 演講中公開呼籲模型公司放慢數學研究節奏,稱 AI 無休止加速卻對後果一無所知,並稱之為 Proof Indigestion(證明消化不良):AI 只在生成解答與 Lean 驗證上狂飆,理解、評審、寫入教科書幾乎停滯。此前他與 25 位菲爾茲獎得主聯名發表公開信,批評把數學當 benchmark 刷分。OpenAI 隨後回應,宣布在普林斯頓高等研究院設立數學與人工智慧顧問小組,但宣告寫明該小組不就數學上的內部進展提供建議。
《經濟學人》金融與經濟版發文提出,AI 算力正像石油一樣成為基礎性戰略資源,但還缺少與之匹配的市場。文章的核心主張是算力需要一套新的市場機制來完成定價與配置,原文未披露更多細節。該文在 Hacker News 上獲得 15 點、7 條評論。
Hinton、Bengio 等 22 位作者聯合發表首篇 RSI(遞迴自我改進)論文《What if automating AI R&D triggers an intelligence explosion?》。論文引用 Anthropic 內部資料:AI 生成獲批程式碼佔比從 2025 年 1 月的低個位數升至 2026 年 5 月的超 80%,Claude 在高層監督下自主完成的 AI 研發工作比例從 2026 年 3 月的約 1% 升到 8 月的 26%。
西蒙斯基金會與 Anthropic、OpenAI 共同出資 1500 萬美元,幫助數學界應對 AI 在該領域的快速興起。基金會負責管理與發放這筆資金,包括公開徵集提案,用於資助工作坊和專案,幫助研究者評估近期的 AI 輔助成果、學習使用新工具、交流看法並形成 AI 使用的集體標準。Anthropic 和 OpenAI 還將向受資助研究者提供 AI 工具與算力,範圍從數學擴充套件到基礎科學。該基金會曾資助 Lean 證明助手的開發,是機器學習用於科學的早期支持者。
Character.ai 已申請破產,破產法庭檔案披露其算力支出長期遠超收入:2024 年每月 AI 算力花費 1380 萬美元,2025 年降至 1000 萬美元,而訂閱收入峰值僅每月 280 萬美元,含廣告的全部收入峰值 530 萬美元。2026 年 1 至 8 月算力支出 5610 萬美元,8 月仍每月虧損約 800 至 900 萬美元。
Anthropic 宣布投入 1 億美元,通過 Claude Frontier Academy 培養 10000 名 Frontier Deployed Engineers,目標在 2027 年底前完成。首批學員來自埃森哲、貝恩、凱捷、澳大利亞聯邦銀行、德勤、麥肯錫、摩根士丹利和諾和諾德等企業。按人數計算,人均培訓投入約 1 萬美元。
Faros 2026 年研究分析 22,000 名開發者、4,000 個團隊兩年遙測資料後發現,AI 採用度高的組織每位開發者 bug 增加 54%,PR 評審中位耗時約漲 5 倍,每 PR 事故數超 3 倍;其 Q3 報告稱部分效應有所緩解,但驗證與運維成本仍在累積。
Anthropic 起草了一份 AI 安全法案並推動國會採納:模型若帶來可預見且迫近的風險,如導致 50 人以上死亡或 10 億美元以上財產損失,其發布可被叫停。風險須源自製造生物武器、模型繞過開發者控制或網路攻擊。評估交由在美國商務部登記的獨立評估者,實驗室可為其付費但不得與結果掛鉤;認定風險後須 72 小時內上報商務部,再由商務部向華盛頓特區法官申請阻止發布,聯邦機構不得自行下架模型。這與加州已生效的 SB 53 門檻相近。
VentureBeat Intelligence 在 2026 年 7 至 9 月的三輪調研(385 名受訪者)顯示,79% 的企業表示其 GPU 至少一半時間完全閒置,這一比例三個月穩定在 77% 至 81%。但在這批企業中,70% 仍計劃未來 12 個月引入、擴充或更換 AI 計算平台;計劃採用新平台的受訪者中有 91% 拿不出經財務部門稽核的 ROI 資料。新採購意向中 90% 投向公有云與模型 API,僅 8% 考慮擴建本地私有叢集。
OpenAI 開發者帳號披露了其廣告系統的三段執行流程:orchestrator 會探索使用者的可能需求,把一次對話拆成多個意圖。接著,系統用基於嵌入(embedding)的搜尋找出候選廣告,再通過資格與相關性檢查縮小範圍。最終由競價工具完成廣告的最終選擇與定價。帖文未提及該系統的適用範圍與上線時間。
Runware 宣布要建工廠,像造車一樣在流水線上量產模組化 AI 資料中心,目標到 2028 年讓羅馬尼亞工廠日產能達到 30 兆瓦,約合每月近 1 吉瓦。其 Sonic 推理艙的建造時間將從三週縮短到一天,運抵後 48 小時內完成安裝上線;客戶可自備 GPU 並支付月費,也可直接向 Runware 租算力,電力與網路另計。
Cal AI 聯合創始人 Zach Yadegari 為其新 AI agent 公司 Persona 融資 1000 萬美元,Vine Ventures 領投。Persona 是一款個人 AI 助理,配套 179 美元的可穿戴手環,靠按鍵或甩腕啟用而非全程錄音,預計 12 月發售;目前已免費 beta 形式在 iMessage 上執行,積累了數千名使用者,手環預售收入達五位數。
Sebastian Raschka 發布從零建置推理模型的影片課程,共 8 集、總時長超過 11 小時。課程以小型預訓練 Qwen3 模型為起點,用 Python 和 PyTorch 親手實現評估、推理時擴充套件、強化學習與蒸餾,可配合其《Build a Reasoning Model (From Scratch)》一書按章節同步練習。前置要求是熟悉 Python 與 PyTorch;早期文字生成與評測範例在 CPU 上即可執行,後續訓練實驗建議使用 GPU。
Anthropic 以測試版形式推出 Usage and Cost Analytics,需攜帶 beta header analytics-usage-cost-2026-08-24,通過兩個端點報告 Claude Console 與 Claude Enterprise 組織的 token 用量與成本。結果可按模型、工作區、API key 以及發起請求的使用者或服務帳號篩選與分組。