VocabX 按成本重構詞表,Qwen3-4B 推理成本實測降 77%
Dharma-AI 團隊用名為 VocabX 的方法在不更換基座模型的前提下,把生產環境中的實測推理成本降低 77%。該方法按每個 token 的成本而非出現頻率重建詞表,已用於其葡萄牙語作文批改系統:基於 Qwen3-4B,原詞表 151,669 項,只服務單一語言與固定 JSON 輸出格式。
找到 50 筆
Dharma-AI 團隊用名為 VocabX 的方法在不更換基座模型的前提下,把生產環境中的實測推理成本降低 77%。該方法按每個 token 的成本而非出現頻率重建詞表,已用於其葡萄牙語作文批改系統:基於 Qwen3-4B,原詞表 151,669 項,只服務單一語言與固定 JSON 輸出格式。
名為 Decisions API 的新介面發布,用於建置回應更快的應用,定位是為任何應用提供快速、聚焦、低成本的決策能力。官方給出的說明只有一句:面向任何應用的快速低成本決策。定價、接入方式、可用範圍以及底層模型等細節均未公布。
Shopify 用 NVIDIA Nemotron 3.5 Lightning 後訓練出的 GraphQL 子智慧體已接入商家助手 Sidekick,官方稱在內部基準上準確率超過一款領先前沿模型,服務成本降低 90%、回應快 7 倍。配合 NVIDIA CCluster 的 vLLM 推理最佳化,目錄豐富、購物模擬、品類分類、推薦等五個場景效能提升 4.5 倍,推理成本最多降 12 倍。
StarSkirmish Bench v0.2 結果公布:模型用一小時寫一個星際爭霸:母巢之戰的 C++ 神族 bot,GPT-6 Astra 得分最高,GPT-6.1 Sol 以約十分之一的單次成本排第二。Gemini 4 Argon 第三,與 Claude Opus 5.5、Claude Fable 5.1 基本並列(37–39 分)。
清華大學 THUNLP 實驗室聯合面壁智慧、OpenBMB 等團隊開源智慧體作業系統 PilotDeck 2.0,用 WorkSpace 工作艙隔離各專案的檔案、記憶與任務,記憶白盒化可檢視、修改、刪除,並支援後臺常駐執行長任務。其 Smart Routing 按任務難度分發模型:實測主 Sonnet 4.6 加子 MiniMax-M2.7 得 70.6 分、成本 3.15 美元,單體 Sonnet 4.6 為 69.1 分、18.36 美元,約省六分之五。
Anthropic 發布 Claude Opus 5.5。官方稱,它在 agentic coding 與知識工作上領先,典型負載下執行成本比 Opus 5 低 40%。同一批更新中,Claude Sonnet 5.5 比 Sonnet 5 快 30% 以上,多數任務成本最多低 30%;面向摘要、subagent 與瀏覽器操作等高併發任務的最快小模型 Claude Haiku 5.5 也已推出。
Anthropic 發布 Claude Haiku 5.5,官方稱其是迄今最便宜、最快、能力最強的小模型,平均執行成本比 Haiku 4.5 低約 75%。定價為每百萬 token 輸入 0.10 美元、輸出 0.50 美元(提示 10 萬 token 以內),並首次在 Haiku 級模型上提供可調 effort 設定,用於權衡成本與智慧。
Claude 官方發布 Haiku 5.5,定位高併發、成本敏感型任務。官方稱其能穩定處理摘要、分類等重複性工作,並可搭配 Claude Opus 5.5 與 Sonnet 5.5,在 coding 任務中充當 subagent。該模型的速度也足以支撐即時客戶支援和瀏覽器操作。
面向 coding agent 的外掛 neckbeard 在 Claude Code 上線,它讀取應用倉庫,從經過測試的 OpenTofu 模組目錄渲染出可審查的雲基礎設施與月度成本估算,支援 AWS、GCP、Azure 及 GitHub Actions/GitLab CI。規劃、渲染與校驗全部由確定性程式碼完成,agent 只做分析與解釋,不憑空編造基礎設施。
自建 AI 程式碼審查的平均單次成本從 2.43 美元降到 0.77 美元,降幅 68%;中位審查耗時也從 4 分 09 秒縮短到 1 分 32 秒。約 40% 的節省來自審查器程式碼最佳化,其餘來自更換所用模型與調整推理強度;在此之前,成本已從 4 月的 1.19 美元漲到 8 月的約 2.46 美元。審查器現已整體遷移到重寫的 OpenCode v2,影子模式對比中 98% 的合併請求審批結論一致,全量審查約快 13%。
Laminar 發布 flow-1,一個用強化學習訓練、專門在 agent 追蹤(trace)裡找錯誤的模型。官方基準稱其查錯品質與 GPT-6-sol 持平,成本卻低 23 倍,因此可以對每條生產環境 trace 做全量分析而不必取樣。
Nvidia 宣布自 2026 年 10 月 2 日起,2019 年發布的 Shield TV Pro 立即漲價 100 美元,從 199.99 美元升至 299.99 美元。Nvidia 發言人向 Ars 確認,漲價源於包括記憶體在內的元器件成本在全行業大幅上漲。該裝置搭載 Tegra X1+ 處理器,支援 AI 畫質提升與幾乎全部媒體格式的硬體解碼,非 Pro 版本已停產。
MiniMax 正式發布 M3.1 Flash,官方稱其在 agentic 任務、coding、Computer Use 與網路安全上全面提升,使用成本較上一代降低 70%,線上推理速度提升近 3 倍。定價為每百萬 tokens 輸入 0.15 美元、輸出 0.60 美元、快取輸入 0.015 美元,日常輸出可達 200+ TPS(P50 170+ TPS)。
法律 AI 公司 LegalOn 通過在 GPT-6 Luna、GPT-6.1 Sol 和 GPT-6 Astra 之間按任務複雜度選型,把 Codex 的預估日成本降低約 65%,同時保持開發速度。此前開發者可無限使用 GPT-5.5 的 Fast 模式,公司隨後預設限制 Fast 模式,並按部門、小組和個人設定月度用量與預算上限。輕量任務交給 Luna 寫程式碼,Sol 負責常規設計、資料分析與文件,Astra 處理架構設計等複雜判斷;
Agent37 推出低成本 agent 沙箱服務,客戶平均每沙箱每月花費 0.37 美元,並已開放免費套餐,目前 90% 以上新註冊使用者為免費使用者,其免費沙箱基礎設施成本約每使用者每月 0.05 至 0.10 美元。降本手段包括按 agent harness 的 CPU/RAM 突發特性排程資源、繞開超大規模雲廠商直接租用 Hetzner 與 OVH,以及用 gVisor 在主機內共享記憶體並加快啟動。
Asana 在 Codex 中用 GPT-6 Astra 改造 StackAI 瀏覽器智慧體工作流,在 GPT-6.1 Sol 上把單次執行的預估模型成本降至 0.47 美元、約 4 分鐘,比原生產環境所用的 Model B 便宜 76 倍、快 5 倍。144 次測試覆蓋四款前沿模型,最佳化手段包括把快取擴充套件到瀏覽歷史、把文字歷史預算放寬到 12 萬與 48 萬字元、截圖累積到 20 張再批次清理。
IBM CEO Arvind Krishna 在第三季度財報電話會上稱,開源權重模型現已能用前沿模型 10%–25% 的 token 成本實現約 90% 的效果。他回顧差距從 2024 年的 70 分對 20–30 分,縮小到 2025 年底的 70 分對 50 分,認為企業大多數任務(總結郵件、審查合同、客服應答)用便宜模型就夠。由此 IBM 看到本地部署 AI 需求升溫,稱兩三機架即可搭建,但企業缺核心、網路與 GPU 叢集調優人才;
OpenRouter 於 2026 年 10 月 2 日上線 Model Router Benchmarks 頁面,用品質、速度、成本三個維度對多家模型路由器打分,並給出 0 到 10 的 Router Index 綜合分,預設權重為品質 60%、單任務耗時 20%、成本 20%,使用者可拖動滑塊調整。
馬斯克發帖表示 Grok @Bot「確實行得通」,可以自己支付自己的費用(pay for itself)。這條發言沒有給出具體價格、額度、使用方式或適用範圍,也沒有說明指的是哪一種產品形態或訂閱方案。發布時間為 2026 年 10 月 18 日。
南大系初創公司南芥智慧(SinapisAI)發布首份技術報告,其 Mio 1.0 Lite 在九個公開 benchmark 上平均分 77.15/100 排名第一,平均每請求成本 0.06 元為全場最低,比分數最高的對手 GPT 6.1 Sol 高 6.35 分、成本低 94.0%。系統先為模型建立可量化的能力畫像,再結合任務需求與資源預算做模型選擇與協作,底層模型倉庫已收錄 484 個模型,產品平台於 10 月 8 日開啟公測。
《The Verge》一名作者開始連載自己日常使用本地 AI 的體驗,此前他一直不願把最私人的資料交給雲端服務。他認為如今在本地執行較強模型已越來越可行,但不確定是否值得為一臺配了大容量、價格不菲記憶體的電腦或筆記本花大錢。文章還提到 Apple 對新款 Mac 桌面機的宣傳。他自認不是 AI 專家,會邊用邊寫。
Ai2 更新氣候模擬系統 HiRO-ACEv2,新的降尺度模型 HiROv2 可同時預測降雨、風與氣壓等多種高解析度變數,極端事件精度提升。整套系統生成全球 3 公里氣候資料的成本約為高解析度全球大氣模型 X-SHiELD 的 1/300,若只需單個區域,節省可再高百倍以上。官方稱其高解析度統計量與 X-SHiELD 的偏差在 3% 以內,可復現百萬分之一量級的罕見事件,並生成帶颱風眼與雨帶的颶風。
一位使用者用同一提示詞讓 Opus 5.5 和 Sol 6.1 在 15 分鐘內用 three.js 建置簡化版布萊德湖城堡,要求可環繞旋轉相機並保持寧靜氛圍。Opus 5.5 用時 5 分 46 秒,約 30 萬輸入加 1.8 萬輸出 token,估算 API 成本約 1.56 美元;Sol 6.1 用時 11 分 2 秒,約 40 萬輸入加 1.6 萬輸出 token,估算成本約 0.96 美元。
DeepSeek-V4.1-Flash-1017 已在 Ollama 上線,可通過 Ollama Cloud 呼叫,託管位於美國且承諾零資料留存。該模型在 agentic 任務上表現較強,同時單任務成本更低。
DeepSeek 公布 V4.1-Flash 的 KV cache 相比上一代只需 1/4 的 HBM 和 1/8 的 SSD 儲存。官方指出快取命中費用常佔 agent 成本很大比例,壓縮快取可顯著降低這部分開銷。
GPT-6.1 Terra 將接入 OpenAI API 與 Codex。該訊息由 @OpenAIDevs 發布,開發者可用它建置能解讀影像、操作軟體並執行動作的應用與 agent。官方稱其 computer use 速度更快、成本更低,適合高頻、大批次工作流。
DeepSeek 於 2026 年 9 月 10 日 04:00 UTC 起啟用 V4.1-Flash 的新 API 價格,官方稱其架構更高效,能以更低成本服務更多使用者並把節省讓利給使用者。定價繼續區分高峰與非高峰時段,非高峰費率為高峰的 50%,彈性任務可安排到非高峰時段以節省成本。
Anthropic 推出 Claude Haiku 5.5,這是 Haiku 系列首個帶可調 effort 設定的模型。使用者可以針對每個任務自行決定偏向成本還是偏向智慧:調低 effort 換取更低開銷,調高 effort 換取更強表現。訊息由官方帳號在 X 上公布,未提及價格、額度或可用平台等細節。
LibTV 與抖音未來導演扶持計劃達成合作,聯合扶持 AI 綜藝創作,由平台提供算力、創作工具與流量宣發資源。此前 AI 綜藝已在抖音批次走紅:@十萬個挑戰 單條影片 189 萬贊、帳號吸粉 200 多萬,AI 版《變形計》@重塑計 更新四期、平均每期點贊超 20 萬。創作者透露,一集 5 分鐘左右的 AI 綜藝生成成本約 2000—5000 元,製作週期約一週。
一位使用者在 Blender 中使用 Claude Opus 5.5 時發現,直接畫出空間意圖比用文字描述形狀更高效。文字擅長說明物體是什麼,卻難以表達位置、大小和數量,因此他改為提供草圖或空間參考。整個專案共消耗 3300 萬 token,API 成本 16.07 美元,執行 48.5 分鐘。
@SpaceXAI 發布語音到語音模型 Grok Voice 3.0,官方稱其為全球最智慧的語音到語音模型。該模型回應時間低於一秒,擅長處理客戶來電,且成本低於其他前沿模型。官方暫未公布具體價格、可用範圍與上線時間。
一篇部落格文章指出,自託管 AI 在成本上並不比使用 API 便宜,但作者依然選擇自建。作者強調不會把 200 GB 的郵件、訊息和位置歷史傳送給 API,即使對方承諾零資料保留。他還提醒,拿 200 美元訂閱與 Opus 5.5 或 Astra 對比 Qwen 3.8 27B 並非對等比較。
DeepSeek 發布新模型 DeepSeek-V4.1-Flash-1017,已在官網、App 和 API 上線。官方稱其基準測試表現更強、任務完成更快、輸出更短,在效能與成本上屬於帕累托改進。該模型針對 DeepSeek Harness、騰訊 CodeBuddy、WorkBuddy 等做了最佳化,DeepSeek Harness 需升級到 v0.2.1-rc.1 或更高版本以獲得最佳體驗。
新加坡南洋理工大學安波團隊發布報告《Finding the Right Fit》,用 4 套可配置 Harness(OpenHands、DSH、PI、openJiuwen)交叉 5 個模型、3 個任務集,共得到 66 項結果。結論是 Harness 好壞並非固定屬性,同一模型換 Harness 後排名可能反轉,原生搭配也不一定最優;成本更高未必得分更好。
OpenAI 開發者帳號宣布,提示快取的保留時長現在可以選擇 12 小時,也可以繼續使用預設的 30 分鐘,或在同一次請求裡混用兩種時長:共享指令用 12 小時,較新的對話內容用 30 分鐘。官方表示,如果一整天都要反覆複用同一段上下文,反覆命中快取省下的錢可能明顯超過 12 小時快取多出的成本。
openJiuwen 團隊發布自演進模型路由技術 X-Router,在 PinchBench 全量 147 個任務實測中,靜態路由得分 66.3%、成本 $8.25,相比全量呼叫 Kimi-K2-Thinking 的 71.36%、$11.11,成本降低 44.6%。該技術基於五檔複雜度分檔路由,用本地 Qwen3-0.6B 做程序內分類器,支援端雲分級與 Bandit 自演進,並已接入 WorkSwarm 的 MoA 多模型協同。
有使用者反映,用 GPT-6 Astra 處理 10 萬字元以上、生成 70 多頁文件時,模型會先執行 30 到 40 分鐘,隨後直接報 5 小時用量限制錯誤,不輸出任何內容。使用者只能新建對話、稍微縮小任務重試,並稱 ChatGPT 與 Gemini 估算這類大規模執行每次 API 等效算力成本約 3 到 5 美元。該使用者質疑 OpenAI 為何不在任務開始前提示拆分,導致算力被浪費。
Arena.ai 的 Code Arena 程式設計對戰中出現兩個匿名模型 Kibitz 與 Kalmia,社群普遍認為分別是月之暗面的 Kimi K3.1 和阿里 Qwen 4。有人發現 Kimi 官方域名配置介面曾返回切換目標 k3.1(當晚即被撤回),且 Kibitz 對 11 個用於識別 Moonshot 模型的特殊 token 均出現亂碼,與以往 Kimi 模型表現一致。成本上,Kibitz 完成同樣任務的 token 成本約為 GPT-6 Astra 的 1/14;
給 agent 一份覆蓋全公司的知識圖譜後,五個公司級問題的回答準確度不變,但回答時間減少 73%、讀取的輸入 token 減少 92%、模型呼叫減少 66%。建圖以既有資料結構加規則抽取為主,僅 1.6% 的句子(141/8939)因規則讀不出而交給 gpt-5.4-mini 補讀,成本 0.047 美元;全量句子送模型要 1.29 美元、貴 27 倍,且把服務信用誤讀為責任上限、總體並不更準。
Kimi K3.1 Pro 在 Artificial Analysis 智慧指數上拿到 55 分,遠高於同類模型中位數 27,並落在智慧與成本的前沿線上。定價為每百萬輸入 token 2 美元、輸出 10 美元,快取摺扣 90%,跑完一次指數評測平均成本 2.11 美元。模型支援文字與影像輸入、僅輸出文字,上下文視窗 1M token,但輸出速度 77 token/秒低於均值 81,完成指數評測共輸出 1.5 億 token,明顯偏囉嗦。
VentureBeat Intelligence 在 2026 年 7 至 9 月的三輪調研(385 名受訪者)顯示,79% 的企業表示其 GPU 至少一半時間完全閒置,這一比例三個月穩定在 77% 至 81%。但在這批企業中,70% 仍計劃未來 12 個月引入、擴充或更換 AI 計算平台;計劃採用新平台的受訪者中有 91% 拿不出經財務部門稽核的 ROI 資料。新採購意向中 90% 投向公有云與模型 API,僅 8% 考慮擴建本地私有叢集。
Anthropic 在提交給美國 SEC 的 S-1 上市檔案中承認,其 AI 資料中心正越來越依賴天然氣(主要成分是甲烷)供電。檔案稱,爭奪電力供應與電力充足的資料中心選址的競爭十分激烈,公司資料中心的建設因此容易受到燃料成本上漲和現有供應鏈約束的衝擊。這意味著生成式 AI 的算力擴張與化石燃料繫結,供電成本與穩定性風險已被寫進公開的上市披露。
OpenAI 開發者官方帳號展示了一個執行在樹莓派上的迷你 DJ 樂器原型。帖子只配了一句說明,既沒提到所用模型、具體硬體型號與成本,也沒給出開源地址,更沒有說明是否會量產。
Anthropic 發布小模型 Claude Haiku 5.5,官方稱其為迄今最便宜、最快、能力最強的小模型。該模型的平均執行成本比上一代 Claude Haiku 4.5 低約 75%。
OpenAI 的 Decisions API 已正式可用,可在工作流中加入近即時的判斷能力。它面向應用與 agent,支援對文字和圖片分類、評估輸入並決定後續走向,無需生成完整的模型回覆,從而更快、更省成本。
Replit CEO Amjad Masad 在 TechCrunch Disrupt 上表示,Replit 已不再與 Anthropic 合作,原因是成本、合作關係與模型效能。他稱內部與公開基準都顯示 Sol 和 Astra 在從零建置 vibe-coded 應用上表現更好,ChatGPT 現在更好;Replit 8 月已宣布與 OpenAI 合作。
馬斯克在 X 上表示,SpaceX 實際為納稅人節省的金額現在比此前公布的還要高,但沒有給出新的具體數字。該說法未附任何資料來源或計算依據,也未說明統計口徑與時間範圍。
馬斯克在 X 上發帖,正文僅一句「Perspicacious path to a petawatt/year」,意為通往每年一拍瓦的洞察之路。帖子沒有交代涉及的公司、產品或時間表,也未給出任何技術、成本或資料細節。目前可確認的資訊只有這一句話本身。
OpenAI 發布 GPT-6.1 Sol Ultrafast,稱速度最高為 Sol Standard 的 8 倍,API 定價 $12/$60 每百萬輸入/輸出 token,約為 Astra 成本的 1.2 倍。在 Codex 與 ChatGPT 中它僅對 $500 Pro 檔及符合條件的企業/教育版開放,支援美歐資料駐留。同期 ChatGPT 開始向 Plus 推送 GPT-6 智慧 UI;
馬斯克發帖表示,SpaceX 將提供覆蓋整個太陽系乃至更遠範圍的網路連線。他未說明技術方案、時間表、成本,也未提及與現有 Starlink 服務的關係。該帖發布於 2026 年 10 月 6 日,除此之外沒有更多細節。