Hugging Face 政策負責人談開源 AI 的成本與風險
Hugging Face 政策負責人做客播客,討論企業採用開源 AI 模型的成本、風險與取捨。開源模型因成本更低、更可控、更靈活,被企業、政府和初創公司更多采用;但模型能力越強、越容易獲取,企業如何從中獲取價值就成了難題。節目還談到中國開源模型的進展,以及美國廠商能否跟上。
依意思最接近的 17 筆
Hugging Face 政策負責人做客播客,討論企業採用開源 AI 模型的成本、風險與取捨。開源模型因成本更低、更可控、更靈活,被企業、政府和初創公司更多采用;但模型能力越強、越容易獲取,企業如何從中獲取價值就成了難題。節目還談到中國開源模型的進展,以及美國廠商能否跟上。
一篇部落格文章指出,自託管 AI 在成本上並不比使用 API 便宜,但作者依然選擇自建。作者強調不會把 200 GB 的郵件、訊息和位置歷史傳送給 API,即使對方承諾零資料保留。他還提醒,拿 200 美元訂閱與 Opus 5.5 或 Astra 對比 Qwen 3.8 27B 並非對等比較。
IBM CEO Arvind Krishna 在第三季度財報電話會上稱,開源權重模型現已能用前沿模型 10%–25% 的 token 成本實現約 90% 的效果。他回顧差距從 2024 年的 70 分對 20–30 分,縮小到 2025 年底的 70 分對 50 分,認為企業大多數任務(總結郵件、審查合同、客服應答)用便宜模型就夠。由此 IBM 看到本地部署 AI 需求升溫,稱兩三機架即可搭建,但企業缺核心、網路與 GPU 叢集調優人才;
市場對 AI 投入成本的擔憂引發美股科技股集體下挫,英特爾股價一度跌 30%,市值預計蒸發逾 1300 億美元;納斯達克開盤跌 2.5%,創兩個多月新低。英特爾警告 PC 市場放緩將至少持續到明年上半年,同時三季度大幅增加裝置投資,並預計第四季度投入更高。此前 Alphabet 因自家 AI 摘要衝擊搜尋廣告收入,單日市值蒸發超 5000 億美元;Reddit 因 Google AI 搜尋削弱引流、日活不及預期跌 26%,Roblox 跌近 20%,亞馬遜跌約 1.6%。
自建 AI 程式碼審查的平均單次成本從 2.43 美元降到 0.77 美元,降幅 68%;中位審查耗時也從 4 分 09 秒縮短到 1 分 32 秒。約 40% 的節省來自審查器程式碼最佳化,其餘來自更換所用模型與調整推理強度;在此之前,成本已從 4 月的 1.19 美元漲到 8 月的約 2.46 美元。審查器現已整體遷移到重寫的 OpenCode v2,影子模式對比中 98% 的合併請求審批結論一致,全量審查約快 13%。
阿波羅全球管理首席經濟學家 Torsten Slok 稱,AI 對科技行業以外的美國大企業帶來「零財務回報」。他考察剔除 Alphabet、Amazon、Apple、Meta、Microsoft、Nvidia、Tesla 後的標普 493 成分股,發現其利潤率與人均營收基本持平,沒有證據顯示 AI 提升了生產率。Slok 認為企業很難把日益廉價的智慧轉化為更高的營收與利潤率,因為商業中的智慧更多是判斷力;近期多項研究也未發現 AI 帶來顯著生產力增益。
2026 年 7 至 9 月,OpenAI、Anthropic 和 Nvidia 的聯邦遊說支出都達到各自單季最高。其中 Nvidia 花 220 萬美元最多,Anthropic 為 210 萬,OpenAI 為 150 萬。與微軟、Google 等長期佈局華盛頓的大廠相比,這一規模並不算異常:微軟自 2021 年起每季至少 200 萬美元,Google 常在 300 萬以上;但這顯示三家 AI 公司正加大對政策制定的投入。
企業一度鼓勵員工儘可能多地使用 AI,即所謂的 #tokenmaxxing,隨後賬單隨之而來。報導援引一項針對近 400 家企業的調查稱,其中只有 11% 能準確預測自己的 AI 支出。AI 使用量以 token 計量,而企業發現 token 很難統計,這讓 AI 預算幾乎無法編制。
據彭博社報導,蘋果已下調工程團隊的每日 AI 使用額度上限,從 300 美元降到 200 美元,部分額度還將降至每天 100 美元,工程之外部門的每日限額據稱低至 25 美元。這與此前企業鼓勵員工儘量多用 AI 的「tokenmaxxing」風潮形成反轉,業界對 AI 投入成本與生產力收益之間的差距仍有疑慮。蘋果未對此置評。
OpenAI 公布一次 AI 漏洞挖掘的完整執行成本為 121.34 萬美元 API credits,摺合每個不同的本地提權漏洞約 1279 美元。若按 Pwn2Own 與 TyphoonPWN 的歷史賞金費率折算,這批漏洞的假設價值達 1890 萬至 6630 萬美元。OpenAI 稱這體現了用 AI 模型保障軟體安全的相對效率,並主張防守方主動分析軟體,使網路攻擊成本變得不可承受。
OpenAI 宣布推出 Private Intelligence,讓企業在使用其最強模型時對自有資料擁有更強的控制權。官方表示,這些資料保護措施是與部分最大客戶緊密協作開發的,目的是讓企業能把前沿 AI 用於最敏感的業務。目前披露的細節有限,未公布具體價格、可用範圍與上線時間。
Asana 在 Codex 中用 GPT-6 Astra 改造 StackAI 瀏覽器智慧體工作流,在 GPT-6.1 Sol 上把單次執行的預估模型成本降至 0.47 美元、約 4 分鐘,比原生產環境所用的 Model B 便宜 76 倍、快 5 倍。144 次測試覆蓋四款前沿模型,最佳化手段包括把快取擴充套件到瀏覽歷史、把文字歷史預算放寬到 12 萬與 48 萬字元、截圖累積到 20 張再批次清理。
文章認為,OpenAI 與 Anthropic 把 coding agent 以每月 20 美元賣給所有人,反而拆掉了自己最重要的客戶:靠軟體訂閱收費的公司。過去三年,AI 實驗室的說法是用 AI 軟體工程師替代昂貴的人類工程師;但同樣的工具被廉價賣給個人後,業餘開發者週末就能做出 Photoshop 替代品並開源,Adobe 式訂閱收入隨之消失,而且不會流向 AI 實驗室。文中還提到,200 美元/月的套餐一年 2400 美元,低於 Google 高階工程師一個月薪水;
Character.ai 已申請破產,破產法庭檔案披露其算力支出長期遠超收入:2024 年每月 AI 算力花費 1380 萬美元,2025 年降至 1000 萬美元,而訂閱收入峰值僅每月 280 萬美元,含廣告的全部收入峰值 530 萬美元。2026 年 1 至 8 月算力支出 5610 萬美元,8 月仍每月虧損約 800 至 900 萬美元。
Anthropic 在 11 月 3 日更新的 S-1 檔案中披露:截至 9 月 30 日的季度營收為 170 億美元,高於上一季度的 115 億美元;但算力成本已佔營收 58%,明顯高於上一季度的 48%,運營虧損同步擴大。當季算力支出約 100 億美元,其中 50 億美元來自價格顯著更高的短期合約;每花 1 美元算力換來的收入在略高於 2 倍後回落至 1.72 倍。
NVIDIA 宣布歐洲多地城市正用其加速計算、Cosmos 與 Nemotron 開源模型搭建物理 AI 智慧體和數字孿生,用於城市運維與公共服務。法國 Côte-d'Or 省與 Akila、ThinkDeep 合建主權數字孿生運維智慧體,覆蓋 500 多棟公共建築,把文件檢索從數週縮短到數分鐘、運營總成本降低 10%,規模化目標 30%。義大利米蘭地區由 Galene.AI 與戴爾部署本地 AI 工廠,先在 Cinisello Balsamo 落地並計劃擴充套件至另外四個市鎮;
Anthropic 在 IPO 前披露了總額 9000 億美元的 AI 支出承諾,訊息由 FT 報導。報導標題未說明這筆承諾的具體構成、時間跨度與相關交易方。