AISpot

搜尋

依意思最接近的 30 筆

Simon Willison● 精選AI 評分83

Anthropic 將 Cowork 的推理與 VM 全部遷到雲端

Anthropic 的 Cowork 新版本把模型推理和 VM 都放到雲端執行,每個會話獲得獨立沙箱,不與其他會話共享狀態。舊版本只在雲端做推理,工具呼叫由 Anthropic 隨桌面端下發的本地 VM 執行,使用者抱怨磁碟、電量和效能開銷,且合上筆記本工作就會停止。新架構下當雲端 VM 需要使用者裝置上的檔案時,由桌面應用負責該檔案訪問的工具呼叫。官方稱這解決了用手機使用 Cowork、任務持續執行以及不犧牲電池等問題。

r/LocalLLaMA top of the dayAI 評分42

專用推理引擎興起,放棄通用性換極致效能

近期出現一批極窄用途的推理執行時,包括 Strata、ninfer、DwarfStar、Splash、llamAmpere、gufo 等。它們刻意放棄 llama.cpp 與 vLLM 擅長的通用性,只針對少數模型甚至單一硬體家族(如 Strix Halo)做最佳化。作者認為通用執行時負責相容、過擬合執行時負責極致效能將成為常態,並有助於智慧的民主化與去中心化,讓現有硬體在特定配置下榨出最大輸出。

Google Developers blog● 精選AI 評分68

Google 發布 ML Drift:端側通用 GPU 推理框架

Google AI Edge 推出 ML Drift,一個面向端側 AI 與機器學習推理的高效能通用 GPU 計算框架。它把 OpenGL ES、OpenCL、Metal、WebGPU 等底層硬體與圖形計算 API 抽象掉,讓開發者無需直接處理這些介面,就能在移動端與桌面端建置即時互動式 ML 體驗,覆蓋從複雜影片特效到生成式 AI 的場景。

X @elonmuskAI 評分19

馬斯克稱 SpaceX 曾向 AWS、GCP 求租推理算力

馬斯克表示,SpaceX 曾嘗試從 AWS、GCP 或任何其他供應商租用推理算力,目的是把負載從自家訓練叢集上分流出去。他稱此前流傳的那段對話正是 SpaceX 在這些洽談中經歷的情形,但未披露涉及的具體供應商、算力規模、報價與時間。該表態發布於 2026 年 10 月 19 日。

量子位AI 評分40

商湯大裝置拿下中國 Neocloud 近半份額

沙利文與頭豹發布的《中國全棧 AI 雲服務市場報告 2026H1》顯示,2026 年上半年中國 Neocloud(新雲)市場近 50% 份額由商湯大裝置(SenseCore)拿下。其日均 Token 服務量已從年初的 4000 億增至 9 月底的 6 萬億,並計劃第四季度衝至日均 10 萬億。技術上它用 PD 分離做異構混推,國產卡跑 Prefill、高階 GPU 跑 Decode,整體推理價效比達主流高階 GPU 的 1.25 倍;

Cloudflare blog (AI)AI 評分56

Cloudflare 與 OpenAI 試點為 ChatGPT 新增數億網頁索引

Cloudflare 與 OpenAI 公布了 2026 年 7 月啟動的搜尋發現聯合試點的早期結果:僅使用 Cloudflare 約 1% 的網路規模,就讓 OpenAI 發現並索引了數億個此前未被收錄的網頁,為 ChatGPT 提供更多資訊源。試點還在測試過濾失效、跳轉與重複頁面的訊號,以及標記單個被入侵頁面(如偽造登入頁)的安全訊號,並用變更訊號判斷頁面是否值得重抓,以減少站點的無效爬取負載。該研究只用網頁後設資料服務搜尋與發現,不把頁面內容用於模型訓練;

Ollama blog● 精選AI 評分79

Cloudflare 的 27B 決策模型 Clef 上線 Ollama 雲端

Cloudflare 的 27B 多模態決策模型 Clef 已上線 Ollama,既可本地執行,也可使用 Ollama 雲端。它基於 Qwen3.8-27B 微調,採用 Apache 2.0 許可,接受文字、JSON 或圖片輸入,單次讀取就為所有問題同時打分,而非逐詞生成,併相容 Jev 與 System One API。官方稱其登頂 Cloudflare Decision Index,在多數基準上超過 Jev;

量子位● 精選AI 評分68

無問芯穹 C 輪融資 23 億元,累計 43 億元創國產 AI Infra 紀錄

無問芯穹完成 23 億元 C 輪融資,累計融資 43 億元,單輪與累計均創國產 AI Infra 賽道新紀錄。這家公司不做模型和應用,而是做模型與晶片之間的中間層,已適配輝達、AMD、華為昇騰等 16 種晶片,服務 37000P 算力,還完成過 700 億引數大模型的異構晶片混訓。其大模型服務平台日均 Token 使用量半年漲超 40 倍,95% 以上推理任務來自 Agent;另據彭博社報導,公司已以保密形式向港交所遞交 IPO 申請。

機器之心● 精選AI 評分70

調研:79% 企業 GPU 過半時間閒置,七成仍計劃擴充算力

VentureBeat Intelligence 在 2026 年 7 至 9 月的三輪調研(385 名受訪者)顯示,79% 的企業表示其 GPU 至少一半時間完全閒置,這一比例三個月穩定在 77% 至 81%。但在這批企業中,70% 仍計劃未來 12 個月引入、擴充或更換 AI 計算平台;計劃採用新平台的受訪者中有 91% 拿不出經財務部門稽核的 ROI 資料。新採購意向中 90% 投向公有云與模型 API,僅 8% 考慮擴建本地私有叢集。

Cloudflare blog (AI)● 精選AI 評分78

Cloudflare 發布抽取模型 Clairic,已在 Workers AI 提供預覽

Cloudflare 推出新一類 System One 抽取模型,首個模型 Clairic 已在 Workers AI 上線預覽(@cf/cloudflare/clairic),並計劃近期釋出開放權重。它單次前向、不生成 token,只對輸入計費,通常一秒內返回。可從非結構化文字(最多附 4 張圖片)中抽取名稱、日期、金額、列表等帶置信度的型別化數值,也能估算與預測未來序列並給出 80% 區間;找不到答案時返回 null。

TechCrunch AIAI 評分37

Cerebras CEO:家用 AI 助理將本地執行

Cerebras 聯合創始人兼 CEO Andrew Feldman 在 TechCrunch Disrupt 2026 上稱,人人家裡都有一臺 AI 裝置的未來並不遙遠,個人 AI 助理會像手機一樣部分在本地執行、部分回到雲端。他預計這些助理會非常瞭解使用者、擁有獨立的安全邊界,還能接入信用卡代為購物。Feldman 自己已用一組 agent 整理日程、準備通話物件的背景資料,但他表示消費級創意留給其他創業者,Cerebras 只做平台。

Cloudflare blog (AI)● 精選AI 評分76

Cloudflare 開源決策模型 Clef,並推出 RL 微調平台

Cloudflare 發布兩個自研決策模型 Clef 與 Clef-flash,託管在 Workers AI,並以 Apache 2.0 許可在 Hugging Face 開源,同時推出新的強化學習微調平台。Clef 目前在 Jev Decision Index 上排名第一,帶視覺編碼器、64k 上下文,而 Jev 只做文字分類、上下文 32k。這類模型輸出帶機率的結構化分類,供 agent 決定路由、升級或轉人工。

NVIDIA blogAI 評分55

NVIDIA Vera CPU 獲 Nebius、Nscale 等歐洲雲商採用

NVIDIA Vera CPU 被 Nebius、Nscale、Verda 等歐洲 AI 雲服務商採用,用於搭建面向 agent 的基礎設施。Vera 承擔 agent 檢索資訊、執行程式碼與執行工具時的 CPU 計算,官方稱在同時執行數千個任務時仍能保持回應速度。Dell、HPE、Lenovo、Supermicro、Bull 將推出 Vera 系統;ClickHouse、SAP、Elastic 等稱早期測試中分析與 ETL 負載表現良好;

Latent Space● 精選AI 評分87

DeepSeek 開源推理棧 DeepInfer,單叢集日處理 155 萬億 token

DeepSeek 開源了生產推理棧 DeepInfer,它基於 vLLM 定製、採用 Apache 2.0 許可,支援最長 72 小時 prompt 快取、投機解碼與結構化輸出,相容 NVIDIA 與華為昇騰。官方稱單叢集日處理 155 萬億 token、輸入快取命中率 96%、首 token 延遲 400ms、生成速度 230 token/s,按非高峰電價折算單卡每小時收入 38 美元,毛利率超過 80%、回本週期 81 天。不過 KV 快取管理與負載均衡仍未開源;

Cloudflare blog (AI)● 精選AI 評分67

Cloudflare 發布 Clef-omni,可同時輸入音訊、影片、影像與文字

Cloudflare 推出開源權重決策模型 Clef-omni,能在一次 API 呼叫中同時接收音訊(wav/mp3)、影片(mp4/webm)、影像和文字輸入,模型基於 Qwen3-Omni-30B-A3B-Instruct 的 MoE 架構訓練 LoRA,權重已發布在 HuggingFace。官方稱純文字決策中位延遲約 130 毫秒、影像約 150 毫秒、音訊數百毫秒,含聲音的 21 秒影片約 1.5 秒。

Cloudflare blog (AI)AI 評分42

Cloudflare 向 30 家非營利組織提供 750 萬美元額度

Cloudflare 宣布已選出首批 30 家非營利與公共利益組織,向其提供總額超過 750 萬美元的開發者服務額度,每家最高 25 萬美元。這些組織用 Cloudflare 的 Workers AI、AI Gateway 等服務建置自動化工具,涵蓋心理健康、地方新聞、人權等領域。Cloudflare 稱其無伺服器架構和 AI Gateway 可降低執行成本並控制模型呼叫費用。

X @ollama● 精選AI 評分72

Cloudflare 決策模型 Clef 上線 Ollama

Cloudflare 的決策模型現已在 Ollama 上可用,可通過 ollama pull 直接拉取。該系列模型用於影像分類、給 bug 報告打標籤、把支援工單路由到對應團隊。提供兩個版本:Clef(27B)和 Clef Flash(9B),拉取命令分別為 ollama pull clef 與 ollama pull clef-flash。

量子位AI 評分50

範式智慧聯合睿思智聯開源生產級 AI 部署平台模域 ModelSphere

10 月 16 日,範式智慧聯合睿思智聯發布一站式生產級 AI 部署平台模域(ModelSphere),面向企業免費開源,以 Apache 2.0 協議在 GitHub 上線。平台把算力管理、模型部署與執行最佳化整合為統一流程,可統一混合排程華為昇騰、天數智芯、摩爾線程、海光 DCU 等國產晶片,無需為不同晶片重寫底層程式碼。

Hacker News front pageAI 評分71

Cloudflare AI Gateway 上線 Web Search API 公測

Cloudflare 的 Web Search API 進入公測,讓 AI agent 與應用能聯網搜尋,用即時資訊替代猜測 URL 或依賴模型訓練截止日期。上線時可選 Ceramic.ai、Exa、Linkup 三家搜尋提供商,三家均支援通過 Cloudflare 發起的請求零資料保留,並承諾遵守 Cloudflare 的驗證爬蟲標準。

Cloudflare blog (AI)● 精選AI 評分68

Cloudflare 將 EuroLLM 與 Apertus 兩個歐洲開源模型接入 Workers AI

Cloudflare 在生日周宣布,將歐洲兩個公共機構訓練的開源模型 EuroLLM 和 Apertus 引入 Workers AI,現已開放訪問申請。EuroLLM 覆蓋 35 種語言,含全部 24 種歐盟官方語言;Apertus 由瑞士 ETH Zurich、EPFL 等開發,訓練資料超 15 萬億 token、覆蓋 1500 多種語言,權重與資料全部公開。Cloudflare 同時啟動面向政府網路安全機構與關鍵基礎設施運營方的實操工作坊,首場 10 月在新加坡舉行。

X @OpenAI● 精選AI 評分66

OpenAI 前沿模型與 Codex 將登陸 Google Cloud

OpenAI 宣布其前沿模型與 Codex 智慧體工作流將上架 Google Cloud 的 Model Garden。企業可以在已經使用的 Google Cloud 環境中呼叫 OpenAI 的模型和 Codex 工作流,不必遷出既有的建置環境。官方目前只表示「即將到來」,未披露具體上線時間、包含哪些模型以及定價方式。

NVIDIA blogAI 評分62

Google Cloud 宣布 Vera Rubin A5X 例項下月正式可用

Google Cloud 與 NVIDIA 宣布 Vera Rubin 基礎設施正式可用,A5X 例項將於下月上線,並計劃擴充套件至歐洲。A5X 整合 Vera Rubin NVL72、ConnectX-9 SuperNICs、Virgo 網路與第四代液冷,面向大規模 agentic 推理與強化學習,Google Cloud 計劃在多個站點部署最多 96 萬塊 Rubin GPU。

Cloudflare blog (AI)● 精選AI 評分77

Cloudflare 聯合 Exa、Linkup 上線 Web Search API

Cloudflare 與 Ceramic.ai、Exa、Linkup 合作,通過 AI Gateway 推出 Web Search API,讓 agent 用搜尋抓取即時網頁內容並注入上下文,而不是猜 URL 再 curl 而返回 404。呼叫計入 AI Gateway 額度與可觀測日誌,支援 BYOK 和 Zero Data Retention 標識,按合作方原價提供、不加價,可在 Workers 裡一行繫結或直接調 REST 端點。