Google Developers blog10/2 22:21AI 評分64
Google Antigravity SDK 支援本地 AI 模型
Google Antigravity SDK 現可通過 LiteRT 在本地離線執行 Gemma 4 26B A4B 等模型。它同時支援 Ollama、vLLM 等 OpenAI 相容推理服務，可讓雲端模型做規劃，本地模型在裝置上處理程式碼審計與修補。
搜尋
找到 5 筆
Mistral AI news9/10 01:00AI 評分42
Cloudera 與 Mistral 合作推進主權企業 AI
雙方將 Mistral 模型整合到 Cloudera 混合資料平台，支援本地、公有云及氣隙環境部署與定製模型。
NVIDIA blog● 精選10/2 14:00AI 評分72
NVIDIA DGX Spark 新增 64GB 版，10 月 23 日上市售 4999 美元
NVIDIA DGX Spark 64GB 統一記憶體版 10 月 23 日由 Acer、ASUS、Dell、Gigabyte、HP、MSI 開賣，起價 4999 美元，單機支援最高 1000 億引數模型本地執行。兩臺經 ConnectX-7 組叢集后記憶體擴至 128GB、可跑 2000 億引數，官方 Qwen 3.8 27B 測試效能最高 1.7 倍。
r/LocalLLaMA top of the day10/2 20:17AI 評分52
博文論證自託管 AI 並不省錢，作者仍照做
博主 basnijholt 發文論證自託管 AI 不能省錢，但他依然堅持自託管。他明確表示不會把 200 GB 郵件、訊息和位置歷史交給 API，無論是否零資料保留。他還指出，拿 200 美元訂閱與 Qwen 3.8 27B 相比並不對等。
Ollama releases● 精選9/30 00:56AI 評分76
Ollama v0.35.0 新增決策模型介面，直接返回選擇與機率
Ollama v0.35.0 支援決策模型，經 /v1/systemone 呼叫，返回選擇、機率和分數而非文字。首批可用模型為 Bespoke Labs 的 Nimble 和 Together AI 的 Tev1。支援 choice、noul、score 三種問題型別，適用於工單分類、模型路由和內容分類。