AISpot

搜尋

依意思最接近的 16 筆

X @ggerganov10/7 14:57AI 評分45

llama.cpp 登上 Windows 活動舞臺,作者期待本地 AI 普及

llama.cpp 作者 Georgi Gerganov(@ggerganov)稱,llama.cpp 出現在了 10 月 7 日 Windows 活動的主舞臺上。他表示軟體與硬體棧終於走到一起,社群過去多年的努力得到體現,並期待更多使用者擁抱本地 AI。推文未說明該活動的具體內容,也未提及 llama.cpp 在其中的展示形式。

The Verge AI● 精選10/7 14:01AI 評分82

微軟 Copilot 將可訪問本地檔案並跨系統執行操作

在 Windows 與 Surface 活動上,微軟展示了 Copilot 的升級:可訪問 PC 上的本地檔案,並能在作業系統內執行操作。微軟把這一思路稱為 Hybrid Intelligence,即應用和工具混合呼叫本地與雲端模型來高效完成任務。Copilot 執行副總裁 Jacob Andreou 現場播放影片演示,讓 Autopilot 根據會計師的郵件幫忙處理報稅。

The Verge AI10/5 09:47AI 評分62

開源工具 RemoveMacAI 可刪除 macOS 上 12GB Apple Intelligence 資料

開源命令列工具 RemoveMacAI 可以刪除 macOS 上的 Apple Intelligence 模型資料並關閉相關功能,開發者稱可釋放約 12GB 磁碟空間。macOS 27 移除了此前關閉 Apple Intelligence 的單一設定開關,模型仍留在磁碟上,相關功能被拆散到不同設定面板中。開發者表示,該工具本質上做的就是舊開關的事;手動操作需找到約十幾個設定,其中若干位於螢幕時間(Screen Time)下。

Google Developers blog● 精選10/8 18:10AI 評分68

Google 發布 ML Drift:端側通用 GPU 推理框架

Google AI Edge 推出 ML Drift,一個面向端側 AI 與機器學習推理的高效能通用 GPU 計算框架。它把 OpenGL ES、OpenCL、Metal、WebGPU 等底層硬體與圖形計算 API 抽象掉,讓開發者無需直接處理這些介面,就能在移動端與桌面端建置即時互動式 ML 體驗,覆蓋從複雜影片特效到生成式 AI 的場景。

Ollama releases● 精選10/4 19:54AI 評分75

Ollama v0.40.0:Apple Silicon 預設用 MLX 跑模型

Ollama 發布 v0.40.0,在 Apple Silicon 裝置上,MLX 執行時支援的模型架構將自動改用 MLX 執行。可用模型包括 qwen3.8、gemma4、qwen3.6、qwen3.5,決策模型 Nimble、tev1、clef、clef-flash 也已登陸 MLX,官方稱會繼續測試並啟用更多模型。

Hacker News front page10/4 15:42AI 評分43

RemoveMacAI 可關閉 macOS 27 的 Apple Intelligence 並刪除模型

開源工具 RemoveMacAI 面向 macOS 27,可關閉 Apple Intelligence 各項功能、刪除已下載的本地模型,並阻止系統再次下載。macOS 27 已取消單一開關,關閉功能後模型仍留在磁碟上,該工具通過配置描述檔案實現,支援 status、off、revert 等命令,所有更改可還原。要求 Apple 晶片,僅支援 macOS 27,27.0.1 需 0.2.3 或更高版本。

機器之心● 精選10/6 08:05AI 評分85

Meta 與微軟削減 Claude 使用,轉向自研 AI 程式設計工具

據 The Information 報導,Meta 和微軟正在減少員工對 Claude 的依賴,推動開發者轉向自家 AI 工具。Meta 內部 Claude Code 活躍使用者從 6 萬降至 3 萬,減少 50%,由自研的 Muse Code 和 MetaCode 補位,最近一個 28 天週期在 Claude Code 上花費超 1.05 億美元。

r/LocalLLaMA top of the day10/3 11:42AI 評分52

自建魔獸私服,讓 LLM 在瀏覽器裡玩遊戲

作者搭建了魔獸世界私服 jankcraft.xyz,並開發瀏覽器客戶端,PC 和手機均可免費遊玩。隨後用自訂 MCP 與 agent harness 通過 websocket 控制客戶端,讓 LLM 自動玩遊戲,agent 頁面已上線。本地模型需服務端開啟 CORS,作者自託管的幾個模型可能因用量增長下線;24GB 記憶體可跑 Qwen3.8-27B-GPTQ-W4A16,16GB 記憶體可用 vLLM 跑 Gemma4-e4b-coder。

Ollama releases● 精選10/5 21:53AI 評分79

Ollama v0.40.0 在 Apple Silicon 上預設用 MLX 執行模型

Ollama 發布 v0.40.0:在 Apple Silicon 裝置上,MLX 執行時支援的模型架構會自動改用 MLX 執行。本次納入 MLX 的模型包括 qwen3.8、gemma4、qwen3.6、qwen3.5,決策模型 Nimble、tev1、clef、clef-flash 也已支援。可用 ollama pull / run qwen3.8 拉取與執行,官方稱將繼續啟用更多模型。

Ollama releases● 精選10/6 14:47AI 評分82

Ollama v0.40.0:Apple Silicon 預設用 MLX 執行模型

Ollama 發布 v0.40.0,在 Apple Silicon 裝置上,MLX 執行時支援的模型架構會自動改用 MLX 執行。官方範例為 ollama pull qwen3.8 與 ollama run qwen3.8,其他可用模型還包括 gemma4、qwen3.6 和 qwen3.5;決策模型 Nimble、tev1、clef、clef-flash 也已支援 MLX,並新增嵌入模型 embeddinggemma-2 支援。官方表示會繼續測試並啟用更多模型。

Hacker News front page10/7 14:49AI 評分71

Meta 與 Microsoft 削減員工使用 Claude,轉向自研編碼工具

據 The Information 10 月 5 日報導,Meta 與 Microsoft 正大幅減少員工對 Anthropic Claude 的使用,轉向自研編碼工具。Microsoft 內部對 Anthropic 技術的年支出預估原超 10 億美元,管理層要求員工改用 GitHub Copilot 與 OpenAI 框架後下調逾三分之一,雲與 AI 部門員工的月度 AI 支出上限從 10 萬美元降至多數約 1 萬美元。

r/LocalLLaMA top of the day10/3 00:10AI 評分43

mlsubgen 本地生成 45 種語言字幕,僅支援 Linux 與 NVIDIA

開源工具 mlsubgen 可在本機為影片生成 45 種語言字幕,僅支援 Linux 與 NVIDIA 顯示卡。它按每段語音檢測語言而非整檔案,同時執行兩個語音識別器並用本地 LLM 調和,且優先使用內嵌字幕軌(含藍光 PGS 點陣圖 OCR),無字幕時才聽音訊。模型佔用 30–65 GB 儲存,需 16–32 GB 記憶體,作者在 24 GB RTX A5000 上實測,純聽音訊時約每個目標語言耗時接近即時。

Ars Technica AI10/5 15:14AI 評分63

命令列工具 RemoveMacAI 可移除 macOS 27 的 Apple Intelligence

macOS 27 Golden Gate 取消了關閉 Apple Intelligence 的開關,GitHub 開發者 Om Lahore 為此發布命令列工具 RemoveMacAI,可一鍵關閉該功能並釋放磁碟空間。據 GitHub 頁面,該操作完全可逆;作者稱 Apple Intelligence 模型約佔 12GB,The Verge 則指出實際佔用可能超過 30GB。此前使用者在設定中只能逐項關閉 AI 功能,模型檔案仍會留在磁碟上。