AnyLanguageModel 1.0 發布，統一本地與託管模型推理
AnyLanguageModel 1.0 發布：這個 Apple Foundation Models 框架的替代方案只需換成 import AnyLanguageModel，同一份會話程式碼即可呼叫系統模型、llama.cpp、MLX、Core ML 本地模型，以及 OpenAI、Anthropic、Gemini、Ollama、Private Cloud Compute 等託管服務。
滿一年的 1.0 發布說明給出了統一 API 覆蓋本地與託管推理的完整清單、推薦模型體積與記憶體門檻，對在 Apple 平台用 Swift 整合模型的開發者最有參考價值。
原標題：AnyLanguageModel 1.0: One Year of Local Models on Apple Platforms
閱讀原文
| 評分 | 70 / 70（平均 70，門檻 65） |
|---|---|
| 狀態 | 精選 |
相關報導
Ollama v0.40.0：Apple Silicon 預設用 MLX 執行模型
Ollama 發布 v0.40.0，在 Apple Silicon 裝置上，MLX 執行時支援的模型架構會自動改用 MLX 執行。官方範例為 ollama pull qwen3.8 與 ollama run qwen3.8，其他可用模型還包括 gemma4、qwen3.6 和 qwen3.5；決策模型 Nimble、tev1、clef、clef-flash 也已支援 MLX，並新增嵌入模型 embeddinggemma-2 支援。官方表示會繼續測試並啟用更多模型。
Anyworld：本地 LLM 當 DM 的自託管多人文字 RPG
Anyworld 是一款瀏覽器端多人文字冒險遊戲，由房主用 llama.cpp 本地跑模型充當 DM，也支援 OpenAI 等雲 API，玩家只需開啟連結即可加入。行動結果由 Python 真實擲骰決定，模型只負責敘述；支援自訂劇本、隱藏劇情觸發、場外聊天和斷線重連。開發時用 Gemma 4-26B-A4B Q4、128k 上下文，在 RTX 5070 Ti 16GB 上每輪結算約 5 秒。
llama.cpp 新增 Decision 模型支援
llama.cpp 最新建置已加入 Decision 模型支援，新增 /v1/systemone 端點，可在本地進行 Jev 風格推理，兼顧效率與隱私。目前支援多個開源模型，官方表示後續還會增加更多模型。
Ollama v0.40.4 支援在終端直接執行決策模型
Ollama v0.40.4 讓決策模型可以直接在終端呼叫：用 ollama run --ask 就能提出是非問題、把文字分類到標籤或按評分標準打分。這一版還讓 Apple silicon 的 MLX runner 支援 Kev 決策模型，ollama launch 用 usage credits 也能使用、無需升級付費方案。ollama launch codex 的模型選擇器會列出本地已安裝的 Ollama 模型，可在 Codex CLI 裡用 /model 切換；
@AIatMeta: To help make advanced models more accessible, Muse Spark Open is optimized to run on two Apple M5 U…
Meta 發布 Muse Spark Open，為讓先進模型更易獲取，該模型針對最新 MLX 框架做了最佳化，可在兩臺 Apple M5 Ultra Mac Studio 上執行。它同時支援 SGLang、vLLM、TensorRT-LLM、Hugging Face Transformers、llama.cpp、Unsloth 等主流推理引擎，並針對 AMD、Apple、Intel 與 NVIDIA 晶片最佳化。