找到 15 筆
Anyworld 是一款瀏覽器端多人文字冒險遊戲，由房主用 llama.cpp 本地跑模型充當 DM，也支援 OpenAI 等雲 API，玩家只需開啟連結即可加入。行動結果由 Python 真實擲骰決定，模型只負責敘述；支援自訂劇本、隱藏劇情觸發、場外聊天和斷線重連。開發時用 Gemma 4-26B-A4B Q4、128k 上下文，在 RTX 5070 Ti 16GB 上每輪結算約 5 秒。
蘋果發布 14 英寸 MacBook Pro，首發搭載 M6 晶片，主打端側 AI 效能。M6 為 12 核 CPU 配 12 核 GPU，每顆 GPU 核心內建神經加速器，另有雙 16 核神經引擎；官方稱圖形效能較 M5 提升最多 30%、AI 負載提升 25%，神經引擎提升最多 1.9 倍。LLM 首 token 處理比 M1 機型快最多 13 倍、比 M5 快 1.3 倍；
有人在 GitHub 上對本地執行的大語言模型進行「拷問」和「疼痛」實驗，引發 X 上關於 AI 倫理的激烈爭論，部分有效利他主義者和相信 LLM 有感知的人要求 GitHub 刪除該專案。爭論源於近期多篇關於 AI 意識和「模型福利」的病毒式論文與博文，Anthropic 也曾在部落格和「Claude 憲法」中提及模型福利。文章認為 LLM 並不具備意識，其基於人類文字訓練的技術沒有通向意識的合理路徑。
Llmspeed 是一個可按硬體或模型查詢本地大模型推理速度的網站，用於在購買硬體前預估實際體驗。它覆蓋 RTX 5090、RTX 3090、Mac Studio M5 Ultra 512GB、DGX Spark、Strix Halo 與純 CPU 等三十餘種配置，以及 Qwen 3.6/3.8 27B、GPT-OSS 120B、DeepSeek V4 Flash、GLM-5.3 Flash 等模型，給出短提示、單裝置下的速度估計。
作者搭建了魔獸世界私服 jankcraft.xyz，並開發瀏覽器客戶端，PC 和手機均可免費遊玩。隨後用自訂 MCP 與 agent harness 通過 websocket 控制客戶端，讓 LLM 自動玩遊戲，agent 頁面已上線。本地模型需服務端開啟 CORS，作者自託管的幾個模型可能因用量增長下線；24GB 記憶體可跑 Qwen3.8-27B-GPTQ-W4A16，16GB 記憶體可用 vLLM 跑 Gemma4-e4b-coder。
新的 C 語言推理引擎 Janas-LLM 把 MoE 權重留在磁碟、按 token 從 NVMe SSD 流式讀取專家，在 32 GB 記憶體的筆記本上跑起了 48.4 GB 的 Qwen3-Next-80B。
開源桌面書籤管理器 Linkit 上線，支援 macOS、Windows 與 Linux；預設把書籤存入本地 SQLite 資料庫，無需帳號即可離線使用，基於 Supabase 行級安全的多裝置雲同步也完全免費、無付費牆。AI 摘要、語義搜尋、知識圖譜與重複檢測需自備 OpenAI 相容 API 或 Ollama 等本地模型，官方不提供內建 LLM 與金鑰。支援從 Chrome、Firefox、Raindrop 一鍵匯入，macOS 可用 Homebrew 安裝。
SCM（Screen Memories）是一款 macOS 本地優先的 AI 搜尋工具，可對任意資料夾中的照片和影片逐幀進行語義搜尋，無需帳號、雲端或上傳，推理全部在本機完成。它提供 Files、Scenes、OCR、Dialogue 和可選的本地 LLM 聊天五種搜尋模式，支援按鏡頭時間碼跳轉、Whisper 臺詞精確檢索以及 Tesseract 多語言文字識別。預設 CLIP 模型權重約 435MB，首次下載後完全離線；
開源工具 mlsubgen 可在本機為影片生成 45 種語言字幕，僅支援 Linux 與 NVIDIA 顯示卡。它按每段語音檢測語言而非整檔案，同時執行兩個語音識別器並用本地 LLM 調和，且優先使用內嵌字幕軌（含藍光 PGS 點陣圖 OCR），無字幕時才聽音訊。模型佔用 30–65 GB 儲存，需 16–32 GB 記憶體，作者在 24 GB RTX A5000 上實測，純聽音訊時約每個目標語言耗時接近即時。
MLX 發布 v0.31.0，新增 Qwen 3.5 張量並行支援、JoyAI LLM Flash 模型，並加入 --prefill-step-size 命令列引數以權衡速度與視訊記憶體。該版本集中修復了 CacheList 儲存/載入、MLA 模型混合量化、MiniMax M2.5 分片 RMS Norm 等問題，同時改進服務端快取並新增 cached_tokens 用量欄位。
Meta 發布 Muse Spark Open，為讓先進模型更易獲取，該模型針對最新 MLX 框架做了最佳化，可在兩臺 Apple M5 Ultra Mac Studio 上執行。它同時支援 SGLang、vLLM、TensorRT-LLM、Hugging Face Transformers、llama.cpp、Unsloth 等主流推理引擎，並針對 AMD、Apple、Intel 與 NVIDIA 晶片最佳化。
MultiverseComputing 團隊發布論文 ProvenanceGuard，針對 MCP Agent 的跨來源混淆問題：答案中的事實雖在證據池中存在，卻被歸因到錯誤的工具來源。該方法在生成後保留來源 ID，依次做宣告拆分、來源路由、支援度打分、歸因比對與修復，並用 MiniLM、DeBERTa NLI 等本地模型離線執行。
蘋果發布新款 14 英寸 MacBook Pro，首發搭載 M6 晶片，採用 12 核 CPU、12 核 GPU（每顆核心帶 Neural Accelerator）和雙 16 核神經網路引擎。官方稱其圖形效能較 M5 提升最多 30%，端側 AI 負載提升最多 25%，神經網路引擎提升最多 1.9 倍；LLM 首 token 處理速度比 M1 機型快最多 13 倍、比 M5 機型快 1.3 倍。
2015 年發布的 Inception v3 卷積網路經約 20 分鐘微調後，在 200 個活檢確診的皮膚病變中首選診斷正確 125 個（62%），高於 GPT-6 Astra 的 84 個與 Claude Fable 5.1 的 85 個（均 42%）。測試集取自 2025 年公開的 MILK10k，每例含臨床照片與皮膚鏡影像，模型小到可在手機瀏覽器用 WebGPU 本地執行，影像不上傳。
開源工具 CATT 0.2.1 讓開發者用一個模擬的 Muse/Instinct 助手來測試自己的服務或 MCP。測試者可設定起始條件、審批和成功條件；CATT 會記錄完整互動（含工具呼叫與回應），並對比助手聲稱的結果與實際發生的情況。它支援工具呼叫與命令列訪問、模擬服務審批，並提供基於非官方 Muse 模板的 MCP profile；它可在本地或 CI 中執行，有無 LLM 後端均可。