找到 5 筆
llama.cpp 修復了 -hf 從 Hugging Face 拉取 GGUF 時量化標籤按子串誤匹配的問題。此前 :F16 會在倉庫同時有 BF16 時選中 BF16 檔案，:Q4_XS 也會誤中 IQ4_XS；現在標籤必須從路徑中的 token 邊界開始，並新增下劃線作為邊界，因此 step3p5_flash_Q4_K_S-00001-of-00012.gguf 這類命名可正常匹配 :Q4_K_S。
MLX 發布 v0.40.0-rc1，核心改動是讓本地 tokenizer 與模型發布方的語義保持一致，涵蓋預分詞階段順序、切分行為、Unicode 邊界、added token 歸一化和 BPE 合併排序，並統一處理空 added token 與空 Metaspace 輸入。同時新增 Go/Python 共享參考用例，直接拉取缺失模型並在出錯時失敗，另加配置優先順序、位元組回退與並行編碼的迴歸測試。
南洋理工大學、中國科大、新加坡國立大學與微軟研究院提出 NV-CoT，讓多模態大模型直接輸出連續數值座標來框選影像區域，取代把邊界框寫成文字 token 的做法，該工作入選 NeurIPS 2026 Oral。方法在原有輸出頭之外加四個輕量線性層做座標迴歸，SFT 階段用迴歸損失，強化學習階段用 Laplace 分佈取樣邊界框，無需中間框標註。在 Vis-CoT-363K 驗證集上定位 IoU 從 47.3 升至 59.5；
10 月 25 日，無問芯穹與三體宇宙發布首個合作成果智子 Agent 1.0，以《三體》小宇宙管理員智子為角色錨點，對話記憶可跨會話延續。角色一致性由無問芯穹 Agentic Infra 支撐：AgentWorks 平台負責知識庫組、多層提示詞與 Infini Memory 記憶，多智慧體協同以“生成—判別—定向修正”閉環排查 OOC 與世界觀越界；三體宇宙負責設定與角色邊界。
開發者將 Sparse VideoGen（SVG）用於高解析度影片擴散模型，把注意力頭動態路由到結構化空間或時間稀疏掩碼，以緩解自注意力的二次延遲瓶頸。為在 TPU 上把演算法稀疏轉化為實際加速，團隊最佳化 Splash Attention 核心：跳過空記憶體塊、僅在邊界塊做精確座標掩碼、將 token 記憶體佈局改為時間優先以連續訪問。這些最佳化與硬體塊執行對齊後，1440p 影片生成端到端推理最高提速 1.69 倍。