AISpot

搜尋

找到 3 筆;也可以試試 語意搜尋

Hacker News front page10/7 08:04AI 評分75

研究:LLM 用 1866 年電報體壓縮記錄可省近半 token

一份 50 篇材料、約 1300 題的新基準(Telegraph Test,程式碼與資料已開源)顯示,只需一句小寫指令讓模型用 1866 年跨大西洋電纜時代的電報體(cablese)撰寫壓縮記錄,輸出 token 可省 40%–49%,而下游模型讀取這些記錄的準確率不低於明文(恢復比 0.99–1.10)。GLM-5.3-Flash 自身省 48.4%,qwen3.8-27b 省 48.9%,gemma-4-31b 省 40.4%;

Hacker News front page● 精選10/8 09:29AI 評分76

LittleBit 開源亞 1-bit 量化官方實現,LittleBit-2 新增 Joint-ITQ 初始化

LittleBit 專案放出論文官方實現,可把 LLM 權重壓縮到 1.0 至 0.1 bits-per-weight,推理時保持原模型結構不變。ICML 2026 的 LittleBit-2 新增 Joint-ITQ 初始化,通過 --use_itq 開啟,只改初始化、不增加推理開銷,並支援 SmoothSign 量化感知訓練與可選殘差分解。