HyperQ 用 64 量子位元讓 1.1B 擴散語言模型超過 8B 模型
蒙特利爾大學、Mila 與麥吉爾團隊提出 HyperQ，把逐 Token 動態生成的量子電路接入擴散語言模型；在 64 量子位元下，11 億引數模型的六項零樣本測試平均分超過 Qwen3-8B 等 80 億引數模型。超網路根據每個 Token 的隱藏狀態生成量子門旋轉角度、耦合強度與測量方向，只訓練新增的量子分支，不改動主幹；相比凍結主幹提升 4.71 分，也超過 LoRA 微調，而指令微調資料只有後者的十分之一。
它給出了逐 Token 量子電路的量化收益：64 量子位元下提升 4.71 分、超越 LoRA，並在 IBM 156 量子位元硬體上驗證，對關注量子計算與大模型結合及擴散語言模型的研究者有參考價值。
原標題：大模型开挂了！64量子比特，让11亿参数模型逆袭80亿
閱讀原文
| 評分 | 68 / 72（平均 70，門檻 65） |
|---|---|
| 狀態 | 精選 |
相關報導
用 ML Intern 幾天做出 6 個模型，9B 改寫器壓到 0.8B
Hugging Face 的 yuvraj sharma 用 HuggingChat 裡的 ML Intern agent，幾天內做出 6 個公開模型，其中把 Qwen-Image 2.1 自帶的 9B 提示改寫器蒸餾成 0.8B 版本，可在 CPU 執行，輸出有效率 99.7%，token 消耗約為教師模型的四分之一。該專案含 9B 模型標註 8,797 條樣本，算力成本 16 美元。
LocalLLaMA 討論：大模型用 IQ1_S 量化到底行不行
r/LocalLLaMA 上一則帖子以「FP8/BF16 使用者看到有人跑 IQ1_S」為題引發討論。多位使用者認為量化影響取決於用途：創意寫作、閒聊可容忍 IQ1/IQ2，但編碼、複雜推理和結構化 JSON 提取會明顯崩壞。有人實測 Qwen 3.8 27b 後稱 mxfp4/nvfp4 品質接近 Q6，GSQ-RCO 在 IQ3_S、IQ3_XXS 仍可用；也有人認為 Q4_K_M 或 Q5_K_M 是多數模型的甜點區。
Mercury 3 發布：擴散 LLM 跑分反超 GPT-6 Luna，速度快約 8 倍
Inception Labs 發布擴散語言模型 Mercury 3，在 NVIDIA GPU 上輸出速度達 1068 Token/s，約為 GPT-6 Luna 的 8 倍，且在 GPQA Diamond（89.23）、SWE-Bench Atlas（51.08）等基準上高於 GPT-6 Luna 與 Claude Haiku 5.5。其總引數量較 Mercury 1 擴大 40 多倍，上下文視窗從 26 萬升至 100 萬 Token。
Qwen3.8-Flash-Next 177B 在單張 RTX 5070 上跑出 11-15 tok/s
有人在 Windows 上用 llama.cpp 的專家流式方案，在單張 RTX 5070 12GB 加 32GB DDR4-2400 記憶體上執行 Qwen3.8-Flash-Next 177B（UD-IQ3_XXS），基準約 11.5 tok/s，日常對話可達 14-15 tok/s。一次長程式設計提示以 10.15 tok/s 生成 4,892 個 token，產出一個可執行的單檔案貪吃蛇遊戲。
LittleBit 開源亞 1-bit 量化官方實現，LittleBit-2 新增 Joint-ITQ 初始化
LittleBit 專案放出論文官方實現，可把 LLM 權重壓縮到 1.0 至 0.1 bits-per-weight，推理時保持原模型結構不變。ICML 2026 的 LittleBit-2 新增 Joint-ITQ 初始化，通過 --use_itq 開啟，只改初始化、不增加推理開銷，並支援 SmoothSign 量化感知訓練與可選殘差分解。