510 位元組啟動扇區跑神經網路,生成 Linux 啟動日誌
有人在 510 位元組的 MBR 啟動扇區裡塞進了一個神經網路推理引擎,用來憑空生成不存在的硬體所對應的 Linux 啟動日誌。推理引擎本身只佔 510 位元組,權重、詞表和字串放在 MBR 之後的扇區;網路是字元級、只有一個 int8 隱層,訓練資料是機器生成的 dmesg。作者讓 train.py 執行與彙編完全相同的整數運算,輸出與 QEMU 逐字元一致;除錯時發現 idiv 會把餘數寫進 edx,覆蓋偏置表指標,使第一個神經元之後的值全部出錯。
在 510 位元組內實現可執行的神經網路推理,並給出與 QEMU 逐字元一致的驗證和 idiv 覆蓋指標這類具體 bug,對關心極限底層最佳化與 int8 推理實現的人有參考價值。
原標題:Show HN: A language model that lives in a boot sector
閱讀原文
| 評分 | 50 / 60(平均 55,門檻 76) |
|---|---|
| 狀態 | 未入選 |
相關報導
Janas-LLM 讓 32GB 筆記本跑 48GB 的 80B MoE 模型,速度快過 llama.cpp
新的 C 語言推理引擎 Janas-LLM 把 MoE 權重留在磁碟、按 token 從 NVMe SSD 流式讀取專家,在 32 GB 記憶體的筆記本上跑起了 48.4 GB 的 Qwen3-Next-80B。
176B MoE 模型在 16GB 視訊記憶體筆記本上跑通
開發者用自研開源推理引擎 TensorSharp,在 RTX 3080 Laptop(16GB 視訊記憶體)+32GB 記憶體+SSD 的普通筆記本上執行 Qwen3.8 Flash Next 176B。做法是量化加 MoE 感知的統一排程,把快取、視訊記憶體、記憶體和 SSD 按專家啟用情況分層協調。對比 Strata:解碼 11.09 對 10.24 tok/s,但整程耗時 16.54 秒對 62.15 秒。
田淵棟參與創立的 Recursive 開源 40B 本地程式設計模型 Flint
田淵棟參與創立的 Recursive_SI 發布首個模型 Flint-40B-A2B,已在 Hugging Face 以 Apache 2.0 開放權重。這是一個總引數 400 億、每 Token 僅啟用 25 億的 MoE 智慧體程式設計模型,在 M4 Pro MacBook Pro 上生成速度超過每秒 125 Token,在 64GB 記憶體的 NVIDIA RTX Spark 上超過每秒 150 Token。
有人把 NES 6502 CPU 模擬器燒進 Qwen3.5-4B 權重
Drew Breunig 受 qwenputer 啟發,把可執行的 NES 6502 CPU 模擬器做進了 Qwen3.5-4B 的權重裡,現在能在 Qwen 內部跑 Super Mario Bros 等 NES ROM,速度很慢。實現過程由 Opus 5.5 完成:提示詞要求先讀 qwenputer 部落格與原始碼,再判斷能否用同樣方法模擬 NES 的晶片與記憶體、需要多大模型才能跑到標準時鍾頻率;
面壁智慧 ForgeKernel 直播自寫運算元,反超 DeepSeek FlashMLA 9.8%
面壁智慧的運算元生成系統 ForgeKernel 在無原始碼、無參考實現的情況下,通過直播自進化 22.5 小時,在輝達 B200 上把 DeepSeek-V4.1 的 FlashMLA Prefill 運算元做到 472 微秒,比人類手寫的 518 微秒快 9.8%。全程 42 輪迭代、留下 32 個版本,只用了 1 張 B200 和 22 個 GPU 小時,人工編寫 0 行程式碼。它此前已登頂昇騰 CANNBench 950DT、950PR、A3 三張榜單第一,並在直播結束後開源;