AISpot

510 位元組啟動扇區跑神經網路,生成 Linux 啟動日誌

Hacker News front page社群討論研究地端推論開源

有人在 510 位元組的 MBR 啟動扇區裡塞進了一個神經網路推理引擎,用來憑空生成不存在的硬體所對應的 Linux 啟動日誌。推理引擎本身只佔 510 位元組,權重、詞表和字串放在 MBR 之後的扇區;網路是字元級、只有一個 int8 隱層,訓練資料是機器生成的 dmesg。作者讓 train.py 執行與彙編完全相同的整數運算,輸出與 QEMU 逐字元一致;除錯時發現 idiv 會把餘數寫進 edx,覆蓋偏置表指標,使第一個神經元之後的值全部出錯。

在 510 位元組內實現可執行的神經網路推理,並給出與 QEMU 逐字元一致的驗證和 idiv 覆蓋指標這類具體 bug,對關心極限底層最佳化與 int8 推理實現的人有參考價值。

原標題:Show HN: A language model that lives in a boot sector
閱讀原文

評分50 / 60(平均 55,門檻 76)
狀態未入選

相關報導

r/LocalLLaMA top of the dayAI 評分70

176B MoE 模型在 16GB 視訊記憶體筆記本上跑通

開發者用自研開源推理引擎 TensorSharp,在 RTX 3080 Laptop(16GB 視訊記憶體)+32GB 記憶體+SSD 的普通筆記本上執行 Qwen3.8 Flash Next 176B。做法是量化加 MoE 感知的統一排程,把快取、視訊記憶體、記憶體和 SSD 按專家啟用情況分層協調。對比 Strata:解碼 11.09 對 10.24 tok/s,但整程耗時 16.54 秒對 62.15 秒。

機器之心● 精選AI 評分84

田淵棟參與創立的 Recursive 開源 40B 本地程式設計模型 Flint

田淵棟參與創立的 Recursive_SI 發布首個模型 Flint-40B-A2B,已在 Hugging Face 以 Apache 2.0 開放權重。這是一個總引數 400 億、每 Token 僅啟用 25 億的 MoE 智慧體程式設計模型,在 M4 Pro MacBook Pro 上生成速度超過每秒 125 Token,在 64GB 記憶體的 NVIDIA RTX Spark 上超過每秒 150 Token。

Simon Willison● 精選AI 評分66

有人把 NES 6502 CPU 模擬器燒進 Qwen3.5-4B 權重

Drew Breunig 受 qwenputer 啟發,把可執行的 NES 6502 CPU 模擬器做進了 Qwen3.5-4B 的權重裡,現在能在 Qwen 內部跑 Super Mario Bros 等 NES ROM,速度很慢。實現過程由 Opus 5.5 完成:提示詞要求先讀 qwenputer 部落格與原始碼,再判斷能否用同樣方法模擬 NES 的晶片與記憶體、需要多大模型才能跑到標準時鍾頻率;

量子位● 精選AI 評分82

面壁智慧 ForgeKernel 直播自寫運算元,反超 DeepSeek FlashMLA 9.8%

面壁智慧的運算元生成系統 ForgeKernel 在無原始碼、無參考實現的情況下,通過直播自進化 22.5 小時,在輝達 B200 上把 DeepSeek-V4.1 的 FlashMLA Prefill 運算元做到 472 微秒,比人類手寫的 518 微秒快 9.8%。全程 42 輪迭代、留下 32 個版本,只用了 1 張 B200 和 22 個 GPU 小時,人工編寫 0 行程式碼。它此前已登頂昇騰 CANNBench 950DT、950PR、A3 三張榜單第一,並在直播結束後開源;