Respan 開源 Rust AI 閘道器,核心精簡、一切皆外掛
Respan(YC W24)開源了用 Rust 編寫的 AI 閘道器:核心只負責分發事件,provider、協議(MCP、即時語音)、模態(影像、影片)以及回退、PII 脫敏、智慧路由等功能都做成外掛接入。團隊自 2024 年起在 LiteLLM 上做封裝,服務數千家組織,封裝程式碼一度超過 10 萬行;今年 1 月一次 LiteLLM 常規升級引發間歇性連線錯誤,只能回滾,因此團隊決定自行重寫。新增 provider 只需一個短檔案,Mistral 適配僅 22 行;
它來自一個從 LiteLLM 封裝超 10 萬行程式碼、升級事故後被迫重寫的真實案例;公開了 22 行接入一個 provider 的外掛式架構,對自建 LLM 閘道器的團隊有直接參考價值。
原標題:Launch HN: Respan (YC W24) – Open-source Rust AI gateway built around plugins
閱讀原文
| 評分 | 60 / 63(平均 61,門檻 76) |
|---|---|
| 狀態 | 未入選 |
相關報導
DHH 讓 AI 重寫的 Rust 版 Campfire 高負載通知投遞率僅 1%
DHH 讓 AI agent 把 Campfire Once 從 Ruby on Rails 重寫為 Rust,並追加了 Elixir、Go 版本,而他本人並不閱讀程式碼;結果 Rust 版在高負載下新帖通知的投遞率只有 1%(6-7k 個事件中)。該版本還丟掉了 CSRF token 以便快取、用程序內佇列替代 Redis,未保持 100% 向後相容,部分資料庫操作與鎖也以阻塞方式跑在 async 任務裡。
Capsem 開源:用 Rust hypervisor 把 AI 編碼代理關進氣隙 Linux VM
Rust 編寫的 hypervisor Capsem 開源發布,把每個 AI 編碼代理關進獨立的氣隙 Linux 虛擬機器裡執行。macOS 端基於 Apple Virtualization.framework,要求 macOS 14+ 與 Apple Silicon,Linux 端需 KVM,預裝 Claude Code、Gemini CLI、Codex 與 Python、Node.js 等 30 多個包,10 秒內可進入提示符。
Meta 開源 Muse AI 硬體程式碼,可用 ESP32 自製裝置
Meta 開源了讓使用者自製 Muse AI 硬體裝置的程式碼,Muse 是其新的 AI agent。官方建議的玩法包括把 Muse 裝到彩色 E Ink 屏上顯示提醒、裝到 HDMI 棒上投到大屏,或裝到小觸控式螢幕裝置上做成類似 DIY Muse Charm 的形態。使用者可用現成 ESP32 板或 Raspberry Pi 配合官方 SDK,連線顯示屏、按鈕、感測器、執行器等外設。
LLM 把 TypeScript 編譯器移植成 Rust 版 tsc-rs
LLM 從零將 TypeScript 編譯器移植為 Rust 版 tsc-rs 併發布,Claude Opus 5.5 用兩週、約 24,047 美元 API 費用完成;此前用 OpenAI 的 GPT-5.6 Sol 與 GPT 6 Astra 花掉逾 40 萬美元仍未突破約 84% 相容度。
llm-mistral 0.16 發布,新增支援 Mistral Large 4 等推理模型
Simon Willison 發布 LLM 外掛 llm-mistral 0.16,新增對推理模型的支援,包括新發布的 Mistral Large 4。該外掛通過 Mistral API 提供對 Mistral 模型的訪問,屬於 LLM 外掛生態的一部分。發布日期為 2026 年 10 月 6 日。