AISpot

Respan 開源 Rust AI 閘道器,核心精簡、一切皆外掛

Hacker News front page官方公告開發工具開源產品與方案

Respan(YC W24)開源了用 Rust 編寫的 AI 閘道器:核心只負責分發事件,provider、協議(MCP、即時語音)、模態(影像、影片)以及回退、PII 脫敏、智慧路由等功能都做成外掛接入。團隊自 2024 年起在 LiteLLM 上做封裝,服務數千家組織,封裝程式碼一度超過 10 萬行;今年 1 月一次 LiteLLM 常規升級引發間歇性連線錯誤,只能回滾,因此團隊決定自行重寫。新增 provider 只需一個短檔案,Mistral 適配僅 22 行;

它來自一個從 LiteLLM 封裝超 10 萬行程式碼、升級事故後被迫重寫的真實案例;公開了 22 行接入一個 provider 的外掛式架構,對自建 LLM 閘道器的團隊有直接參考價值。

原標題:Launch HN: Respan (YC W24) – Open-source Rust AI gateway built around plugins
閱讀原文

評分60 / 63(平均 61,門檻 76)
狀態未入選

相關報導

Hacker News front pageAI 評分74

DHH 讓 AI 重寫的 Rust 版 Campfire 高負載通知投遞率僅 1%

DHH 讓 AI agent 把 Campfire Once 從 Ruby on Rails 重寫為 Rust,並追加了 Elixir、Go 版本,而他本人並不閱讀程式碼;結果 Rust 版在高負載下新帖通知的投遞率只有 1%(6-7k 個事件中)。該版本還丟掉了 CSRF token 以便快取、用程序內佇列替代 Redis,未保持 100% 向後相容,部分資料庫操作與鎖也以阻塞方式跑在 async 任務裡。

Hacker News front pageAI 評分62

Capsem 開源:用 Rust hypervisor 把 AI 編碼代理關進氣隙 Linux VM

Rust 編寫的 hypervisor Capsem 開源發布,把每個 AI 編碼代理關進獨立的氣隙 Linux 虛擬機器裡執行。macOS 端基於 Apple Virtualization.framework,要求 macOS 14+ 與 Apple Silicon,Linux 端需 KVM,預裝 Claude Code、Gemini CLI、Codex 與 Python、Node.js 等 30 多個包,10 秒內可進入提示符。

The Verge AIAI 評分63

Meta 開源 Muse AI 硬體程式碼,可用 ESP32 自製裝置

Meta 開源了讓使用者自製 Muse AI 硬體裝置的程式碼,Muse 是其新的 AI agent。官方建議的玩法包括把 Muse 裝到彩色 E Ink 屏上顯示提醒、裝到 HDMI 棒上投到大屏,或裝到小觸控式螢幕裝置上做成類似 DIY Muse Charm 的形態。使用者可用現成 ESP32 板或 Raspberry Pi 配合官方 SDK,連線顯示屏、按鈕、感測器、執行器等外設。