AISpot

搜尋

找到 1 筆;也可以試試 語意搜尋

Hacker News front pageAI 評分61

Respan 開源 Rust AI 閘道器,核心精簡、一切皆外掛

Respan(YC W24)開源了用 Rust 編寫的 AI 閘道器:核心只負責分發事件,provider、協議(MCP、即時語音)、模態(影像、影片)以及回退、PII 脫敏、智慧路由等功能都做成外掛接入。團隊自 2024 年起在 LiteLLM 上做封裝,服務數千家組織,封裝程式碼一度超過 10 萬行;今年 1 月一次 LiteLLM 常規升級引發間歇性連線錯誤,只能回滾,因此團隊決定自行重寫。新增 provider 只需一個短檔案,Mistral 適配僅 22 行;