AISpot

搜尋

找到 5 筆

Hacker News front pageAI 評分48

自建 LLM 代理才能看清 token 用量與呼叫日誌

有開發者主張,訂閱制前端自帶的用量面板不足以支撐工程決策,LLM 代理應當自己託管。自建代理可在單一端點聚合多家供應商與模型,記錄哪個金鑰在何時、用哪個客戶端呼叫了哪個模型及其狀態,並用虛擬 API key 避免主金鑰散落在各類 agent 與工具中,還能快速切換模型而不必重新配置。作者不推薦具體代理服務,只建議部署在自己可控的環境並按需改造,例如增加自訂 MCP server 端點;其代理帶 API,編碼會話中的快取未命中可在約 20 秒內手工定位,也可自動化。

Hacker News front pageAI 評分46

Consus 推出敏感資料 LLM 閘道器,完成 FedRAMP High 等效審計

Consus 發布面向 ITAR 與 CUI 敏感資料的 LLM 閘道器,並已完成針對 410 項 FedRAMP High 控制的等效審計。所有請求走單一 OpenAI 相容端點,模型名必須帶合規字尾(如 gpt-5.6-sol:fedramp-high、claude-opus-5-5:itar),裸模型名一律拒絕,且不代理標準商用端點。企業可通過 Consus Portal 管理金鑰、模型白名單與使用者級花費和模型限制。

LM Studio blog● 精選AI 評分62

Bionic 推出 Auto Review 自動審批 shell 命令

Bionic 新增名為 Auto Review 的 shell 命令審批模式,先由確定性的 Shell Judge 做 AST 解析、能力提取與命令匹配,判定安全即直接執行,否則交給 Shell Reviewer 子代理結合會話記錄複核。Shell Judge 支援 sh、bash、zsh 與 PowerShell,官方稱當前版本可自動批准其代理執行命令中的 82%,且不呼叫 LLM。Bionic 預設零資料保留,範例命令來自內部測試裝置。

Hacker News front pageAI 評分35

SaaS 公司將變成圍繞模型的 harness

Shrivu Shankar 在 8 月 24 日的文章中提出,每家 SaaS 公司最終都會變成圍繞模型搭建的 harness,即包裹無狀態 LLM 的基礎設施、介面、上下文與狀態。他給出五階段演進路徑:傳統 SaaS、工程師與 agent 結對、個人執行 harness、個人編排 harness、harness 編排個人,屆時核心任務由 agent 完成,人類只負責提供品味與判斷。

Hacker News front pageAI 評分45

計算機教授:AI 時代仍值得學程式設計,但初級程式設計師必須親手寫程式碼

蒙大拿州立大學計算機教授 Carson Gross 在《Yes, and...》中回答“AI 時代還該不該學程式設計”:應該,但初級程式設計師必須親手寫程式碼。他認為 AI 能生成作業程式碼,但若因此不寫程式碼,就難以讀懂程式碼,可能造出自己無法理解和控制的系統;AI 更適合當助教,他給學生提供 AGENTS.md 來把編碼代理配置成助教。他同時判斷,未來寫程式碼本身的相對價值會下降,清晰溝通與理解業務會更重要。