Google Developers blog● 精選AI 評分78
LiteRT 發布 Tensor API,可用 C++ 手寫端側模型圖
LiteRT 發布 Tensor API,這是一個輕量 C++ 編寫層,開發者可以逐個運算元手工建置計算圖;同一份程式碼經 LiteRT 能跑在 CPU、GPU 與 NPU 上,不必為新硬體重寫。官方用 SAM 2 演示:模型全部用 C++ 編寫,在瀏覽器 WebGPU 上配合 Gemma 4 E2B 做即時多目標分割;coding agent 把它在 512×512 下的幀率從不足 10 提升到 30 以上。