AISpot

搜尋

依意思最接近的 10 筆

llama.cpp releasesAI 評分43

llama.cpp 修復 ggml conv_1d 批次輸入轉置錯誤

llama.cpp 修復了 ggml conv_1d 在批次輸入下輸出通道與批次維度錯位的問題。conv_1d 背後的 GEMM 把 batch 折進行,結果在記憶體中是 [OL, N, OC],reshape 卻宣告為 [OL, OC, N],形狀正確但內容被轉置,因此不報錯、通道與批次交錯;N==1 時兩種讀法等價,倉庫裡三個 vocoder 都沒觸發。

llama.cpp releasesAI 評分43

llama.cpp 在 AMD 上用不依賴 WMMA 的 SIMT conv2d

llama.cpp 新建置 b11623 中,CUDA 後端的 conv2d 在 AMD 顯示卡上改用 SIMT 隱式 GEMM 實現,不再依賴 WMMA。提交說明提到,短歸約場景會跳過 SIMT conv2d,相關注釋也已更新。該版本照例放出各平台預編譯包,含 Ubuntu 與 Windows x64 的 ROCm 10.0、CUDA 12/13,以及 Vulkan、SYCL、OpenVINO、Snapdragon 等;

Hacker News front pageAI 評分73

AI 設計的開源加速卡 openTPU 跑通十餘款模型

一個由 AI 設計的開源 AI 加速器 openTPU 已在真實 PCIe 卡上跑通十餘款模型的真實權重,輸出與 bit-exact 模擬器逐位一致。硬體是 Xilinx Kintex-7 xc7k480t 加兩路 DDR3,LFM2.5-230M int8 解碼 59.0 tok/s、4-bit 達 85.8 tok/s;解碼受 DRAM 頻寬限制,實測跑到峰值的 82%-94%。

Claude blogAI 評分50

Cresta 用 Claude Agent SDK 做出 agent 建置器 Conductor

Cresta 在 Claude Agent SDK 之上建置了 Conductor,一個自然語言 agent 建置器,幫助團隊把複雜業務上下文轉成可上線的客服 agent。其早期版本用 Claude Sonnet 和 Opus 搭建,之後把 Claude Agent SDK 當作通用 harness,讓 agent 自行收集上下文、呼叫工具、編寫並執行程式碼。據 Cresta 披露,在其與合作伙伴的早期用例中,Conductor 把初始部署時間縮短約一半;

X @GoogleDeepMind● 精選AI 評分85

SynthID Detector 向所有人開放,可檢測多家 AI 生成內容

Google DeepMind 宣布 SynthID Detector 現已向所有人開放,可用來判斷網上內容是否由 AI 生成。該工具除 Google AI 外,還支援檢測 OpenAI、NVIDIA、Kakao 等行業夥伴工具生成的內容,Apple 即將加入。使用者可通過 synthid.com 試用。

llama.cpp releasesAI 評分43

llama.cpp b11574 最佳化 Hexagon NPU 複製與拼接運算元

llama.cpp 發布 b11574 建置,重點最佳化 Hexagon NPU 後端的 CPY/CONCAT 與 gather-rows 運算元:按 DMA 描述符分塊搬執行、加入雙緩衝與迴圈展開,緩解短行場景受 DMA 延遲拖累的問題,並支援 3/4 維維度摺疊。該版本還把 mdev 下 vtcm_acquire 的同步狀態全部改為原子操作,修復多裝置配置中的隨機卡死,並新增只建置/安裝 Hexagon 後端的選項。

Simon WillisonAI 評分23

班·艾佛列克談 VFX 中已用多年的機器學習

班·艾佛列克在引述中表示,視覺特效工作流多年來一直包含機器學習,他把卷積神經網路(CNN)稱為 transformer 的前身,區別在於後者能同時做更多計算。他自述能寫「很糟糕的 Python 指令碼」,並解釋張量是畫面在數值上的翻譯——批次號、幀號,以及每幀每個畫素的紅綠藍值。CNN 在張量上做邊緣檢測與特徵提取,識別出窗臺在哪裡,就能更容易地把綠幕部分摳掉並替換成別的內容。

Hacker News front pageAI 評分65

AI-DLC 發布:一套工作流核心支援 Claude Code、Codex、Cursor 等七個 harness

awslabs 發布 AI-DLC 最新穩定版,這是一套與 harness 無關的 AI 編碼工作流核心,可原生執行在 Claude Code、Kiro CLI、Kiro IDE、Codex CLI、Cursor、opencode 與 GitHub Copilot 中。macOS、Linux、WSL 和 Windows 各有一條安裝命令,原生安裝自帶 aidlc 命令與各 harness 執行時,無需 Bun 或 Node.js。