依意思最接近的 5 筆
llama.cpp 新建置 b11623 中，CUDA 後端的 conv2d 在 AMD 顯示卡上改用 SIMT 隱式 GEMM 實現，不再依賴 WMMA。提交說明提到，短歸約場景會跳過 SIMT conv2d，相關注釋也已更新。該版本照例放出各平台預編譯包，含 Ubuntu 與 Windows x64 的 ROCm 10.0、CUDA 12/13，以及 Vulkan、SYCL、OpenVINO、Snapdragon 等；
llama.cpp 修復了 ggml conv_1d 在批次輸入下輸出通道與批次維度錯位的問題。conv_1d 背後的 GEMM 把 batch 折進行，結果在記憶體中是 [OL, N, OC]，reshape 卻宣告為 [OL, OC, N]，形狀正確但內容被轉置，因此不報錯、通道與批次交錯；N==1 時兩種讀法等價，倉庫裡三個 vocoder 都沒觸發。
班·艾佛列克在引述中表示，視覺特效工作流多年來一直包含機器學習，他把卷積神經網路（CNN）稱為 transformer 的前身，區別在於後者能同時做更多計算。他自述能寫「很糟糕的 Python 指令碼」，並解釋張量是畫面在數值上的翻譯——批次號、幀號，以及每幀每個畫素的紅綠藍值。CNN 在張量上做邊緣檢測與特徵提取，識別出窗臺在哪裡，就能更容易地把綠幕部分摳掉並替換成別的內容。
llama.cpp 發布 b11603，重點最佳化 Vulkan 後端的 pool_2d：當池化視窗大於一個 subgroup 時，改用一個完整 subgroup 計算每個輸出，以提升大視窗下的池化效能。
一個由 AI 設計的開源 AI 加速器 openTPU 已在真實 PCIe 卡上跑通十餘款模型的真實權重，輸出與 bit-exact 模擬器逐位一致。硬體是 Xilinx Kintex-7 xc7k480t 加兩路 DDR3，LFM2.5-230M int8 解碼 59.0 tok/s、4-bit 達 85.8 tok/s；解碼受 DRAM 頻寬限制，實測跑到峰值的 82%-94%。