搜尋 關鍵字 語意 依意思最接近的 15 筆
llama.cpp releases10/14 19:54 AI 評分43
llama.cpp 新建置 b11623 中,CUDA 後端的 conv2d 在 AMD 顯示卡上改用 SIMT 隱式 GEMM 實現,不再依賴 WMMA。提交說明提到,短歸約場景會跳過 SIMT conv2d,相關注釋也已更新。該版本照例放出各平台預編譯包,含 Ubuntu 與 Windows x64 的 ROCm 10.0、CUDA 12/13,以及 Vulkan、SYCL、OpenVINO、Snapdragon 等;
llama.cpp releases10/22 08:19 AI 評分36
llama.cpp 的 SYCL 後端修復了 CONV_2D 在非連續輸入下靜默算錯的問題,並新增對 CWHN 通道序佈局的支援。此前 supports_op 聲稱支援任意佈局,但卷積 kernel 按連續的 [W, H, C, N] 索引,CWHN 等排列的輸入會被用錯誤偏移讀取;現在改為與 CUDA 後端約定一致,對輸入和卷積核的連續性做校驗。
llama.cpp releases10/15 00:36 AI 評分43
llama.cpp 修復了 ggml conv_1d 在批次輸入下輸出通道與批次維度錯位的問題。conv_1d 背後的 GEMM 把 batch 折進行,結果在記憶體中是 [OL, N, OC],reshape 卻宣告為 [OL, OC, N],形狀正確但內容被轉置,因此不報錯、通道與批次交錯;N==1 時兩種讀法等價,倉庫裡三個 vocoder 都沒觸發。
llama.cpp releases10/26 14:18 AI 評分43
llama.cpp 建置 b11906 把 ggml-cpu 的 concat 重寫為單個按行執行的 kernel,所有型別共用一套實現,量化型別也包含在內:稠密源行只需一次 memcpy,轉置源則按元素逐個複製,元素大小在編譯期已知。行不再只沿 i2 維度切分(該維度常為 1),而是按 32 行一組分塊分給多執行緒;遇到轉置源時在外層迴圈遍歷元素,讓同一 tile 的各行讀取相鄰地址。
llama.cpp releases10/22 19:41 AI 評分41
llama.cpp 建置 b11827 在 OpenCL 後端新增 depthwise conv2d(深度卷積)支援,並針對 Adreno GPU 做了適配,可讓部分卷積類模型在驍龍 Adreno GPU 上以 OpenCL 加速執行。該改動還提到改用本地 program、引數改用有符號型別,貢獻者來自高通。
llama.cpp releases10/25 14:59 AI 評分42
llama.cpp 建置 b11877 給 Vulkan 後端的 conv3d 增加了更大的 tile 尺寸,只在 coopmat2 路徑啟用。原因是這條路徑不需要用共享記憶體存放輸出,否則會超過 64KB 上限。該大 tile 只對較新版本的驅動生效,同時補充了若干代表性後端測試;發布說明稱這套改動來自 codex 檢視 sd.cpp 的 Wan VAE 後給出的方案。
Simon Willison10/7 23:14 AI 評分23
班·艾佛列克在引述中表示,視覺特效工作流多年來一直包含機器學習,他把卷積神經網路(CNN)稱為 transformer 的前身,區別在於後者能同時做更多計算。他自述能寫「很糟糕的 Python 指令碼」,並解釋張量是畫面在數值上的翻譯——批次號、幀號,以及每幀每個畫素的紅綠藍值。CNN 在張量上做邊緣檢測與特徵提取,識別出窗臺在哪裡,就能更容易地把綠幕部分摳掉並替換成別的內容。
llama.cpp releases10/13 22:04 AI 評分46
llama.cpp 發布 b11603,重點最佳化 Vulkan 後端的 pool_2d:當池化視窗大於一個 subgroup 時,改用一個完整 subgroup 計算每個輸出,以提升大視窗下的池化效能。
Hacker News front page10/6 16:23 AI 評分73
一個由 AI 設計的開源 AI 加速器 openTPU 已在真實 PCIe 卡上跑通十餘款模型的真實權重,輸出與 bit-exact 模擬器逐位一致。硬體是 Xilinx Kintex-7 xc7k480t 加兩路 DDR3,LFM2.5-230M int8 解碼 59.0 tok/s、4-bit 達 85.8 tok/s;解碼受 DRAM 頻寬限制,實測跑到峰值的 82%-94%。
llama.cpp releases10/21 01:30 AI 評分38
llama.cpp 發布 b11770 建置,CUDA 後端新增對 ssm_conv 卷積核尺寸 7 的支援(#30873),補齊狀態空間模型在 GPU 上的運算元覆蓋。該版本同時提供 macOS、iOS、Linux、Android、Windows 與 openEuler 的預編譯包,覆蓋 CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 及 Snapdragon 的 CPU、Adreno GPU、Hexagon NPU 等後端。
llama.cpp releases10/21 03:25 AI 評分41
llama.cpp 發布建置 b11777,主要改動是 Qwen 模型的輸出改為 reshape 成 2D 而非 3D,同時移除末尾的 reshape 並修正相關注釋(#30823)。
Hacker News front page● 精選 10/16 19:47 AI 評分87
Black Forest Labs 發布 5.6B 引數的開源權重模型 FLUX 3 Image Klein,支援文生圖、影像編輯和最多 10 張參考圖的多參考生成,並保留原生 4K 與邊界框控制。INT8 版本可在 8GB 視訊記憶體的 NVIDIA RTX 顯示卡上通過 ComfyUI 或 Diffusers 執行,蒸餾模型在 RTX 5090 上約 4 秒生成一張 1MP 影像,RTX 4070 上不到 9 秒。
Hacker News front page10/25 17:15 AI 評分74
2015 年發布的 Inception v3 卷積網路經約 20 分鐘微調後,在 200 個活檢確診的皮膚病變中首選診斷正確 125 個(62%),高於 GPT-6 Astra 的 84 個與 Claude Fable 5.1 的 85 個(均 42%)。測試集取自 2025 年公開的 MILK10k,每例含臨床照片與皮膚鏡影像,模型小到可在手機瀏覽器用 WebGPU 本地執行,影像不上傳。
Hacker News front page● 精選 10/6 16:03 AI 評分85
Google DeepMind 發布 EmbeddingGemma 2,一個 Apache 2.0 許可、740M 引數的開源端側多模態嵌入模型,基於 Gemma 4 架構,把文字、程式碼、影像、音訊與影片對映到同一嵌入空間。它按需模組化:純文字最低 270M 引數,另有 170M 視覺與 300M 音訊編碼器;MRL 支援把 768 維向量截斷到 128 維,本地儲存最多省 6 倍。
X @GoogleDeepMind● 精選 10/6 16:04 AI 評分73
Google DeepMind 發布 EmbeddingGemma 2,稱其為首個原生多模態的端側嵌入開放模型。該模型在文字之外,把程式碼、影像、音訊與影片統一對映到同一個共享向量空間,可用於在裝置本地完成跨模態檢索與相似度計算。官方目前只給出這一定位,未公布引數規模、上下文長度、適配硬體與開源許可等細節。