IBM CEO:開源權重模型以十分之一成本達九成效能
IBM CEO Arvind Krishna 在第三季度財報電話會上稱,開源權重模型現已能用前沿模型 10%–25% 的 token 成本實現約 90% 的效果。他回顧差距從 2024 年的 70 分對 20–30 分,縮小到 2025 年底的 70 分對 50 分,認為企業大多數任務(總結郵件、審查合同、客服應答)用便宜模型就夠。由此 IBM 看到本地部署 AI 需求升溫,稱兩三機架即可搭建,但企業缺核心、網路與 GPU 叢集調優人才;
找到 12 筆
IBM CEO Arvind Krishna 在第三季度財報電話會上稱,開源權重模型現已能用前沿模型 10%–25% 的 token 成本實現約 90% 的效果。他回顧差距從 2024 年的 70 分對 20–30 分,縮小到 2025 年底的 70 分對 50 分,認為企業大多數任務(總結郵件、審查合同、客服應答)用便宜模型就夠。由此 IBM 看到本地部署 AI 需求升溫,稱兩三機架即可搭建,但企業缺核心、網路與 GPU 叢集調優人才;
IBM 發布 Granite Timeseries Ensemble,把四個預訓練 Granite 時間序列模型組合成一個預設整合預測器,無需重新訓練、也無需擬合權重,即可輸出點預測與預設 0.1–0.9 的分位數。預設配方為均勻機率池化的 Probabilistic Ensemble,另提供按各成員預測區間寬度自適應加權的 IQR Ensemble,切換隻需更換 subfolder,並可調溫度與單成員權重上限。
llama.cpp 建置 b11759 為 ggml-zdnn 後端新增 flash attention 運算元(fattn),並去掉原有的 scratch slots,改用 scratch buffer pool 統一管理臨時緩衝,文件也補上了關於 fattn 的說明。該後端面向 IBM Z 的 s390x 平台,本次改動隻影響使用 zDNN 加速的建置。
計算機歷史博物館網站收錄了一份 1963 年 IBM 高管 Watson Jr. 關於 CDC 6600 的備忘錄。CDC 6600 是當時速度最快的超級計算機,由 Control Data Corporation 推出,IBM 內部檔案對其效能與競爭壓力有所討論。該頁面附有 HN 討論連結,共 5 分、3 條評論。
llama.cpp 發布 b11700,新增對 IBM Granite Switch 決策模型的轉換與推理支援,改動覆蓋 convert、common 與 server,模板參考 granite-switch-4.1-8b。開發中曾加入 decision.chat 讓決策模型兼作聊天,隨後被回退,最終確定為只要 Granite Switch 支援決策就始終支援文字,server README 也同步更新。
IBM 發布 Granite Speech 5.0 三項更新,其中全新的 granite-speech-5.0-2b 與上一代引數規模相同,均為 2B,支援英語、法語、德語、西班牙語、葡萄牙語和日語轉寫,並支援這些語言與英語互譯,還可英譯義大利語和普通話。
IBM 發布 Granite Switch 4.1,8B 與 30B 兩個版本在同一個託管端點上整合對話、決策與語音轉寫三類任務。模型新增通用決策 aLoRA 與專用 Guardian aLoRA,後者在安全相關決策任務上平均優於 Jev 1.13、Microsoft-Decision-1 等,並內嵌 OpenASR 榜首的 Granite-Speech-5.0-Turbo-CTC。
llama.cpp 建置 b11582 引入 ggml-zdnn 的 Q8_0 矩陣乘法原型,由 IBM 的 Aaron Teo 提交,並同步更新了 zdnn 文件。zdnn 面向 IBM Z(s390x)平台,目前這一支援仍屬初步原型。
llama.cpp 發布 b11812 建置,其中提交 #30957 為全部 Granite 模型記錄層輸入;該提交由 IBM 的 Gabe Goodhart 提交,位於 GraniteSpeculatorSupport 分支,並標註為全程 AI 輔助(Claude + Sonnet 5.5)。
llama.cpp 發布 b11731,ggml-cpu 後端將 ggml_v_silu 與 ggml_v_expf 向量化,提交者為 IBM 的 Aaron Teo,可加速 CPU 推理中的 SiLU 啟用與指數運算。該版本照例更新了各平台預編譯產物,覆蓋 CUDA 12/13、Vulkan、ROCm、SYCL、OpenVINO、Android 及 Windows arm64 等。
Cockroach Labs 用名為 MOLT Sinai 的智慧體流水線,在不到兩天內為遷移工具 MOLT 加上 IBM Db2 源支援,token 花費 4172 美元;2024 年為 MOLT 加 Oracle 支援則用了 9 個月、約 16 萬美元工程時間,即快 164 倍、便宜 38 倍。
IBM Research 的 ALTK-Evolve 用 GPT-4.1 加標準 ReAct 腳手架,在客服基準 τ²-bench 零售域拿到 67.5% Pass^4(即四次獨立嘗試全部通過的任務佔比),高於其 2026 年 10 月 12 日榜單快照中的所有零售條目。方法不改模型權重:由同一模型分析訓練任務的成功與失敗軌跡,蒸餾成簡短行為準則——如先驗證使用者身份、每步只做一個動作——再追加到系統提示,無需人工標註。