AISpot

搜尋

找到 12 筆

Hacker News front pageAI 評分58

IBM CEO:開源權重模型以十分之一成本達九成效能

IBM CEO Arvind Krishna 在第三季度財報電話會上稱,開源權重模型現已能用前沿模型 10%–25% 的 token 成本實現約 90% 的效果。他回顧差距從 2024 年的 70 分對 20–30 分,縮小到 2025 年底的 70 分對 50 分,認為企業大多數任務(總結郵件、審查合同、客服應答)用便宜模型就夠。由此 IBM 看到本地部署 AI 需求升溫,稱兩三機架即可搭建,但企業缺核心、網路與 GPU 叢集調優人才;

Hugging Face blogAI 評分64

IBM 開源 Granite 時間序列整合預測方案

IBM 發布 Granite Timeseries Ensemble,把四個預訓練 Granite 時間序列模型組合成一個預設整合預測器,無需重新訓練、也無需擬合權重,即可輸出點預測與預設 0.1–0.9 的分位數。預設配方為均勻機率池化的 Probabilistic Ensemble,另提供按各成員預測區間寬度自適應加權的 IQR Ensemble,切換隻需更換 subfolder,並可調溫度與單成員權重上限。

llama.cpp releasesAI 評分45

llama.cpp 為 IBM Z 的 ggml-zdnn 後端加入 flash attention

llama.cpp 建置 b11759 為 ggml-zdnn 後端新增 flash attention 運算元(fattn),並去掉原有的 scratch slots,改用 scratch buffer pool 統一管理臨時緩衝,文件也補上了關於 fattn 的說明。該後端面向 IBM Z 的 s390x 平台,本次改動隻影響使用 zDNN 加速的建置。

llama.cpp releasesAI 評分44

llama.cpp 新增 IBM Granite Switch 決策模型支援

llama.cpp 發布 b11700,新增對 IBM Granite Switch 決策模型的轉換與推理支援,改動覆蓋 convert、common 與 server,模板參考 granite-switch-4.1-8b。開發中曾加入 decision.chat 讓決策模型兼作聊天,隨後被回退,最終確定為只要 Granite Switch 支援決策就始終支援文字,server README 也同步更新。

Hugging Face blog● 精選AI 評分69

IBM 發布 Granite Switch 4.1:單端點整合對話、決策與語音

IBM 發布 Granite Switch 4.1,8B 與 30B 兩個版本在同一個託管端點上整合對話、決策與語音轉寫三類任務。模型新增通用決策 aLoRA 與專用 Guardian aLoRA,後者在安全相關決策任務上平均優於 Jev 1.13、Microsoft-Decision-1 等,並內嵌 OpenASR 榜首的 Granite-Speech-5.0-Turbo-CTC。

Hugging Face blog● 精選AI 評分75

ALTK-Evolve 讓 GPT-4.1 登頂 τ²-bench 客服榜

IBM Research 的 ALTK-Evolve 用 GPT-4.1 加標準 ReAct 腳手架,在客服基準 τ²-bench 零售域拿到 67.5% Pass^4(即四次獨立嘗試全部通過的任務佔比),高於其 2026 年 10 月 12 日榜單快照中的所有零售條目。方法不改模型權重:由同一模型分析訓練任務的成功與失敗軌跡,蒸餾成簡短行為準則——如先驗證使用者身份、每步只做一個動作——再追加到系統提示,無需人工標註。