IBM 發布 Granite Switch 4.1:單端點整合對話、決策與語音
IBM 發布 Granite Switch 4.1,8B 與 30B 兩個版本在同一個託管端點上整合對話、決策與語音轉寫三類任務。模型新增通用決策 aLoRA 與專用 Guardian aLoRA,後者在安全相關決策任務上平均優於 Jev 1.13、Microsoft-Decision-1 等,並內嵌 OpenASR 榜首的 Granite-Speech-5.0-Turbo-CTC。
找到 6 筆
IBM 發布 Granite Switch 4.1,8B 與 30B 兩個版本在同一個託管端點上整合對話、決策與語音轉寫三類任務。模型新增通用決策 aLoRA 與專用 Guardian aLoRA,後者在安全相關決策任務上平均優於 Jev 1.13、Microsoft-Decision-1 等,並內嵌 OpenASR 榜首的 Granite-Speech-5.0-Turbo-CTC。
IBM 發布 Granite Speech 5.0 三項更新,其中全新的 granite-speech-5.0-2b 與上一代引數規模相同,均為 2B,支援英語、法語、德語、西班牙語、葡萄牙語和日語轉寫,並支援這些語言與英語互譯,還可英譯義大利語和普通話。
IBM 發布 Granite Timeseries Ensemble,把四個預訓練 Granite 時間序列模型組合成一個預設整合預測器,無需重新訓練、也無需擬合權重,即可輸出點預測與預設 0.1–0.9 的分位數。預設配方為均勻機率池化的 Probabilistic Ensemble,另提供按各成員預測區間寬度自適應加權的 IQR Ensemble,切換隻需更換 subfolder,並可調溫度與單成員權重上限。
llama.cpp 發布 b11700,新增對 IBM Granite Switch 決策模型的轉換與推理支援,改動覆蓋 convert、common 與 server,模板參考 granite-switch-4.1-8b。開發中曾加入 decision.chat 讓決策模型兼作聊天,隨後被回退,最終確定為只要 Granite Switch 支援決策就始終支援文字,server README 也同步更新。
llama.cpp 發布 b11812 建置,其中提交 #30957 為全部 Granite 模型記錄層輸入;該提交由 IBM 的 Gabe Goodhart 提交,位於 GraniteSpeculatorSupport 分支,並標註為全程 AI 輔助(Claude + Sonnet 5.5)。
llama.cpp 新建置 b11707 將 Granite switch decision 的選項標記從 66 個擴充套件到最多 256 個,文件中歸入 255 桶。此前可用的單 token 標記只有大寫、小寫和數字共 66 個,而模型本身支援到 255;轉換指令碼現在會掃描具體模型的詞表,找出 1 個及以上純字母的單 token 序列(如 A、AA、BB)作為候選標籤,並把計算結果寫進模板,讓 C++ 端成為標籤的唯一來源。