AISpot
熱點事件 · 持續更新

llama.cpp 為 ggml 緩衝區介面新增 alloc_buffer_n 與 get_alloc_size_n

1 則報導1 個報導來源10/2 19:55 更新

先了解這件事

llama.cpp 的 ggml 後端緩衝區型別介面新增 alloc_buffer_n 與 get_alloc_size_n 方法,並公開 ggml_backend_buft_alloc_buffer_n、ggml_backend_buft_get_alloc_size_n 兩個 API。預設實現負責多緩衝區分割與張量分配,Meta buffer type 提供自訂實現,按裝置建立子上下文並委託給 simple buffer type;

目前只有一則報導,以上是該報導的摘要。

報導時間線

沿著報導,了解事件的不同側面;點標題看單篇報導的摘要與原文連結。

10月2日星期五 · 1 則

  1. llama.cpp releases官方

    llama.cpp 為 ggml 緩衝區介面新增 alloc_buffer_n 與 get_alloc_size_n

    llama.cpp 的 ggml 後端緩衝區型別介面新增 alloc_buffer_n 與 get_alloc_size_n 方法,並公開 ggml_backend_buft_alloc_buffer_n、ggml_backend_buft_get_alloc_size_n 兩個 API。預設實現負責多緩衝區分割與張量分配,Meta buffer type 提供自訂實現,按裝置建立子上下文並委託給 simple buffer type;

本事件熱度走勢

10/3 00:30最高 1.010/3 02:10

為什麼熱

過去 48 小時,有 1 個獨立來源報導,最近 6 小時新增 0 個。熱度 0.8,熱門榜第 21 名。

熱度以 48 小時內的獨立來源計,同一來源只算一次,每 24 小時權重減半。

事件紀錄

最早報導
10/2 19:55
最近更新
10/2 19:55

同一事件的報導集中在這裡,新的進展會繼續補充。