Daniel Hiltgen
|
8da7bef05f
Support multiple variants for a given llm lib type
|
1 năm trước cách đây |
Daniel Hiltgen
|
3c49c3ab0d
Harden GPU mgmt library lookup
|
1 năm trước cách đây |
Jeffrey Morgan
|
c336693f07
calculate overhead based number of gpu devices (#1875)
|
1 năm trước cách đây |
Daniel Hiltgen
|
a2ad952440
Fix windows system memory lookup
|
1 năm trước cách đây |
Daniel Hiltgen
|
1b991d0ba9
Refine build to support CPU only
|
1 năm trước cách đây |
Daniel Hiltgen
|
35934b2e05
Adapted rocm support to cgo based llama.cpp
|
1 năm trước cách đây |