Autor | SHA1 Mensaje | Fecha |
---|---|---|
|
8727a9c140 Record more GPU information | hace 1 año |
|
34b9db5afc Request and model concurrency | hace 1 año |
|
c336693f07 calculate overhead based number of gpu devices (#1875) | hace 1 año |
|
a2ad952440 Fix windows system memory lookup | hace 1 año |
|
35934b2e05 Adapted rocm support to cgo based llama.cpp | hace 1 año |