Historial de Commits

Autor SHA1 Mensaje Fecha
  Wang,Zhe fd5971be0b support ollama run on Intel GPUs hace 11 meses
  Daniel Hiltgen 8727a9c140 Record more GPU information hace 1 año
  Daniel Hiltgen 089daaeabc Add CUDA Driver API for GPU discovery hace 1 año
  Daniel Hiltgen 34b9db5afc Request and model concurrency hace 1 año
  Jeremy dfc6721b20 add support for libcudart.so for CUDA devices (adds Jetson support) hace 1 año
  Daniel Hiltgen 6c5ccb11f9 Revamp ROCm support hace 1 año
  Daniel Hiltgen 9d7b5d6c91 Ignore AMD integrated GPUs hace 1 año
  Daniel Hiltgen 987c16b2f7 Report more information about GPUs in verbose mode hace 1 año
  Jeffrey Morgan c336693f07 calculate overhead based number of gpu devices (#1875) hace 1 año
  Daniel Hiltgen a2ad952440 Fix windows system memory lookup hace 1 año
  Daniel Hiltgen 35934b2e05 Adapted rocm support to cgo based llama.cpp hace 1 año