Commit History

Upphovsman SHA1 Meddelande Datum
  Daniel Hiltgen d6e3b64582 Fix concurrency for CPU mode 1 år sedan
  Jeffrey Morgan 00b0699c75 Reload model if `num_gpu` changes (#3920) 1 år sedan
  Bryce Reitano 36a6daccab Restructure loading conditional chain 1 år sedan
  Bryce Reitano ceb0e26e5e Provide variable ggml for TestLoad 1 år sedan
  Bryce Reitano 284e02bed0 Move ggml loading to when we attempt fitting 1 år sedan
  Daniel Hiltgen d8851cb7a0 Harden sched TestLoad 1 år sedan
  Daniel Hiltgen 34b9db5afc Request and model concurrency 1 år sedan