Commitin historia

Tekijä SHA1 Viesti Päivämäärä
  Daniel Hiltgen 34b9db5afc Request and model concurrency 1 vuosi sitten
  Michael Yang 7e33a017c0 partial offloading 1 vuosi sitten
  Michael Yang 91b3e4d282 update memory calcualtions 1 vuosi sitten
  Daniel Hiltgen 6d84f07505 Detect AMD GPU info via sysfs and block old cards 1 vuosi sitten
  Daniel Hiltgen 8da7bef05f Support multiple variants for a given llm lib type 1 vuosi sitten
  Jeffrey Morgan c336693f07 calculate overhead based number of gpu devices (#1875) 1 vuosi sitten
  Daniel Hiltgen a2ad952440 Fix windows system memory lookup 1 vuosi sitten
  Daniel Hiltgen d966b730ac Switch windows build to fully dynamic 1 vuosi sitten
  Daniel Hiltgen 7555ea44f8 Revamp the dynamic library shim 1 vuosi sitten
  Daniel Hiltgen 35934b2e05 Adapted rocm support to cgo based llama.cpp 1 vuosi sitten