Историја ревизија

Аутор SHA1 Порука Датум
  Daniel Hiltgen 8727a9c140 Record more GPU information пре 1 година
  Daniel Hiltgen 34b9db5afc Request and model concurrency пре 1 година
  Michael Yang 7e33a017c0 partial offloading пре 1 година
  Michael Yang 91b3e4d282 update memory calcualtions пре 1 година
  Daniel Hiltgen 6d84f07505 Detect AMD GPU info via sysfs and block old cards пре 1 година
  Daniel Hiltgen 8da7bef05f Support multiple variants for a given llm lib type пре 1 година
  Jeffrey Morgan c336693f07 calculate overhead based number of gpu devices (#1875) пре 1 година
  Daniel Hiltgen a2ad952440 Fix windows system memory lookup пре 1 година
  Daniel Hiltgen d966b730ac Switch windows build to fully dynamic пре 1 година
  Daniel Hiltgen 7555ea44f8 Revamp the dynamic library shim пре 1 година
  Daniel Hiltgen 35934b2e05 Adapted rocm support to cgo based llama.cpp пре 1 година