Commit Verlauf

Autor SHA1 Nachricht Datum
  Michael Yang a8b9b930b4 account for all non-repeating layers vor 1 Jahr
  ManniX-ITA bd54b08261 Streamlined WaitUntilRunning vor 1 Jahr
  Michael Yang 26df674785 scale graph based on gpu count vor 1 Jahr
  Michael Yang 41a272de9f darwin: no partial offloading if required memory greater than system vor 1 Jahr
  Jeffrey Morgan a0b8a32eb4 Terminate subprocess if receiving `SIGINT` or `SIGTERM` signals while model is loading (#3653) vor 1 Jahr
  Michael Yang 7e33a017c0 partial offloading vor 1 Jahr
  Michael Yang 8b2c10061c refactor tensor query vor 1 Jahr
  Daniel Hiltgen c5ff443b9f Handle very slow model loads vor 1 Jahr
  Michael Yang be517e491c no rope parameters vor 1 Jahr
  Michael Yang 12e923e158 update graph size estimate vor 1 Jahr
  Daniel Hiltgen 464d817824 Merge pull request #3464 from dhiltgen/subprocess vor 1 Jahr
  Daniel Hiltgen 6589eb8a8c Revert options as a ref in the server vor 1 Jahr
  Michael Yang 80163ebcb5 fix metal gpu vor 1 Jahr
  Daniel Hiltgen 58d95cc9bd Switch back to subprocessing for llama.cpp vor 1 Jahr