Commit History

Автор SHA1 Съобщение Дата
  Michael Yang 41a272de9f darwin: no partial offloading if required memory greater than system преди 1 година
  Jeffrey Morgan a0b8a32eb4 Terminate subprocess if receiving `SIGINT` or `SIGTERM` signals while model is loading (#3653) преди 1 година
  Michael Yang 7e33a017c0 partial offloading преди 1 година
  Michael Yang 8b2c10061c refactor tensor query преди 1 година
  Daniel Hiltgen c5ff443b9f Handle very slow model loads преди 1 година
  Michael Yang be517e491c no rope parameters преди 1 година
  Michael Yang 12e923e158 update graph size estimate преди 1 година
  Daniel Hiltgen 464d817824 Merge pull request #3464 from dhiltgen/subprocess преди 1 година
  Daniel Hiltgen 6589eb8a8c Revert options as a ref in the server преди 1 година
  Michael Yang 80163ebcb5 fix metal gpu преди 1 година
  Daniel Hiltgen 58d95cc9bd Switch back to subprocessing for llama.cpp преди 1 година