Историја ревизија

Аутор SHA1 Порука Датум
  Roy Han 2647a0e443 num parallel embed пре 9 месеци
  Jeffrey Morgan 791650ddef sched: only error when over-allocating system memory (#5626) пре 9 месеци
  Jeffrey Morgan e4ff73297d server: fix model reloads when setting `OLLAMA_NUM_PARALLEL` (#5560) пре 10 месеци
  Jeffrey Morgan 0ee87615c7 sched: don't error if paging to disk on Windows and macOS (#5523) пре 10 месеци
  Daniel Hiltgen af28b94533 Merge pull request #5469 from dhiltgen/prevent_system_oom пре 10 месеци
  Daniel Hiltgen 955f2a4e03 Only set default keep_alive on initial model load пре 10 месеци
  Daniel Hiltgen 3c75113e37 Prevent loading models larger than total memory пре 10 месеци
  Daniel Hiltgen cff3f44f4a Fix case for NumCtx пре 10 месеци
  Daniel Hiltgen 3518aaef33 Merge pull request #4218 from dhiltgen/auto_parallel пре 10 месеци
  Blake Mizerany cb42e607c5 llm: speed up gguf decoding by a lot (#5246) пре 10 месеци
  Daniel Hiltgen 9929751cc8 Disable concurrency for AMD + Windows пре 10 месеци
  Daniel Hiltgen 17b7186cd7 Enable concurrency by default пре 1 година
  Daniel Hiltgen 6f351bf586 review comments and coverage пре 11 месеци
  Daniel Hiltgen ff4f0cbd1d Prevent multiple concurrent loads on the same gpus пре 11 месеци
  Daniel Hiltgen fc37c192ae Refine CPU load behavior with system memory visibility пре 11 месеци
  Daniel Hiltgen 434dfe30c5 Reintroduce nvidia nvml library for windows пре 11 месеци
  Daniel Hiltgen 48702dd149 Harden unload for empty runners пре 11 месеци
  Daniel Hiltgen 5e8ff556cb Support forced spreading for multi GPU пре 1 година
  Michael Yang e40145a39d lint пре 11 месеци
  Michael Yang c895a7d13f some gocritic пре 11 месеци
  Michael Yang 04f3c12bb7 replace x/exp/slices with slices пре 11 месеци
  Patrick Devine 4cc3be3035 Move envconfig and consolidate env vars (#4608) пре 11 месеци
  Sang Park 4434d7f447 Correct typo in error message (#4535) пре 11 месеци
  Daniel Hiltgen ec231a7923 Remove VRAM convergence check for windows пре 11 месеци
  Patrick Devine 6845988807 Ollama `ps` command for showing currently loaded models (#4327) пре 11 месеци
  Daniel Hiltgen 4142c3ef7c Always use the sorted list of GPUs пре 1 година
  Jeffrey Morgan bb6fd02298 Don't clamp ctx size in `PredictServerFit` (#4317) пре 1 година
  Daniel Hiltgen 354ad9254e Wait for GPU free memory reporting to converge пре 1 година
  Jeffrey Morgan c9f98622b1 Skip scheduling cancelled requests, always reload unloaded runners (#4189) пре 1 година
  Jeffrey Morgan dfa2f32ca0 unload in critical section (#4187) пре 1 година