Commit History

Autor SHA1 Mensaxe Data
  Daniel Hiltgen 6c5ccb11f9 Revamp ROCm support hai 1 ano
  Jeffrey Morgan 4613a080e7 update llama.cpp submodule to `66c1968f7` (#2618) hai 1 ano
  Daniel Hiltgen 6680761596 Shutdown faster hai 1 ano
  Jeffrey Morgan f11bf0740b use `llm.ImageData` hai 1 ano
  Jeffrey Morgan 2e06ed01d5 remove unknown `CPPFLAGS` option hai 1 ano
  Jeffrey Morgan a64570dcae Fix clearing kv cache between requests with the same prompt (#2186) hai 1 ano
  Daniel Hiltgen 3bc28736cd Merge pull request #2143 from dhiltgen/llm_verbosity hai 1 ano
  Daniel Hiltgen 730dcfcc7a Refine debug logging for llm hai 1 ano
  Daniel Hiltgen 27a2d5af54 Debug logging on init failure hai 1 ano
  Jeffrey Morgan 89c4aee29e Unlock mutex when failing to load model (#2117) hai 1 ano
  Daniel Hiltgen fedd705aea Mechanical switch from log to slog hai 1 ano
  Daniel Hiltgen 1b249748ab Add multiple CPU variants for Intel Mac hai 1 ano
  Bruce MacDonald a897e833b8 do not cache prompt (#2018) hai 1 ano
  Daniel Hiltgen 2ecb247276 Fix intel mac build hai 1 ano
  Daniel Hiltgen 39928a42e8 Always dynamically load the llm server library hai 1 ano