Daniel Hiltgen
|
6c5ccb11f9
Revamp ROCm support
|
1 năm trước cách đây |
Jeffrey Morgan
|
4613a080e7
update llama.cpp submodule to `66c1968f7` (#2618)
|
1 năm trước cách đây |
Daniel Hiltgen
|
6680761596
Shutdown faster
|
1 năm trước cách đây |
Jeffrey Morgan
|
f11bf0740b
use `llm.ImageData`
|
1 năm trước cách đây |
Jeffrey Morgan
|
2e06ed01d5
remove unknown `CPPFLAGS` option
|
1 năm trước cách đây |
Jeffrey Morgan
|
a64570dcae
Fix clearing kv cache between requests with the same prompt (#2186)
|
1 năm trước cách đây |
Daniel Hiltgen
|
3bc28736cd
Merge pull request #2143 from dhiltgen/llm_verbosity
|
1 năm trước cách đây |
Daniel Hiltgen
|
730dcfcc7a
Refine debug logging for llm
|
1 năm trước cách đây |
Daniel Hiltgen
|
27a2d5af54
Debug logging on init failure
|
1 năm trước cách đây |
Jeffrey Morgan
|
89c4aee29e
Unlock mutex when failing to load model (#2117)
|
1 năm trước cách đây |
Daniel Hiltgen
|
fedd705aea
Mechanical switch from log to slog
|
1 năm trước cách đây |
Daniel Hiltgen
|
1b249748ab
Add multiple CPU variants for Intel Mac
|
1 năm trước cách đây |
Bruce MacDonald
|
a897e833b8
do not cache prompt (#2018)
|
1 năm trước cách đây |
Daniel Hiltgen
|
2ecb247276
Fix intel mac build
|
1 năm trước cách đây |
Daniel Hiltgen
|
39928a42e8
Always dynamically load the llm server library
|
1 năm trước cách đây |