 Michael Yang
|
c7dd52271c
remove debugging messages
|
vor 1 Jahr |
|
Michael Yang
|
28a136e9a3
modelfile params
|
vor 1 Jahr |
 Patrick Devine
|
2fb52261ad
basic distribution w/ push/pull (#78)
|
vor 1 Jahr |
|
Michael Yang
|
743e957d88
use filepath for os compat
|
vor 1 Jahr |
|
Michael Yang
|
5ade3db040
fix race
|
vor 1 Jahr |
|
Michael Yang
|
1775647f76
continue conversation
|
vor 1 Jahr |
|
Michael Yang
|
05e08d2310
return more info in generate response
|
vor 1 Jahr |
|
Michael Yang
|
31590284a7
fix route
|
vor 1 Jahr |
|
Michael Yang
|
2666d3c206
fix pull race
|
vor 1 Jahr |
|
Michael Yang
|
0944b01e7d
pull fixes
|
vor 1 Jahr |
|
Michael Yang
|
a806b03f62
no errgroup
|
vor 1 Jahr |
|
Michael Yang
|
e243329e2e
check api status
|
vor 1 Jahr |
|
Michael Yang
|
2a66a1164a
common stream producer
|
vor 1 Jahr |
|
Michael Yang
|
fd4792ec56
call llama.cpp directly from go
|
vor 1 Jahr |
 Jeffrey Morgan
|
a3ec1ec2a0
consistent error handling for pull and generate
|
vor 1 Jahr |
|
Michael Yang
|
edba935d67
return error in generate response
|
vor 1 Jahr |
 Bruce MacDonald
|
f5e2e150b8
allow overriding default generate options
|
vor 1 Jahr |
|
Jeffrey Morgan
|
74e92d1258
add basic `/` route for server
|
vor 1 Jahr |
|
Bruce MacDonald
|
f533f85d44
pr feedback
|
vor 1 Jahr |
|
Bruce MacDonald
|
61dd87bd90
if directory cannot be resolved, do not fail
|
vor 1 Jahr |
 Patrick Devine
|
3f1b7177f2
pass model and predict options
|
vor 1 Jahr |
|
Michael Yang
|
b0618a466e
generate progress
|
vor 1 Jahr |
|
Michael Yang
|
15c114decb
fix prompt templates
|
vor 1 Jahr |
|
Michael Yang
|
0637632258
simple pull response
|
vor 1 Jahr |
|
Michael Yang
|
dd960d1d5e
update generate response
|
vor 1 Jahr |
|
Michael Yang
|
9b8a456c7d
embed templates
|
vor 1 Jahr |
|
Bruce MacDonald
|
7cf5905063
display pull progress
|
vor 1 Jahr |
|
Michael Yang
|
580fe8951c
free llama model
|
vor 1 Jahr |
|
Michael Yang
|
68e6b4550c
use prompt templates
|
vor 1 Jahr |
|
Bruce MacDonald
|
a6494f8211
pull models
|
vor 1 Jahr |
