 Michael Yang
|
f27bc261cf
s/parmeter/parameter/
|
1 年之前 |
|
Michael Yang
|
81d8d7b73f
fix could not convert int
|
1 年之前 |
 Patrick Devine
|
be989d89d1
Token auth (#314)
|
1 年之前 |
 Bruce MacDonald
|
4b3507f036
embeddings endpoint
|
1 年之前 |
|
Bruce MacDonald
|
7a5f3616fd
embed text document in modelfile
|
1 年之前 |
|
Bruce MacDonald
|
21ddcaa1f1
pr comments
|
1 年之前 |
|
Michael Yang
|
f2074ed4c0
Merge pull request #306 from jmorganca/default-keep-system
|
1 年之前 |
 Jeffrey Morgan
|
8713ac23a8
allow overriding `template` and `system` in `/api/generate`
|
1 年之前 |
|
Michael Yang
|
4dc5b117dd
automatically set num_keep if num_keep < 0
|
1 年之前 |
|
Michael Yang
|
b9f4d67554
configurable rope frequency parameters
|
1 年之前 |
|
Bruce MacDonald
|
1c5a8770ee
read runner parameter options from map
|
1 年之前 |
|
Jeffrey Morgan
|
528bafa585
cache loaded model
|
1 年之前 |
|
Bruce MacDonald
|
184ad8f057
allow specifying stop conditions in modelfile
|
1 年之前 |
|
Jeffrey Morgan
|
822a0e36eb
lower batch size to 512
|
1 年之前 |
|
Michael Yang
|
fadf75f99d
add stop conditions
|
1 年之前 |
|
Michael Yang
|
ad3a7d0e2c
add NumGQA
|
1 年之前 |
|
Jeffrey Morgan
|
688661ab9b
increase default batch size to 1024
|
1 年之前 |
|
Michael Yang
|
cca61181cb
sample metrics
|
1 年之前 |
|
Michael Yang
|
c490416189
lock on llm.lock(); decrease batch size
|
1 年之前 |
|
Michael Yang
|
f62a882760
add session expiration
|
1 年之前 |
|
Michael Yang
|
3003fc03fc
update predict code
|
1 年之前 |
|
Michael Yang
|
32aec66e6a
add load duration
|
1 年之前 |
|
Michael Yang
|
35af37a2cb
session id
|
1 年之前 |
|
Bruce MacDonald
|
4c1caa3733
download models when creating from modelfile
|
1 年之前 |
|
Patrick Devine
|
4cb42ca55e
add copy command (#191)
|
1 年之前 |
|
Patrick Devine
|
9f6e97865c
allow pushing/pulling to insecure registries (#157)
|
1 年之前 |
|
Bruce MacDonald
|
7ba1308595
Merge pull request #147 from jmorganca/brucemacd/cli-err-display
|
1 年之前 |
|
Patrick Devine
|
e7a393de54
add rm command for models (#151)
|
1 年之前 |
|
Bruce MacDonald
|
ebaa33ac28
display gin api errors in cli
|
1 年之前 |
|
Michael Yang
|
68df36ae50
fix pull 0 bytes on completed layer
|
1 年之前 |
