 Michael Yang
|
435cc866a3
fix: mixtral graph
|
hace 1 año |
|
Michael Yang
|
3cf483fe48
add stablelm graph calculation
|
hace 1 año |
|
Michael Yang
|
a8b9b930b4
account for all non-repeating layers
|
hace 1 año |
|
Michael Yang
|
3397eff0cd
mixtral mem
|
hace 1 año |
|
Michael Yang
|
7e33a017c0
partial offloading
|
hace 1 año |
|
Michael Yang
|
8b2c10061c
refactor tensor query
|
hace 1 año |
|
Michael Yang
|
01f77ae25d
add command-r graph estimate
|
hace 1 año |
|
Michael Yang
|
12e923e158
update graph size estimate
|
hace 1 año |
|
Michael Yang
|
90f071c658
default head_kv to 1
|
hace 1 año |
|
Michael Yang
|
91b3e4d282
update memory calcualtions
|
hace 1 año |
|
Michael Yang
|
d338d70492
refactor model parsing
|
hace 1 año |
 Patrick Devine
|
5a5efee46b
Add gemma safetensors conversion (#3250)
|
hace 1 año |
|
Michael Yang
|
0085297928
refactor readseeker
|
hace 1 año |
|
Michael Yang
|
76bdebbadf
decode ggla
|
hace 1 año |
|
Patrick Devine
|
2c017ca441
Convert Safetensors to an Ollama model (#2824)
|
hace 1 año |
|
Michael Yang
|
949d7b1c48
add gguf file types (#2532)
|
hace 1 año |
|
Michael Yang
|
eaed6f8c45
add max context length check
|
hace 1 año |
|
Michael Yang
|
2bb2bdd5d4
fix lint
|
hace 1 año |
 Jeffrey Morgan
|
08f1e18965
Offload layers to GPU based on new model size estimates (#1850)
|
hace 1 año |
 Bruce MacDonald
|
811b1f03c8
deprecate ggml
|
hace 1 año |
|
Jeffrey Morgan
|
d9a250e9b5
seek to end of file when decoding older model formats
|
hace 1 año |
|
Jeffrey Morgan
|
944519ed16
seek to eof for older model binaries
|
hace 1 año |
|
Michael Yang
|
72e7a49aa9
seek instead of copyn
|
hace 1 año |
|
Michael Yang
|
2cb0fa7d40
split from into one or more models
|
hace 1 año |
|
Michael Yang
|
b2816bca67
unnecessary ReadSeeker for DecodeGGML
|
hace 1 año |
|
Michael Yang
|
125d0a013a
ggufv3
|
hace 1 año |
|
Michael Yang
|
c02c0cd483
starcoder
|
hace 1 año |
|
Bruce MacDonald
|
86279f4ae3
unbound max num gpu layers (#591)
|
hace 1 año |
|
Bruce MacDonald
|
4cba75efc5
remove tmp directories created by previous servers (#559)
|
hace 1 año |
|
Bruce MacDonald
|
66003e1d05
subprocess improvements (#524)
|
hace 1 año |
