 Patrick Devine
|
1b272d5bcd
change `github.com/jmorganca/ollama` to `github.com/ollama/ollama` (#3347)
|
1 год назад |
 Michael Yang
|
22f326464e
Merge pull request #3083 from ollama/mxyng/refactor-readseeker
|
1 год назад |
 Blake Mizerany
|
6ce37e4d96
llm,readline: use errors.Is instead of simple == check (#3161)
|
1 год назад |
|
Michael Yang
|
0085297928
refactor readseeker
|
1 год назад |
|
Michael Yang
|
76bdebbadf
decode ggla
|
1 год назад |
|
Patrick Devine
|
2c017ca441
Convert Safetensors to an Ollama model (#2824)
|
1 год назад |
|
Michael Yang
|
949d7b1c48
add gguf file types (#2532)
|
1 год назад |
|
Michael Yang
|
cd22855ef8
refactor tensor read
|
1 год назад |
|
Michael Yang
|
eaed6f8c45
add max context length check
|
1 год назад |
 Jeffrey Morgan
|
08f1e18965
Offload layers to GPU based on new model size estimates (#1850)
|
1 год назад |
|
Michael Yang
|
56ffc3023a
remove per-model types
|
1 год назад |
|
Michael Yang
|
5a5dca13b2
comments
|
1 год назад |
|
Michael Yang
|
72e7a49aa9
seek instead of copyn
|
1 год назад |
|
Michael Yang
|
2cb0fa7d40
split from into one or more models
|
1 год назад |
|
Michael Yang
|
199941cd15
fix: gguf int type
|
1 год назад |
|
Michael Yang
|
c5e1bbabda
instead of static number of parameters for each model family, get the real number from the tensors (#1022)
|
1 год назад |
|
Michael Yang
|
125d0a013a
ggufv3
|
1 год назад |
|
Michael Yang
|
c02c0cd483
starcoder
|
1 год назад |
 Bruce MacDonald
|
86279f4ae3
unbound max num gpu layers (#591)
|
1 год назад |
|
Bruce MacDonald
|
4cba75efc5
remove tmp directories created by previous servers (#559)
|
1 год назад |
|
Bruce MacDonald
|
66003e1d05
subprocess improvements (#524)
|
1 год назад |
|
Bruce MacDonald
|
2540c9181c
support for packaging in multiple cuda runners (#509)
|
1 год назад |
|
Michael Yang
|
0c5a454361
fix model type for 70b
|
1 год назад |
|
Michael Yang
|
7dee25a07f
fix falcon decode
|
1 год назад |
|
Bruce MacDonald
|
09dd2aeff9
GGUF support (#441)
|
1 год назад |
