Szerző | SHA1 Üzenet | Dátum |
---|---|---|
|
1bdab9fdb1 llm: introduce k/v context quantization (vRAM improvements) (#6279) | 5 hónapja |
|
05cd82ef94 Rename gpu package discover (#7143) | 6 hónapja |
|
77903ab8b4 llama3.1 | 9 hónapja |
|
b732beba6a lint | 9 hónapja |
|
df993fa37b comments | 9 hónapja |
|
5e9db9fb0b refactor convert | 11 hónapja |
|
35b89b2eab rfc: dynamic environ lookup | 10 hónapja |
|
cb42e607c5 llm: speed up gguf decoding by a lot (#5246) | 10 hónapja |
|
6f351bf586 review comments and coverage | 11 hónapja |
|
6fd04ca922 Improve multi-gpu handling at the limit | 11 hónapja |