Commit History

Auteur SHA1 Bericht Datum
  Michael Yang 56ffc3023a remove per-model types 1 jaar geleden
  Michael Yang 5a5dca13b2 comments 1 jaar geleden
  Michael Yang 72e7a49aa9 seek instead of copyn 1 jaar geleden
  Michael Yang 2cb0fa7d40 split from into one or more models 1 jaar geleden
  Michael Yang 199941cd15 fix: gguf int type 1 jaar geleden
  Michael Yang c5e1bbabda instead of static number of parameters for each model family, get the real number from the tensors (#1022) 1 jaar geleden
  Michael Yang 125d0a013a ggufv3 1 jaar geleden
  Michael Yang c02c0cd483 starcoder 1 jaar geleden
  Bruce MacDonald 86279f4ae3 unbound max num gpu layers (#591) 1 jaar geleden
  Bruce MacDonald 4cba75efc5 remove tmp directories created by previous servers (#559) 1 jaar geleden
  Bruce MacDonald 66003e1d05 subprocess improvements (#524) 1 jaar geleden
  Bruce MacDonald 2540c9181c support for packaging in multiple cuda runners (#509) 1 jaar geleden
  Michael Yang 0c5a454361 fix model type for 70b 1 jaar geleden
  Michael Yang 7dee25a07f fix falcon decode 1 jaar geleden
  Bruce MacDonald 09dd2aeff9 GGUF support (#441) 1 jaar geleden