Commit History

Autor SHA1 Mensaxe Data
  Michael Yang eae3af6807 clean up convert tokenizer hai 8 meses
  Michael Yang 3eb08377f8 detect chat template from configs that contain lists hai 8 meses
  Michael Yang 5a28b9cf5f bert hai 11 meses
  Michael Yang d8e2664c33 convert: fix parse functions hai 9 meses
  Michael Yang eafc607abb convert: only extract large files hai 10 meses
  Michael Yang df993fa37b comments hai 10 meses
  Michael Yang 5e9db9fb0b refactor convert hai 11 meses
  Michael Yang c895a7d13f some gocritic hai 11 meses
  Ikko Eltociear Ashimine 955c317cab chore: update tokenizer.go (#4571) hai 11 meses
  Michael Yang bbbd9f20f3 cleanup hai 11 meses
  Michael Yang 547132e820 bpe pretokenizer hai 11 meses
  Patrick Devine 2d315ba9a9 add missing file hai 1 ano