Bläddra i källkod

patch: use default locale in wpm tokenizer (#3034)

Jeffrey Morgan 1 år sedan
förälder
incheckning
908005d90b
1 ändrade filer med 13 tillägg och 0 borttagningar
  1. 13 0
      llm/patches/03-locale.diff

+ 13 - 0
llm/patches/03-locale.diff

@@ -0,0 +1,13 @@
+diff --git a/llama.cpp b/llama.cpp
+index b19616e8..519b9602 100644
+--- a/llama.cpp
++++ b/llama.cpp
+@@ -9938,7 +9938,7 @@ struct llm_tokenizer_wpm {
+     }
+
+     uint32_t to_lower(uint32_t code) {
+-        static const std::locale locale("en_US.UTF-8");
++        static const std::locale locale("");
+ #if defined(_WIN32)
+         if (code > 0xFFFF) {
+             return code;