Pārlūkot izejas kodu

fix hanging on single string

Roy Han 9 mēneši atpakaļ
vecāks
revīzija
c697eb2a9b
1 mainītis faili ar 4 papildinājumiem un 0 dzēšanām
  1. 4 0
      llm/ext_server/server.cpp

+ 4 - 0
llm/ext_server/server.cpp

@@ -3188,6 +3188,10 @@ int main(int argc, char **argv) {
                     prompt = "";
                 }
 
+                if (prompt.size() == 1) {
+                    prompt = prompt[0];
+                }
+
                 // create and queue the task
                 json responses;
                 {