Michael Yang пре 1 година
родитељ
комит
e1f0a0dc74
1 измењених фајлова са 2 додато и 2 уклоњено
  1. 2 2
      llama/llama.go

+ 2 - 2
llama/llama.go

@@ -199,10 +199,10 @@ func (llm *llama) generate(tokens []C.llama_token, fn func(string)) error {
 
 		token, err := llm.sample(pastTokens, &opts)
 		switch {
-		case err != nil:
-			return err
 		case errors.Is(err, io.EOF):
 			return nil
+		case err != nil:
+			return err
 		}
 
 		fn(llm.detokenize(token))