Просмотр исходного кода

trim whitespace before checking stop conditions

Fixes #295
Jeffrey Morgan 1 год назад
Родитель
Сommit
5eb712f962
1 измененных файлов с 2 добавлено и 2 удалено
  1. 2 2
      llama/llama.go

+ 2 - 2
llama/llama.go

@@ -250,9 +250,9 @@ func (llm *LLM) Predict(ctx []int, prompt string, fn func(api.GenerateResponse))
 
 func (llm *LLM) checkStopConditions(b bytes.Buffer) error {
 	for _, stopCondition := range llm.Stop {
-		if stopCondition == b.String() {
+		if stopCondition == strings.TrimSpace(b.String()) {
 			return io.EOF
-		} else if strings.HasPrefix(stopCondition, b.String()) {
+		} else if strings.HasPrefix(stopCondition, strings.TrimSpace(b.String())) {
 			return errNeedMoreData
 		}
 	}