Ver Fonte

Set `NumKeep` to `4` by default (#982)

Jeffrey Morgan há 1 ano atrás
pai
commit
06589a3b30
1 ficheiros alterados com 1 adições e 1 exclusões
  1. 1 1
      api/types.go

+ 1 - 1
api/types.go

@@ -293,7 +293,7 @@ func DefaultOptions() Options {
 	return Options{
 	return Options{
 		// options set on request to runner
 		// options set on request to runner
 		NumPredict:       -1,
 		NumPredict:       -1,
-		NumKeep:          0,
+		NumKeep:          4,
 		Temperature:      0.8,
 		Temperature:      0.8,
 		TopK:             40,
 		TopK:             40,
 		TopP:             0.9,
 		TopP:             0.9,