Selaa lähdekoodia

update the GenerateChatCompletionForm stream to be defaulted to true.

This defaults the /api/chat/ endpoint to default to streaming being true
Nate.Dorr 6 kuukautta sitten
vanhempi
commit
b4acf689e3
1 muutettua tiedostoa jossa 1 lisäystä ja 1 poistoa
  1. 1 1
      backend/open_webui/apps/ollama/main.py

+ 1 - 1
backend/open_webui/apps/ollama/main.py

@@ -739,7 +739,7 @@ class GenerateChatCompletionForm(BaseModel):
     format: Optional[str] = None
     options: Optional[dict] = None
     template: Optional[str] = None
-    stream: Optional[bool] = None
+    stream: Optional[bool] = True
     keep_alive: Optional[Union[int, str]] = None