ソースを参照

Merge pull request #5710 from kivvi3412/fix_o1_max_tokens

Fix: o1 input parameter must be max_completion_tokens
Timothy Jaeryang Baek 7 ヶ月 前
コミット
cc19b8049a
1 ファイル変更3 行追加0 行削除
  1. 3 0
      backend/open_webui/apps/openai/main.py

+ 3 - 0
backend/open_webui/apps/openai/main.py

@@ -415,6 +415,9 @@ async def generate_chat_completion(
             payload["max_tokens"] = payload["max_completion_tokens"]
             del payload["max_completion_tokens"]
     else:
+        if payload["model"].lower().startswith("o1-") and "max_tokens" in payload:
+            payload["max_completion_tokens"] = payload["max_tokens"]
+            del payload["max_tokens"]
         if "max_tokens" in payload and "max_completion_tokens" in payload:
             del payload["max_tokens"]