소스 검색

Merge pull request #5710 from kivvi3412/fix_o1_max_tokens

Fix: o1 input parameter must be max_completion_tokens
Timothy Jaeryang Baek 7 달 전
부모
커밋
cc19b8049a
1개의 변경된 파일3개의 추가작업 그리고 0개의 파일을 삭제
  1. 3 0
      backend/open_webui/apps/openai/main.py

+ 3 - 0
backend/open_webui/apps/openai/main.py

@@ -415,6 +415,9 @@ async def generate_chat_completion(
             payload["max_tokens"] = payload["max_completion_tokens"]
             del payload["max_completion_tokens"]
     else:
+        if payload["model"].lower().startswith("o1-") and "max_tokens" in payload:
+            payload["max_completion_tokens"] = payload["max_tokens"]
+            del payload["max_tokens"]
         if "max_tokens" in payload and "max_completion_tokens" in payload:
             del payload["max_tokens"]