浏览代码

fix: logit bias issue

Timothy Jaeryang Baek 2 月之前
父节点
当前提交
4e36b9794f
共有 1 个文件被更改,包括 5 次插入1 次删除
  1. 5 1
      backend/open_webui/routers/openai.py

+ 5 - 1
backend/open_webui/routers/openai.py

@@ -673,7 +673,11 @@ async def generate_chat_completion(
         del payload["max_tokens"]
 
     # Convert the modified body back to JSON
-    payload['logit_bias'] = json.loads(convert_logit_bias_input_to_json(payload['logit_bias']))
+    if "logit_bias" in payload:
+        payload["logit_bias"] = json.loads(
+            convert_logit_bias_input_to_json(payload["logit_bias"])
+        )
+
     payload = json.dumps(payload)
 
     r = None