Timothy J. Baek 10 місяців тому
батько
коміт
9cc46629c2
1 змінених файлів з 12 додано та 0 видалено
  1. 12 0
      backend/main.py

+ 12 - 0
backend/main.py

@@ -492,6 +492,12 @@ class ChatCompletionMiddleware(BaseHTTPMiddleware):
                                     "__id__": filter_id,
                                 }
 
+                            if "__model__" in sig.parameters:
+                                params = {
+                                    **params,
+                                    "__model__": model,
+                                }
+
                             if inspect.iscoroutinefunction(inlet):
                                 data = await inlet(**params)
                             else:
@@ -1083,6 +1089,12 @@ async def chat_completed(form_data: dict, user=Depends(get_verified_user)):
                             "__id__": filter_id,
                         }
 
+                    if "__model__" in sig.parameters:
+                        params = {
+                            **params,
+                            "__model__": model,
+                        }
+
                     if inspect.iscoroutinefunction(outlet):
                         data = await outlet(**params)
                     else: