Преглед на файлове

close llm on interrupt (#577)

Bruce MacDonald преди 1 година
родител
ревизия
5d71bda478
променени са 1 файла, в които са добавени 3 реда и са изтрити 0 реда
  1. 3 0
      server/routes.go

+ 3 - 0
server/routes.go

@@ -570,6 +570,9 @@ func Serve(ln net.Listener, allowOrigins []string) error {
 	signal.Notify(signals, syscall.SIGINT, syscall.SIGTERM)
 	go func() {
 		<-signals
+		if loaded.llm != nil {
+			loaded.llm.Close()
+		}
 		os.RemoveAll(workDir)
 		os.Exit(0)
 	}()