瀏覽代碼

close llm on interrupt (#577)

Bruce MacDonald 1 年之前
父節點
當前提交
5d71bda478
共有 1 個文件被更改,包括 3 次插入0 次删除
  1. 3 0
      server/routes.go

+ 3 - 0
server/routes.go

@@ -570,6 +570,9 @@ func Serve(ln net.Listener, allowOrigins []string) error {
 	signal.Notify(signals, syscall.SIGINT, syscall.SIGTERM)
 	go func() {
 		<-signals
+		if loaded.llm != nil {
+			loaded.llm.Close()
+		}
 		os.RemoveAll(workDir)
 		os.Exit(0)
 	}()