Jelajahi Sumber

allow specifying server host and port with `OLLAMA_HOST` and `OLLAMA_PORT`

Jeffrey Morgan 1 tahun lalu
induk
melakukan
553c884474
1 mengubah file dengan 11 tambahan dan 1 penghapusan
  1. 11 1
      cmd/cmd.go

+ 11 - 1
cmd/cmd.go

@@ -153,7 +153,17 @@ func generateBatch(model string) error {
 }
 
 func RunServer(_ *cobra.Command, _ []string) error {
-	ln, err := net.Listen("tcp", "127.0.0.1:11434")
+	host := os.Getenv("OLLAMA_HOST")
+	if host == "" {
+		host = "127.0.0.1"
+	}
+
+	port := os.Getenv("OLLAMA_PORT")
+	if port == "" {
+		port = "11434"
+	}
+
+	ln, err := net.Listen("tcp", fmt.Sprintf("%s:%s", host, port))
 	if err != nil {
 		return err
 	}