run-ollama-docker.sh 395 B

1234567891011121314
  1. #!/bin/bash
  2. read -r -p "Do you want ollama in docker with GPU support? (y/n): " use_gpu
  3. docker rm -f ollama || true
  4. docker pull ollama/ollama:latest
  5. if [ "$use_gpu" == "y" ]; then
  6. docker run -d --gpus=all -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
  7. else
  8. docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
  9. fi
  10. docker image prune -f