Ver código fonte

remove libcuda.so

Bruce MacDonald 1 ano atrás
pai
commit
fc6ec356fc
2 arquivos alterados com 2 adições e 3 exclusões
  1. 1 1
      docs/development.md
  2. 1 2
      llm/llama.cpp/generate_linux.go

+ 1 - 1
docs/development.md

@@ -35,5 +35,5 @@ Now you can run `ollama`:
 ## Building on Linux with GPU support
 
 - Install cmake and nvidia-cuda-toolkit
-- run `CUDA_PATH=/path/to/libcuda.so CUBLAS_PATH=/path/to/libcublas.so CUDART_PATH=/path/to/libcudart.so CUBLASLT_PATH=/path/to/libcublasLt.so go generate ./...`
+- run `CUBLAS_PATH=/path/to/libcublas.so CUDART_PATH=/path/to/libcudart.so CUBLASLT_PATH=/path/to/libcublasLt.so go generate ./...`
 - run `go build .`

+ 1 - 2
llm/llama.cpp/generate_linux.go

@@ -19,8 +19,7 @@ package llm
 //go:generate cmake --build ggml/build/cuda --target server --config Release
 //go:generate cmake -S gguf -B gguf/build/cuda -DLLAMA_CUBLAS=on -DLLAMA_ACCELERATE=on -DLLAMA_K_QUANTS=on
 //go:generate cmake --build gguf/build/cuda --target server --config Release
-//go:generate cp --dereference ${CUDA_PATH} ggml/build/cuda/bin/libcuda.so
-//go:generate cp --dereference ${CUDA_PATH} gguf/build/cuda/bin/libcuda.so
+
 //go:generate cp --dereference ${CUBLAS_PATH} ggml/build/cuda/bin/libcublas.so.11
 //go:generate cp --dereference ${CUBLAS_PATH} gguf/build/cuda/bin/libcublas.so.11
 //go:generate cp --dereference ${CUDART_PATH} ggml/build/cuda/bin/libcudart.so.11.0