Bladeren bron

build: add -DGGML_CUDA_NO_PEER_COPY=ON for rocm builds on windows (#9060)

Jeffrey Morgan 2 maanden geleden
bovenliggende
commit
a4f69a0191
1 gewijzigde bestanden met toevoegingen van 4 en 0 verwijderingen
  1. 4 0
      CMakeLists.txt

+ 4 - 0
CMakeLists.txt

@@ -104,6 +104,10 @@ if(CMAKE_HIP_COMPILER)
     if(AMDGPU_TARGETS)
         add_subdirectory(${CMAKE_CURRENT_SOURCE_DIR}/ml/backend/ggml/ggml/src/ggml-hip)
 
+        if (WIN32)
+            target_compile_definitions(ggml-hip PRIVATE GGML_CUDA_NO_PEER_COPY=1)
+        endif()
+
         set(OLLAMA_HIP_INSTALL_DIR ${OLLAMA_INSTALL_DIR}/rocm)
         install(TARGETS ggml-hip
             RUNTIME_DEPENDENCIES