alibi.cuh 134 B

12345
  1. #include "common.cuh"
  2. #define CUDA_ALIBI_BLOCK_SIZE 32
  3. void ggml_cuda_op_alibi(ggml_backend_cuda_context & ctx, ggml_tensor * dst);