| .. |
|
amd_common.go
|
e592e8fccb
Support Fedoras standard ROCm location
|
1 tahun lalu |
|
amd_hip_windows.go
|
34b9db5afc
Request and model concurrency
|
1 tahun lalu |
|
amd_linux.go
|
e592e8fccb
Support Fedoras standard ROCm location
|
1 tahun lalu |
|
amd_windows.go
|
e592e8fccb
Support Fedoras standard ROCm location
|
1 tahun lalu |
|
assets.go
|
f56aa20014
Centralize server config handling
|
1 tahun lalu |
|
cpu_common.go
|
fedd705aea
Mechanical switch from log to slog
|
1 tahun lalu |
|
cuda_common.go
|
34b9db5afc
Request and model concurrency
|
1 tahun lalu |
|
gpu.go
|
4736391bfb
llm: add minimum based on layer size
|
1 tahun lalu |
|
gpu_darwin.go
|
4736391bfb
llm: add minimum based on layer size
|
1 tahun lalu |
|
gpu_info.h
|
089daaeabc
Add CUDA Driver API for GPU discovery
|
1 tahun lalu |
|
gpu_info_cpu.c
|
34b9db5afc
Request and model concurrency
|
1 tahun lalu |
|
gpu_info_cudart.c
|
34b9db5afc
Request and model concurrency
|
1 tahun lalu |
|
gpu_info_cudart.h
|
089daaeabc
Add CUDA Driver API for GPU discovery
|
1 tahun lalu |
|
gpu_info_darwin.h
|
41a272de9f
darwin: no partial offloading if required memory greater than system
|
1 tahun lalu |
|
gpu_info_darwin.m
|
41a272de9f
darwin: no partial offloading if required memory greater than system
|
1 tahun lalu |
|
gpu_info_nvcuda.c
|
089daaeabc
Add CUDA Driver API for GPU discovery
|
1 tahun lalu |
|
gpu_info_nvcuda.h
|
089daaeabc
Add CUDA Driver API for GPU discovery
|
1 tahun lalu |
|
gpu_test.go
|
34b9db5afc
Request and model concurrency
|
1 tahun lalu |
|
types.go
|
34b9db5afc
Request and model concurrency
|
1 tahun lalu |
Michael Yang
4736391bfb
llm: add minimum based on layer size