llama-cpp.h 900 B

123456789101112131415161718192021222324252627282930
  1. #pragma once
  2. #ifndef __cplusplus
  3. #error "This header is for C++ only"
  4. #endif
  5. #include <memory>
  6. #include "llama.h"
  7. struct llama_model_deleter {
  8. void operator()(llama_model * model) { llama_model_free(model); }
  9. };
  10. struct llama_context_deleter {
  11. void operator()(llama_context * context) { llama_free(context); }
  12. };
  13. struct llama_sampler_deleter {
  14. void operator()(llama_sampler * sampler) { llama_sampler_free(sampler); }
  15. };
  16. struct llama_adapter_lora_deleter {
  17. void operator()(llama_adapter_lora * adapter) { llama_adapter_lora_free(adapter); }
  18. };
  19. typedef std::unique_ptr<llama_model, llama_model_deleter> llama_model_ptr;
  20. typedef std::unique_ptr<llama_context, llama_context_deleter> llama_context_ptr;
  21. typedef std::unique_ptr<llama_sampler, llama_sampler_deleter> llama_sampler_ptr;
  22. typedef std::unique_ptr<llama_adapter_lora, llama_adapter_lora_deleter> llama_adapter_lora_ptr;