mirror of
https://github.com/ggerganov/llama.cpp.git
synced 2024-12-26 11:24:35 +00:00
26 lines
676 B
C
26 lines
676 B
C
|
#pragma once
|
||
|
|
||
|
#ifndef __cplusplus
|
||
|
#error "This header is for C++ only"
|
||
|
#endif
|
||
|
|
||
|
#include <memory>
|
||
|
|
||
|
#include "llama.h"
|
||
|
|
||
|
struct llama_model_deleter {
|
||
|
void operator()(llama_model * model) { llama_free_model(model); }
|
||
|
};
|
||
|
|
||
|
struct llama_context_deleter {
|
||
|
void operator()(llama_context * context) { llama_free(context); }
|
||
|
};
|
||
|
|
||
|
struct llama_sampler_deleter {
|
||
|
void operator()(llama_sampler * sampler) { llama_sampler_free(sampler); }
|
||
|
};
|
||
|
|
||
|
typedef std::unique_ptr<llama_model, llama_model_deleter> llama_model_ptr;
|
||
|
typedef std::unique_ptr<llama_context, llama_context_deleter> llama_context_ptr;
|
||
|
typedef std::unique_ptr<llama_sampler, llama_sampler_deleter> llama_sampler_ptr;
|