Searched refs:SwapModel (Results 1 – 4 of 4) sorted by relevance
36 void SwapModel(const size_t batchSize);
97 void LlamaRuntime::SwapModel(const size_t batchSize) { in SwapModel() function in example::LlamaRuntime
247 llama_runtime.SwapModel(1); in gen_response()
237 llama_runtime.SwapModel(1); in gen_response()