Да, или llama.cpp напрямую