https://nuancesprog.ru/p/19534/
ExLlamaV2: самая быстрая библиотека для работы с LLM