Ряд LLM в КЗ в последнее время ведут себя мягко говоря нестабильно из-за различных политических повесток в мире. Самое время переходить на локальные модельки.

💡 В тему, кто уже задумался об этом - #llmfit - маленькая, но злая тулза, которая за пару секунд анализирует твое железо и показывает какие LLM оно реально тянет, с какой скоростью и в какой квантизации. Без скачивания десятков гигабайт вслепую и без экспериментов наугад.

📊 Возможности
анализирует CPU, RAM, GPU и VRAM, сопоставляет конфигурацию с сотнями моделей, рассчитывает fit-score, оценивает требования к ресурсам и ожидаемую производительность.

⚙️Реализация
написан на Rust, работает как CLI и TUI

🔗 Репозиторий: https://github.com/AlexsJones/llmfit