FreeLLMAPI

Роутер, который складывает бесплатные тарифы десятков провайдеров в один OpenAI-совместимый эндпоинт /v1. Идея простая: по отдельности каждый фри-тир мелочь, вместе — около 7.4 млрд токенов в месяц.

• 34 провайдера и 635 бесплатных эндпоинтов, 474 семейства моделей
• Умный роутинг: на каждый запрос выбирается доступная модель
• Автоматический фейловер при лимитах, учёт расхода по каждому ключу
• Ключи хранятся в зашифрованном виде
• Поддержка не только чата, но и эмбеддингов, картинок и аудио
• Подключается к любым OpenAI-совместимым клиентам и кодинг-агентам

• Установка: десктоп для #macOS и #Windows #Docker, мобильные приложения
• Каталог моделей обновляется по подписанному фиду без git pull
• Сам роутер бесплатный, новые модели подтягивает ч5ерез 30 дней. Впрочем за $19 в год можно и сразу

Не рекомендовано для продакшена

github.com/tashfeenahmed/freellmapi

#router

MAX