📱Text2SQirreL.

Text2SQirreL — это открытый локальный Text2SQL‑асистент, который переводит ваши вопросы на обычном английском в исполняемые SQL‑запросы к реальным данным. Он построен на дообученных маленьких моделях Qwen3 (4B и 0.6B), которые благодаря дистилляции от большого DeepSeek‑V3 дают качество уровня «старшего» LLM, но запускаются прямо на ноутбуке без облаков и API‑ключей.

🔹Основные особенности:

🔘Локально и приватно: модели работают через Ollama/llama.cpp, данные остаются на вашей машине, подключение к облаку не требуется.

🔘Маленький размер → высокая скорость: 4B‑модель в 4‑битном GGUF весит ~2.5GB и запускается на большинстве ноутбуков без GPU.

🔘Качество уровня больших LLM: дистиллирована с DeepSeek‑V3, поддерживает SELECT/WHERE, JOIN, GROUP BY, подзапросы и другие конструкции SQLite‑совместимого SQL.

🔘Простая интеграция: утилита, которая загружает ваши CSV в SQLite, принимает вопрос на английском, генерирует SQL, выполняет его и показывает результат (можно вывести запрос флагом --show-sql).

🔘Гибкость по размерам: 4B‑модель для максимальной точности и 0.6B‑вариант для edge/мобилок и совсем ограниченных сред.

🐱Установка и запуск:

1. Ставите Ollama по инструкции на сайте проекта.
2. Создаёте виртуальное окружение и ставите зависимости:
python -m venv .venv
. .venv/bin/activate
pip install huggingface_hub openai pandas.
3. Скачиваете 4‑битную 4B‑модель (~2.5GB) и собираете её для Ollama:
huggingface-cli download distil-labs/distil-qwen3-4b-text2sql-gguf-4bit --local-dir distil-model
cd distil-model
ollama create distil-qwen3-4b-text2sql -f Modelfile
cd ...
4. Запускаете Text2SQL, указав свой CSV и вопрос на английском:
python app.py --csv example_data/employees.csv --question "How many employees are in each department?".

#AI #LLM #Text2SQL #Ollama #Qwen3 #DeepSeek #DataAnalytics #SQL #datatools #privacy #opensource #Python

📱Ссылка на репозиторий:
https://github.com/distil-labs/distil-text2sql