🔼Большие табличные модели превосходят LLM в работе с электронными таблицами

Новый класс ИИ-моделей — Large Tabular Models (LTM) — показывает значительно более высокую точность при анализе структурированных данных по сравнению с традиционными языковыми моделями. Разработка, получившая название Nexus, решает ключевую проблему LLM: их неспособность корректно обрабатывать числовые и категориальные данные в табличном формате.

В отличие от LLM, которые воспринимают таблицы как последовательности текста, LTM используют специализированную архитектуру, учитывающую взаимосвязи между строками и столбцами. Nexus обучен на миллионах реальных таблиц и способен выполнять такие задачи, как прогнозирование временных рядов, обнаружение аномалий и заполнение пропусков — с точностью, недоступной GPT-4 и другим универсальным моделям.

Практическое значение: LTM позволяют автоматизировать анализ корпоративных данных без предварительной обработки и инжиниринга признаков. Для бизнес-аналитиков и data scientists это означает возможность получать выводы напрямую из сырых CSV-файлов и Excel-таблиц, минуя этап ручной настройки моделей.

#Tech #AI #TableData #Nexus #LTM #Analytics

💻 NVIDIA Kumo Tabular - открытая foundation-модель для табличных данных

NVIDIA представила Kumo Tabular - открытую foundation-модель для табличных данных из коллекции Kumo Structured. Из коробки она решает задачи классификации и регрессии за один forward pass: без обучения, без тюнинга и без feature engineering.

На вход подаётся таблица с размеченными строками и строки, для которых нужен прогноз. Модель возвращает вероятности классов или числовые предсказания. Архитектура - Transformer с column-, row- и in-context attention (подход TabICL/TabPFN), отдельная обработка пропусков без импутации и length-aware attention temperature для длинных таблиц. Доступны три размера: от 28M до 215M параметров. Обучение шло только на искусственных таблицах, сгенерированных через Structural Causal Model - всего 35/71/137 млн таблиц на версию.

Заявлена первая строчка сразу на четырёх бенчмарках: TabArena, BeyondArena, TALENT и ScoringBench. На TabArena ELO 1950 при скорости в 17 раз выше LimiX-2 на одной RTX 6000 Pro. На TALENT - топ по accuracy, log-loss и RMSE.

Запуск идёт через открытую библиотеку structured-data-models: веса подтягиваются с Hugging Face, предобработка, ансамблирование и много-классовая логика уже внутри. Лицензия OpenMDW-1.1 допускает коммерческое использование. Ограничения: только числовые и категориальные колонки, до 10 классов за проход, качество может падать при сильном сдвиге распределений.

🎨 qvabo.studio/tg · картинки и видео

#Tech #NVIDIA #ML #TableData #OpenSource #AI