Наткнулись на интересную статистику по соревнованиям, которая охватывает не только любимый всеми Kaggle, но и десятки других платформ 👍

Среди основных наблюдений: организаторы выделяют больше бюджета на обучение, Qwen доминирует в языковых соревнованиях, AutoML и новые табличные модели уже вполне конкурентоспособны, хотя GBDT по-прежнему остаются стандартом для табличных задач. Но теперь по порядку.

➡️ Kaggle остается платформой с наибольшим количеством пользователей, соревнований и самым большим общим призовым фондом. Второе и третье места заняли Tianchi и Codabench.

➡️ Самый большой призовой фонд составил 8,5 млн долларов за финальный раунд DARPA's AI Cyber Challenge. В целом количество конкурсов с призовым фондом от 100 тысяч долларов росло в последние годы, и в 2025 году таких соревнований уже насчитали 23.

➡️ Почти все выигрышные решения пишутся на PyTorch (кроме соревнования Kaggle's Efficient Chess, где победитель вообще использовал C). Среди популярных инструментов выделили librosa, MONAI, TorchMetrics, ONNX и Hydra. Тут исследователи заметили забавный момент: никто из победителей соревнований не использовал JAX. Даже в конкурсе, где среда была реализована на JAX, победило решение на PyTorch.

➡️Среди выигрышных решений, использующих GBDT, XGBoost и LightGBM были наиболее популярны. Тут интересно то, что некоторые победители заявили, что экспериментировали со всеми тремя этими библиотеками (XGBoost, LightGBM и CatBoost) и обнаружили значительные различия в производительности между библиотеками на своих наборах данных.

➡️ В соревнованиях по CV наиболее популярные архитектуры на основе трансформеров включали ViT (часто DINOv2) и Swin Transformer для задач классификации, регрессии или сегментации изображений, а также модели Qwen-VL для задач преобразования изображения в текст. Наиболее популярные архитектуры на основе CNN включали YOLOv8 и YOLO11 для обнаружения объектов, а также ResNet и EfficientNet для других задач.

➡️ В четырех из пяти конкурсов по аудио, включавших человеческую речь, победители настроили модели Whisper от OpenAI, а в пятом использовали W2v-BERT 2.0.

Для тех, кто хочет хакнуть соревнования и ознакомиться с полной версией, ссылку оставляем тут.