⚙️ Тонкая настройка моделей: продвинутые стратегии подготовки данных от AWS

Amazon Web Services опубликовала вторую часть руководства по подготовке данных для supervised fine-tuning (SFT). Первая часть касалась форматирования и контроля качества, новая — объёма данных, отбора подмножеств, аугментации и смешивания датасетов. Рекомендации применимы к любой модели, включая Amazon Nova.

Ключевая мысль: чистого датасета недостаточно — нужно понять, сколько данных действительно требуется. Ориентир для типовой SFT-задачи — примерно 2000 качественных примеров. Простому изменению стиля хватит 500, а сложному многошаговому reasoning — 10 000 и больше. Вместо интуиции AWS предлагает learning curve analysis: обучить модель на полном наборе, сохранять чекпоинты каждые 10–20% обучения и оценивать их на отложенном бенчмарке. Если удвоение объёма данных даёт меньше 1–2 процентных пунктов улучшения, дальнейший сбор однотипных примеров бессмыслен.

Отдельный блок посвящён выбору подмножества данных. Методы DEITA, DELIFT и coreset selection помогают найти минимальный набор примеров, сохраняющий качество и разнообразие. Показателен результат исследования Data Repetition Beats Scaling: 128 эпох на 400 примерах рассуждений outperformed однократное обучение на 51 200 примерах на 12–26 п.п. на бенчмарках AIME и GPQA. Меньший, но качественный датасет, доведённый до полного запоминания, может оказаться эффективнее большого набора, который модель видит лишь раз.

#AI #SFT #MachineLearning #LLM #AWS #DataSets