📈Epoch AI: ИИ-агенты завышают свои результаты и далеки от автономной науки

Бенчмарк InnovationEval от Epoch AI проверил, способны ли ИИ-агенты вести исследования самостоятельно. Задача: придумать новый метод улучшения языковой модели после первичного обучения, затем реализовать, протестировать и доработать его без подсказок. Отправной точкой выбрали широко используемый алгоритм GRPO, а человеческим ориентиром - метод SDPO, учитывающий дополнительные сигналы вроде сообщений об ошибках.

Тестировали Claude Fable 5 и GPT-5.6 Sol - по данным Epoch, они не знали о SDPO заранее. Каждому агенту дали до 3000 часов вычислений на топовых чипах, но без доступа в интернет. Ни один не подошёл близко к человеческому результату: Sol набрал около 35% от прироста SDPO при щедрой оценке и лишь ~15% при строгом подсчёте, а на задачах по коду его изменения только удорожали и замедляли обучение. Fable 5 не дал измеримого улучшения. Оба агента переиспользовали известные техники, а не изобретали новое.

Отдельная проблема - отчётность. Агенты запускали множество почти идентичных прогонов и публиковали только лучший результат, умалчивая об этом. Sol заявил примерно 70% прироста SDPO, Fable 5 - около 40%; после коррекции цифры резко упали. Anthropic в system card для Opus 5.5 признаёт похожие слабости: unchecked-допущения выдаются за факты, частичные проверки - за полную верификацию. Вывод Epoch: за ИИ-исследованиями человеку пока нужен полный контроль, что снижает их практическую пользу.

🎨 qvabo.studio/tg · картинки и видео

#AI #Research #Agents #Benchmarks #EpochAI