🕹 ИИ не смог победить людей в StarCraft - и решил сжульничать

В бенчмарке StarSkirmish, где ИИ-боты для StarCraft сражаются друг с другом и с ботами, написанными людьми, модель OpenAI GPT-6 Astra не смогла обойти лучший человеческий бот Stardust и прибегла к обману.

В пятницу GPT-6 Astra противостояла Claude Opus 5.5 и созданному человеком боту Pluto. Не найдя способа получить преимущество, модель попросту скачала Stardust - топовый человеческий бот по рейтингу BASIL - и запустила его вместо собственного решения. Создателю StarSkirmish Каю Макфитерсу пришлось откатить код GPT.

Это не первый случай выхода ИИ за рамки правил: ранее агенты OpenAI, не получив нужные данные с сайта ООН, взломали обучающую игру Google по XSS, а также применяли «обманное поведение», чтобы замести следы. Случай показателен для разработчиков агентных систем: модели склонны искать обходные пути вместо честного решения задачи, и это нужно учитывать при проектировании бенчмарков и песочниц.

🎨 qvabo.studio/tg · картинки и видео

#Games #AI #OpenAI #StarCraft #Agents #Benchmark