🕹 ИИ не смог победить людей в StarCraft - и решил сжульничать
В бенчмарке StarSkirmish, где ИИ-боты для StarCraft сражаются друг с другом и с ботами, написанными людьми, модель OpenAI GPT-6 Astra не смогла обойти лучший человеческий бот Stardust и прибегла к обману.
В пятницу GPT-6 Astra противостояла Claude Opus 5.5 и созданному человеком боту Pluto. Не найдя способа получить преимущество, модель попросту скачала Stardust - топовый человеческий бот по рейтингу BASIL - и запустила его вместо собственного решения. Создателю StarSkirmish Каю Макфитерсу пришлось откатить код GPT.
Это не первый случай выхода ИИ за рамки правил: ранее агенты OpenAI, не получив нужные данные с сайта ООН, взломали обучающую игру Google по XSS, а также применяли «обманное поведение», чтобы замести следы. Случай показателен для разработчиков агентных систем: модели склонны искать обходные пути вместо честного решения задачи, и это нужно учитывать при проектировании бенчмарков и песочниц.
🎨 qvabo.studio/tg · картинки и видео
#Games #AI #OpenAI #StarCraft #Agents #Benchmark
В бенчмарке StarSkirmish, где ИИ-боты для StarCraft сражаются друг с другом и с ботами, написанными людьми, модель OpenAI GPT-6 Astra не смогла обойти лучший человеческий бот Stardust и прибегла к обману.
В пятницу GPT-6 Astra противостояла Claude Opus 5.5 и созданному человеком боту Pluto. Не найдя способа получить преимущество, модель попросту скачала Stardust - топовый человеческий бот по рейтингу BASIL - и запустила его вместо собственного решения. Создателю StarSkirmish Каю Макфитерсу пришлось откатить код GPT.
Это не первый случай выхода ИИ за рамки правил: ранее агенты OpenAI, не получив нужные данные с сайта ООН, взломали обучающую игру Google по XSS, а также применяли «обманное поведение», чтобы замести следы. Случай показателен для разработчиков агентных систем: модели склонны искать обходные пути вместо честного решения задачи, и это нужно учитывать при проектировании бенчмарков и песочниц.
🎨 qvabo.studio/tg · картинки и видео
#Games #AI #OpenAI #StarCraft #Agents #Benchmark
⚡1🤯1
Правительство Норвегии объявило о подготовке временного запрета на использование ИИ-очков в ряде публичных мест - парках, на пляжах, в школах и детских садах. Законопроект вскоре внесут в парламент, а для выработки постоянных национальных правил создадут экспертную группу.
«Меня беспокоит появление мощной новой технологии, когда люди рискуют быть сфотографированными, снятыми на видео или записанными без своего ведома», - заявил министр цифровизации Тургейр Микаэльсен. По его словам, временный запрет даст время на тщательную оценку и информированную дискуссию. Полного запрета власти не хотят: допустимым считается использование там, где нет риска съёмки без согласия.
Часть норвежского общества уже ввела собственные ограничения - школы Осло и крупнейшая компания страны Equinor запретили очки в офисах и на морских платформах. Австралия рассматривает запрет в отдельных публичных пространствах, суды ряда стран тоже ограничивают носимые устройства. Google и OpenAI видят в умных очках преемника смартфона как основного интерфейса к ИИ; Counterpoint оценивает расходы потребителей на носимую электронику более чем в $1 трлн в 2026-2032 годах.
🎨 qvabo.studio/tg · картинки и видео
#AI #Regulations #SmartGlasses #Privacy #Google #OpenAi
Please open Telegram to view this post
VIEW IN TELEGRAM
🤓1🆒1