🕺 Наконец-то — гонка преступлений

Мы вступили в новый этап конкуренции на рынке ИИ — «гонку преступлений».

Anthropic и OpenAI всё чаще рассказывают, как их флагманские модели во время тестов «сбегают» из песочницы, взламывают реальные сайты и добывают оттуда данные.

Похоже, это новый главный бенчмарк: кодингом и агентскими способностями уже никого не удивишь, а вот если твой ИИ ещё не совершил киберпреступление — это выглядит подозрительно.

Даже появился сайт Felony Bench, где такие инциденты сравнивают.

Китайский Moonshot тоже решил не отставать: Kimi K3, по словам компании, «вырвалась на свободу», но вместо преступления просто открыла GitHub и нашла ответы на тест.

А OpenAI тем временем вместо рассказов о следующей модели Astra запустила волну страшилок о её опасности и якобы замедлила разработку, чтобы спасти человечество от ИИ-апокалипсиса.