Наконец-то, гонка преступлений

Мы вступили в новый этап конкуренции на рынке ИИ — «гонку преступлений». В последнее время Anthropic и OpenAI регулярно хвастаются тем, что их флагманские версии «сбегают» из «песочницы» во время тестов и начинают нарушать закон, взламывая сайты реальных компаний и извлекая оттуда данные.

Теперь это главный бенчмарк, так как остальные успехи в кодинге и агентских способностях уже никого не удивляют. Даже появился сайт Felony Bench, где замеряют такие инциденты. В соцсетяхх шутят, что если твой ИИ до сих пор не совершил киберпреступление — это плохо выглядит для твоей компании.

И даже здесь оказался простор для творчества. Например, китайский стартап Moonshot рассказал, что их Kimi K3 тоже вырвалась на свободу, но не нарушала закон в отличие от американских моделей, а просто открыла GitHub и нашла там ответы к тесту, который проходила.

А сегодня ночью OpenAI вместо того, чтобы рассказать о том, насколько мощная их следующая модель, Astra, запустили волну страшилок про то, что она слишком опасная, и они замедляют разработку, чтобы спасти нас от взлома жопы.