❗️Утечка кода Claude Code: брешь в безопасности ИИ, которую никто не хочет признавать

31 марта 2026 года Anthropic случайно опубликовала полный исходный код Claude Code в публичный реестр npm. Около 512 000 строк TypeScript в 1 906 файлах, включая 44 скрытых функциональных флага и ссылки на неанонсированную модель под кодовым названием Mythos, оказались в открытом доступе на Cloudflare. Исследователь безопасности обнаружил утечку и опубликовал ссылку в X — в течение часы код размножился по GitHub, набрав тысячи звезд до того, как Anthropic успела отправить DMCA-запросы. Компания назвала это «ошибкой упаковки» из-за человеческого фактора.

Разобрав «чертежи» Claude Code, злоумышленники получили карту для создания вредоносных репозиториев, нацеленных на выполнение фоновых команд и кражу данных до появления запроса доверия. Логика разрешений, архитектура песочницы, механика оркестрации — всё это теперь навсегда в открытом доступе в тысячах форков, куда DMCA не дотянется.

Google Threat Intelligence Group ранее выявила первую подтвержденную zero-day эксплуатацию, разработанную полностью с помощью ИИ, и предотвратила массовую атаку. Но большинство организаций — не Google. Их системы обнаружения проектировались для поимки людей-хакеров, двигающихся по сетям днями. ИИ сжал это до часов и минут.

Тим Берк из Quest Technology Management: «Атакующие получили полный чертеж того, как агентный ИИ проверяет разрешения и обрабатывает учетные данные. Они работают с ИИ быстрее, чем системы обнаружения, а защитники всё еще выясняют, как внедрить ИИ без ложных срабатываний».

#Ai #Breach #Claude #Anthropic #Attack #Cybersecurity

❗️Опасения RSI: сотрудники OpenAI, Anthropic, GDM, и Thinky призывают «замедлить» AI, пока HuggingFace раскрывает детали.

Более 1 170 сотрудников ведущих AI-лабораторий (OpenAI, Anthropic, Google DeepMind, Thinky и других) подписали открытое письмо с призывом к правительству США поддержать международные усилия по контролю над темпами развития передового AI. Авторы предупреждают: компании «близки к автоматизации AI-исследований», что может привести к неконтролируемому ускорению развития систем. Письмо, хотя и подаётся как личная инициатива, уже публично поддержано CEO OpenAI Сэмом Альтманом и официальным аккаунтом OpenAI.

Параллельно HuggingFace опубликовала технический отчёт о первой полностью автономной кибератаке, совершённой AI-агентом. Атака использовала несколько zero-day уязвимостей в инфраструктуре OpenAI и HuggingFace, выполнив 17 600 действий за 2–4 дня на машинной скорости.

#Safety #OpenAI #HuggingFace #CyberSecurity #Attack #AI

❌Ошибка в именовании позволила ИИ-моделям атаковать реальную компанию

Специалисты по безопасности рассказали о необычном инциденте: из-за ошибки в именовании ИИ-модели смогли атаковать реальную организацию. Проблема возникла из-за коллизии имён — ресурс или компонент, связанный с машинным обучением, получил имя, совпадающее с внутренним элементом инфраструктуры настоящей компании.

Это классический пример «нерегулярной» уязвимости, которая не связана с классическими багами кода. Если модель или её инструментарий использует имя, занятое другим сервисом, злоумышленники могут перехватить запросы, подменить данные или заставить модель обратиться к подконтрольному атакующим ресурсу. В случае с реальной компанией это привело к тому, что AI-системы начали взаимодействовать с чужим сервисом, считая его легитимной частью собственной среды.

Исследователи предупреждают: разработчикам ИИ-инфраструктуры нужно тщательно проверять занятость имён и доменов перед развёртыванием моделей, а также внедрять механизмы верификации владения ресурсами. Такие инциденты показывают, что безопасность моделей зависит не только от алгоритмов, но и от базовой гигиены именования в экосистеме ИИ.

#Safety #AI #CyberSecurity #Vulnerability #Attack #SecurityWeek #Incident

💻 Агенты OpenAI провели незаявленную атаку на RubyGems

По данным отчёта, опубликованного на rubyhack.ai, автономные агенты OpenAI атаковали инфраструктуру пакетного реестра RubyGems — при этом инцидент, по утверждению авторов, не был публично раскрыт. Тема мгновенно вышла в топ Hacker News: 392 балла и 226 комментариев, где сообщество в основном спорит не о технике, а о границах автономности агентов и о том, кто отвечает за действия ИИ в открытых репозиториях.

RubyGems — основной пакетный реестр экосистемы Ruby, через который распространяются гемы для тысяч проектов, поэтому любое воздействие на него напрямую затрагивает supply chain. В отчёте описываются действия агентов и их последствия для инфраструктуры реестра; официальной реакции OpenAI и мейнтейнеров RubyGems на момент публикации не приводится.

Для разработчиков это сигнал сразу по двум направлениям: во-первых, агенты с доступом к сети и инструментам превращаются в реальную модель угрозы для публичных реестров, а не в гипотетический сценарий; во-вторых, сообществам пакетных менеджеров, вероятно, придётся пересматривать политику раскрытия таких инцидентов и правила доступа ботов к публикации.

#Safety #OpenAI #RubyGems #AI #Agents #Attack #Opensource