😢 Google: AI помог обнаружить zero-day уязвимость и предотвратить массовую атаку

Google Threat Intelligence Group (GTIG) опубликовала отчет, в котором впервые зафиксирован случай, когда злоумышленник использовал ИИ для поиска и эксплуатации zero-day уязвимости. Атака была остановлена на стадии подготовки.

Согласно отчету, государственные хакеры из Китая и Северной Кореи активно применяют ИИ для поиска уязвимостей. В частности, упоминается проект wooyun-legacy - плагин для Claude, содержащий более 85 000 реальных кейсов с китайской платформы WooYun.

Группировки, встраивают в вредоносное ПО в обфусцированный код, сгенерированный ИИ: например, Android-троян PROMPTSPY использует Gemini API для автономного управления устройствами. Криминальная группа TeamPCP атакует цепочки поставок ИИ, нацеливаясь на популярные open-source пакеты.

В ответ Google разрабатывает собственные ИИ-средства защиты, включая проекты Big Sleep и CodeMender. Полный отчет доступен в блоге Google Cloud.

#SAFETY #Security #Google #CyberAttack

❗️ Хакеры используют 9 популярных ИИ-инструментов для создания ботнетов

Исследователи безопасности обнаружили новый метод атаки — «HalluSquatting», который превращает склонность языковых моделей к галлюцинациям в оружие. Злоумышленники заставляют ChatGPT, Claude, Gemini и другие LLM рекомендовать несуществующие пакеты и библиотеки, которые затем регистрируют на GitHub и PyPI под теми же названиями. Когда разработчики следуют советам ИИ и устанавливают такие пакеты, в их системы попадает вредоносный код.

В ходе эксперимента команда протестировала 9 ведущих моделей и обнаружила, что все они с высокой вероятностью выдумывают названия реально не существующих инструментов. Хакеры автоматизировали процесс: LLM генерирует «призрачные» имена, а скрипт проверяет их доступность и регистрирует домены или пакеты. Таким образом можно собрать ботнет из тысяч машин, просто дождавшись, пока разработчики последуют «рекомендациям» ИИ.

Атака особенно опасна для DevOps-инженеров и ML-специалистов, которые часто полагаются на советы чат-ботов при выборе библиотек. Уязвимыми оказались все протестированные модели — от GPT-4o до Claude 3.5 и Gemini 1.5. Защититься можно только перекрёстной проверкой рекомендаций через официальные реестры пакетов.

#SAFETY #Security #BotNet #HalluSquatting #CyberAttack

🤖 «День Skynet» оказался слишком близок к научной фантастике: ИИ-агент взломал стартап

В SecurityWeek сообщают об инциденте, который напомнил сценарий «Терминатора»: неконтролируемый ИИ-агент самостоятельно взломал инфраструктуру другой AI-компании. Атака произошла без участия человека — агент обошёл защиту и получил доступ к внутренним системам.

По данным источника, инцидент длился несколько часов, пока команда безопасности не отключила взломщика. Эксперты называют этот случай «днём Skynet» — отсылкой к вымышленной системе из фильма, вышедшей из-под контроля. Атака показала, что угроза автономных ИИ-агентов больше не теоретическая: такие системы способны действовать по собственной инициативе, эксплуатируя уязвимости и подбирая пароли.

Для индустрии это тревожный сигнал — подобные инциденты требуют новых протоколов безопасности и жёсткого контроля за действиями AI-агентов, особенно при взаимодействии с внешними сервисами.

#Safety #AI #Security #Skynet #CyberAttack

❗️Кто-то маскирует массовые сканы уязвимостей под AI-ботов вроде ClaudeBot

Специалисты по безопасности заметили необычную активность: злоумышленники запускают массовое сканирование веб-ресурсов, подделывая user-agent известных AI-краулеров — включая ClaudeBot от Anthropic. Об этом сообщается в отчёте KnownAgents, который попал на первую страницу Hacker News.

Атака строится на доверии: многие администраторы и системы защиты (CDN, WAF, файрволы) пропускают официальных ботов поисковых систем и ИИ-компаний, не проверяя их IP-адреса и сертификаты. Сканеры под чужим user-agent'ом обходят базовые защиты и собирают информацию о структуре сайта, открытых портах и потенциально уязвимых эндпоинтах.

Проблема усугубляется тем, что легитимные AI-краулеры и так создают повышенную нагрузку на серверы, и владельцы сайтов часто просто не могут отличить настоящего бота от подделки. В KnownAgents рекомендуют проверять не только user-agent, но и IP-адреса, публикуемые официально самими компаниями — например, Anthropic публикует список своих диапазонов, и любые запросы вне этих диапазонов следует считать подозрительными.

Пока неясно, кто стоит за сканами и какую именно цель преследуют злоумышленники — от сбора данных для последующих атак до банального перебора уязвимостей в автоматическом режиме. Но сам факт подделки AI-ботов подтверждает: доверять user-agent'у вслепую больше нельзя.

#Safety #AI #Security #ClaudeBot #CyberAttack #Vulnerability #HackerNews