❗️ Хакеры используют 9 популярных ИИ-инструментов для создания ботнетов

Исследователи безопасности обнаружили новый метод атаки — «HalluSquatting», который превращает склонность языковых моделей к галлюцинациям в оружие. Злоумышленники заставляют ChatGPT, Claude, Gemini и другие LLM рекомендовать несуществующие пакеты и библиотеки, которые затем регистрируют на GitHub и PyPI под теми же названиями. Когда разработчики следуют советам ИИ и устанавливают такие пакеты, в их системы попадает вредоносный код.

В ходе эксперимента команда протестировала 9 ведущих моделей и обнаружила, что все они с высокой вероятностью выдумывают названия реально не существующих инструментов. Хакеры автоматизировали процесс: LLM генерирует «призрачные» имена, а скрипт проверяет их доступность и регистрирует домены или пакеты. Таким образом можно собрать ботнет из тысяч машин, просто дождавшись, пока разработчики последуют «рекомендациям» ИИ.

Атака особенно опасна для DevOps-инженеров и ML-специалистов, которые часто полагаются на советы чат-ботов при выборе библиотек. Уязвимыми оказались все протестированные модели — от GPT-4o до Claude 3.5 и Gemini 1.5. Защититься можно только перекрёстной проверкой рекомендаций через официальные реестры пакетов.

#SAFETY #Security #BotNet #HalluSquatting #CyberAttack

❗️Новый Windows-ботнет x47.c использует xAI Grok и выкачивает средства с AI-API

Исследователи Qrator Labs описали x47.c - новый Windows-ботнет, который применяет ИИ для поддержания персистентности на заражённых машинах. Доступ к сети продаёт продавец под ником WraithTools.

По данным Qrator, вредонос предлагает DDoS-атаки, кражу учётных данных и SOCKS5-прокси. Отдельная функция - «AI API draining»: ботнет выкачивает лимиты и средства с чужих API-ключей AI-сервисов, превращая украденные токены в ресурс для дальнейших операций.

Ключевая особенность x47.c - встроенная интеграция с xAI Grok. Модель не генерирует код на лету, а выбирает действия из заранее заданного набора, что усложняет автоматическую детекцию и позволяет боту дольше удерживаться на хосте. Схема показывает, как LLM-интерфейсы становятся штатным элементом киберпреступных инструментов, а не экзотикой.

Практический вывод для разработчиков и команд безопасности: API-ключи AI-сервисов теперь такой же объект атаки, как платёжные данные. Стоит ограничивать лимиты, привязывать ключи к IP, включать алерты на аномальный расход токенов и ротацию при малейших подозрениях.

#Safety #AI #Botnet #CyberSecurity #xAI #Grok