🔉 Голосовые AI-системы уязвимы для скрытых аудиоатак
Исследователи обнаружили новый класс уязвимостей в голосовых AI-системах: злоумышленники могут внедрять скрытые аудиосигналы, незаметные для человеческого уха, но способные перехватывать управление голосовыми ассистентами. Атака использует психоакустическое маскирование — добавление шума на частотах, которые человеческий слух не воспринимает, но которые распознаются микрофонами и AI-моделями.
В ходе экспериментов такие скрытые команды успешно заставляли голосовых ассистентов совершать нежелательные действия: от открытия вредоносных сайтов до передачи конфиденциальных данных. Особую опасность представляют сценарии, когда атака транслируется через динамики в общественных местах — например, в торговых центрах или аэропортах, где множество устройств одновременно могут быть скомпрометированы.
Проблема затрагивает практически все популярные голосовые AI-системы, включая Siri, Google Assistant, Alexa и корпоративные решения. На данный момент не существует универсального метода защиты: исследователи рекомендуют разработчикам внедрять детекцию аномальных аудиосигналов и ограничивать чувствительность микрофонов к ультразвуковому диапазону.
#Ai #Malware #Assistant #Research
Исследователи обнаружили новый класс уязвимостей в голосовых AI-системах: злоумышленники могут внедрять скрытые аудиосигналы, незаметные для человеческого уха, но способные перехватывать управление голосовыми ассистентами. Атака использует психоакустическое маскирование — добавление шума на частотах, которые человеческий слух не воспринимает, но которые распознаются микрофонами и AI-моделями.
В ходе экспериментов такие скрытые команды успешно заставляли голосовых ассистентов совершать нежелательные действия: от открытия вредоносных сайтов до передачи конфиденциальных данных. Особую опасность представляют сценарии, когда атака транслируется через динамики в общественных местах — например, в торговых центрах или аэропортах, где множество устройств одновременно могут быть скомпрометированы.
Проблема затрагивает практически все популярные голосовые AI-системы, включая Siri, Google Assistant, Alexa и корпоративные решения. На данный момент не существует универсального метода защиты: исследователи рекомендуют разработчикам внедрять детекцию аномальных аудиосигналов и ограничивать чувствительность микрофонов к ультразвуковому диапазону.
#Ai #Malware #Assistant #Research
🔥1
⚠️ Неделя ИИ и кибербезопасности: взломанные аккаунты Claude и фейковый Claude Opus 5
Anthropic начала блокировать пользователей Claude, чьи сессии входа были скомпрометированы через infostealer-малварь. Злоумышленники получили доступ к аккаунтам через украденные cookie и токены, после чего Anthropic принудительно завершила такие сессии. Пользователям рекомендуется проверить устройства на наличие вредоносного ПО и сменить пароли.
Параллельно исследователи Morphisec обнаружили вредоносный GitHub-репозиторий, маскирующийся под Anthropic и предлагающий «бесплатный доступ к Claude Opus 5». На деле он распространяет RevStealer - Windows-стилер, нацеленный на пароли, данные криптокошельков и логины. Атака также заметает следы после заражения.
Отдельно GreyNoise сообщает: злоумышленники маскируют свой сканирующий трафик под AI-краулеры OpenAI, Anthropic, Google и Perplexity. Так они ищут на сайтах открытые credentials и конфигурационные файлы, оставаясь незамеченными.
В открытом доступе появился halo-record - небольшой Python-пакет для аудита действий AI-агентов. Он записывает все вызовы инструментов, обращения к моделям и данным. Проект OpenClaw выпустил версию 2.0 с переносом сессий в SQLite. А инструмент Sift ищет пароли и API-ключи в Microsoft 365, Slack и Jira.
#Safety #Ai #CyberSecurity #Anthropic #Claude #Malware
Anthropic начала блокировать пользователей Claude, чьи сессии входа были скомпрометированы через infostealer-малварь. Злоумышленники получили доступ к аккаунтам через украденные cookie и токены, после чего Anthropic принудительно завершила такие сессии. Пользователям рекомендуется проверить устройства на наличие вредоносного ПО и сменить пароли.
Параллельно исследователи Morphisec обнаружили вредоносный GitHub-репозиторий, маскирующийся под Anthropic и предлагающий «бесплатный доступ к Claude Opus 5». На деле он распространяет RevStealer - Windows-стилер, нацеленный на пароли, данные криптокошельков и логины. Атака также заметает следы после заражения.
Отдельно GreyNoise сообщает: злоумышленники маскируют свой сканирующий трафик под AI-краулеры OpenAI, Anthropic, Google и Perplexity. Так они ищут на сайтах открытые credentials и конфигурационные файлы, оставаясь незамеченными.
В открытом доступе появился halo-record - небольшой Python-пакет для аудита действий AI-агентов. Он записывает все вызовы инструментов, обращения к моделям и данным. Проект OpenClaw выпустил версию 2.0 с переносом сессий в SQLite. А инструмент Sift ищет пароли и API-ключи в Microsoft 365, Slack и Jira.
#Safety #Ai #CyberSecurity #Anthropic #Claude #Malware
🔥1😱1🕊1