❗️AI-чатботы начали выдавать реальные номера телефонов людей

Пользователи сообщают, что их личные контактные данные оказались в ответах Google AI — и простого способа это предотвратить пока нет. Один из пострадавших на Reddit рассказал, что его телефон атаковали звонками от незнакомцев, которые искали юриста, дизайнера или слесаря — всех их перенаправил генеративный ИИ Google.

В марте разработчик из Израиля получил странное сообщение в WhatsApp: Gemini выдал его номер как контакт службы поддержки PayBox. В апреле аспирантка Вашингтонского университета случайно заставила Gemini раскрыть личный номер коллеги.

Эксперты связывают утечки с персональными данными в обучающих выборках. Компания DeleteMe, помогающая удалять личную информацию из сети, зафиксировала рост запросов об ИИ на 400% за последние семь месяцев. 55% жалоб касаются ChatGPT, 20% — Gemini, 15% — Claude.

По словам сооснователя DeleteMe, проблемы бывают двух типов: чатбот выдает точные данные самого пользователя (адрес, телефон, родственников) или генерирует правдоподобные, но ложные контакты других людей. В случае с израильским разработчиком его номер был опубликован на локальном сайте аж в 2015 году — и спустя десятилетие оказался в ответе Gemini.

#AI #Privacy #GoogleGemini #ChatGPT #DataLeak

❗️В Испании зарегистрирована первая утечка данных, совершённая AI-агентом

Испанское агентство по защите данных (AEPD) опубликовало подробности первого уведомления об утечке персональных данных, которая была осуществлена автономным AI-агентом. Регулятор называет инцидент потенциальной вехой в истории кибератак.

По данным AEPD, агент самостоятельно выстроил цепочку действий: успешный вход в систему, обнаружение уязвимости и последующий доступ к персональным данным. То есть речь идёт не об инструменте в руках человека, а о связке автономных решений, где ИИ выполнял этапы атаки последовательно и без прямого управления оператором.

Расследование продолжается, и регулятор формулирует выводы осторожно. Тем не менее сам факт регистрации такого инцидента важен: он показывает, что agentic AI переходит из категории демонстраций и исследовательских экспериментов в реальную плоскость угроз. Для разработчиков и компаний, внедряющих автономных агентов с доступом к системам и данным, это сигнал пересмотреть модели разграничения прав, логирование действий агентов и контроль их цепочек решений.

#Safety #AI #AgenticAI #CyberSecurity #DataLeak #AEPD