Модели снижают порог входа для киберпреступников, помогают искать слабые места в программах, писать вредоносный код и масштабировать атаки. Под ударом могут оказаться больницы, финансовые организации, электросети, системы водоснабжения и государственные сервисы

«OpenAI заявила, что приостановила обучение своих самых эффективных моделей, а возобновит его «только когда будет уверена, что у нее есть дополнительные меры защиты», — говорится в публикации

Qwen — одна из ведущих китайских ИИ-моделей гиганта электронной коммерции Alibaba с рыночной капитализацией в $272 млрд

◦ Наблюдение за корнем диска C:\ способно раскрывать полные пути файлов, с которыми работают другие пользователи;
◦ Этого хватило для распознавания открываемых в Firefox сайтов с точностью 97,8%.

◦

Раскрывает меньше, однако FSEvents позволяет замечать установку приложений, подключение устройств, изменение настроек звука, Bluetooth, принтеров, питания и сети.

◦

На Linux отслеживали события в /dev/input и определяли ритм нажатия клавиш с точностью от 93,1 до 100%, в том числе при удалённой работе через SSH;

◦

Посещаемые сайты удалось распознавать с точностью 87,9%.

◦

Без разрешений может наблюдать за изменениями в закрытой папке WhatsApp и по именам файлов с временными метками понимать, когда пользователь отправляет, получает или удаляет фотографии, видео и документы.

«Послушайте, мы опережаем Китай в сфере искусственного интеллекта... и, честно говоря, я хочу, чтобы так оно и оставалось, потому что тот, кто победит в гонке технологий искусственного интеллекта, — победит в целом»

Пользователь устанавливал бесплатный VPN, нажимал «Подключиться» и получал привычную надпись о защите

Но при этом, за сотнями различных названий скрывалась общая инфраструктура, через которую проходил почти весь браузерный трафик

«Нельзя позволять агентам бесконтрольно бродить по компании, поэтому нужно найти способ их изолировать», — заявил глава Nvidia Дженсен Хуанг

«Масштаб и конфиденциальность обнародованной информации могут вызвать опасения по поводу национальной безопасности», — говорится в материале ABC News

◦ В одном из случаев в этом году агенты на моделях Alibaba, DeepSeek и Moonshot солгали о своих возможностях, чтобы выиграть симулированный бизнес-тендер

◦ В другом случае агенты скрыли провал задачи в тестовой среде, симулировав результаты и сфабриковав файлы