• Коллекция полезных шпаргалок для DevOps, ИБ и ИТ-специалистов:
➡ Nginx;
➡ Docker;
➡ Ansible;
➡ Python;
➡ Go (Golang);
➡ Git;
➡ Regular Expressions (Regex);
➡ PowerShell;
➡ VIM;
➡ Jenkins;
➡ Continuous Integration and Continuous Delivery (CI/CD);
➡ Kubernetes;
➡ Linux;
➡ Redis;
➡ Slack;
➡ Puppet;
➡ Google Cloud Developer;
➡ AI, Neural Networks, Machine Learning, Deep Learning & Data Science;
➡ PostgreSQL;
➡ Ajax;
➡ Amazon Web Services (AWS);
➡ Infrastructure as Code (IaC);
➡ System Design;
➡ Cyber Security.
#CheatSheet #DevOps #ИБ
#CheatSheet #DevOps #ИБ
Please open Telegram to view this post
VIEW IN TELEGRAM
👍40🔥8❤6⚡1
• Совсем недавно была опубликована утилита Zev, которая подсказывает команды в терминале по её описанию на естественном языке. В основе утилиты лежит языковая модель.
• Если пользователь забыл структуру команды, то он может описать её на естественном языке прямо в терминале. Языковая модель проанализирует запрос и выведет подходящие команды с кратким описанием. Команду из выдачи можно скопировать и выполнить в этом же окне терминала.
• Код утилиты написан на Python, а для использования есть два варианта: можно подключить API от OpenAI или использовать локальную нейросеть через Ollama.
• Саму утилиту в терминале можно запустить двумя способами:
➡️ https://github.com/dtnewman/zev
#Ai #Linux
• Если пользователь забыл структуру команды, то он может описать её на естественном языке прямо в терминале. Языковая модель проанализирует запрос и выведет подходящие команды с кратким описанием. Команду из выдачи можно скопировать и выполнить в этом же окне терминала.
• Код утилиты написан на Python, а для использования есть два варианта: можно подключить API от OpenAI или использовать локальную нейросеть через Ollama.
• Саму утилиту в терминале можно запустить двумя способами:
zev — интерактивный режим с пошаговым выполнением, zev <запрос> — прямой вопрос. Код утилиты открыт и доступен на GitHub.#Ai #Linux
Please open Telegram to view this post
VIEW IN TELEGRAM
👍43🤡6 6❤4👎1
• В топе рейтинга платформы HackerOne оказался ИИ-бот Xbow (скриншот рейтинга выше). За разработкой ИИ-бота стоит одноимённая компания, которая за год существования привлекла $75 млн. инвестиций, в числе которых — Altimeter Capital, Sequoia и NFDG.
• Соучредитель HackerOne Микиэль Принс заявил, что это первый случай, когда продукт компании в сфере ИИ возглавил рейтинг HackerOne в США по репутации. За время работы ИИ-бот обнаружил и сообщил о проблемах безопасности в системах более чем десяти известных компаний, включая Amazon, Disney, PayPal и Sony.
• Судя по статистике, ИИ бот реально находит критичные баги. т.е. не только автоматические XSS-ки, но и zeroday. Именно с помощью Xbow недавно была обнаружена XSS в Palo Alto VPN.
• А теперь представьте, что со временем таких проектов будет тысячи и они будут использоваться не только для легальных целей... и ведь такой расклад событий не за горами. В интересное время живем...
➡ https://www.bloomberg.com/best-hackers-is-an-ai-bot
➡ https://hackerone.com/leaderboard/
#Новости #ИБ #bb #Ai
• Соучредитель HackerOne Микиэль Принс заявил, что это первый случай, когда продукт компании в сфере ИИ возглавил рейтинг HackerOne в США по репутации. За время работы ИИ-бот обнаружил и сообщил о проблемах безопасности в системах более чем десяти известных компаний, включая Amazon, Disney, PayPal и Sony.
• Судя по статистике, ИИ бот реально находит критичные баги. т.е. не только автоматические XSS-ки, но и zeroday. Именно с помощью Xbow недавно была обнаружена XSS в Palo Alto VPN.
• А теперь представьте, что со временем таких проектов будет тысячи и они будут использоваться не только для легальных целей... и ведь такой расклад событий не за горами. В интересное время живем...
#Новости #ИБ #bb #Ai
Please open Telegram to view this post
VIEW IN TELEGRAM
1🔥25🤯14😱10👍7❤5👎2
• Большая и полезная подборка AI-инструментов с открытым исходным кодом для кибербезопасников. Ниже обозначены категории, в каждой из которых множество полезных инструментов с кратким описанием:
- Tools:
➡ Integrated;
➡ Audit;
➡ Reconnaissance;
➡ Offensive;
➡ Detecting;
➡ Preventing;
➡ Social Engineering;
➡ Reverse Engineering;
➡ Investigation;
➡ Fix;
➡ Assessment.
- Cases:
➡ Experimental;
➡ Academic;
➡ Blogs;
➡ Fun.
- GPT Security:
➡ Standard;
➡ Bypass Security Policy;
➡ Bug Bounty;
➡ Crack;
➡ Plugin Security.
#AI #Awesome #ИБ
- Tools:
- Cases:
- GPT Security:
#AI #Awesome #ИБ
Please open Telegram to view this post
VIEW IN TELEGRAM
👍15❤8🔥8 3👏1
Media is too big
VIEW IN TELEGRAM
• Помните публикацию, где я рассказывал про скрытые промты для ИИ в научных публикациях, чтобы нейросеть хвалила такой материал? Так вот, в твиттере пишут, что таким образом можно получить доступ ко всей информации из почтового ящика Gmail, достаточно только знать ваш адрес электронной почты.
• Всё дело в MCP (Model Context Protocol) благодаря которому можно подключать ChatGPT к различным программам или бизнес-инструментам. Таким образом AI-помощник будет выполнять ваши задачи в определенных приложениях и выводить результат в чате. В общем и целом, ChatGPT будет вам лучше помогать в различных вопросах. Однако не все так круто, как хотелось бы...
1. Злоумышленник, который знает ваш адрес электронной почты, отправляет вам приглашение на встречу. Приглашение содержит скрытый промт для ИИ. Пользователь даже может не принимать это приглашение.
2. Если ChatGPT получает любую команду от пользователя, которая спровоцирует обращение ИИ к календарю, то можно прощаться с информацией.
3. ChatGPT считывает приглашение в календаре и действует так, как указана в промте (просматривает ваши личные письма и отправляет данные на адрес электронной почты злоумышленника).
• На самом деле в этом методе нет ничего нового. Скрытые промты уже давно используются подобным образом и являются достаточно эффективным методом скама при правильной реализации. Так что будьте осторожны. Демонстрация всего вышеописанного есть на видео к этому посту.
#AI
• Всё дело в MCP (Model Context Protocol) благодаря которому можно подключать ChatGPT к различным программам или бизнес-инструментам. Таким образом AI-помощник будет выполнять ваши задачи в определенных приложениях и выводить результат в чате. В общем и целом, ChatGPT будет вам лучше помогать в различных вопросах. Однако не все так круто, как хотелось бы...
1. Злоумышленник, который знает ваш адрес электронной почты, отправляет вам приглашение на встречу. Приглашение содержит скрытый промт для ИИ. Пользователь даже может не принимать это приглашение.
2. Если ChatGPT получает любую команду от пользователя, которая спровоцирует обращение ИИ к календарю, то можно прощаться с информацией.
3. ChatGPT считывает приглашение в календаре и действует так, как указана в промте (просматривает ваши личные письма и отправляет данные на адрес электронной почты злоумышленника).
• На самом деле в этом методе нет ничего нового. Скрытые промты уже давно используются подобным образом и являются достаточно эффективным методом скама при правильной реализации. Так что будьте осторожны. Демонстрация всего вышеописанного есть на видео к этому посту.
#AI
❤32⚡14👍13🔥8 2
• Wiz выкатили отчет, в котором есть интересная статистика: около 65% ИИ-компаний из списка Forbes допускают утечку конфиденциальной информации через публичные GitHub-репозитории! Специалисты смогли восстановить удаленные файлы, найти API-ключи, активные токены и учетные данные.
• Самое забавное, что Wiz публично назвала только две компании, которые оперативно отреагировали на утечки - ElevenLabs и LangChain. При этом почти половина уведомлений о найденных секретах, отправленных другим организациям, осталась без ответа, что создаёт значительный риск компрометации корпоративных данных и моделей.
➡️ https://www.wiz.io/blog/forbes-ai-50-leaking-secrets
• В качестве дополнения: инструменты grep.app и code-search - предназначены для поиска по тексту и коду, с удобным интерфейсом для поиска в публичных репо. Эти тулзы будут полезны не только разработчикам, но и помогут в защите от утечек данных!Основные возможности следующие:
➡ Поиск по публичным репозиториям;
➡ Поддержка регулярных выражений;
➡ Фильтрация по языкам программирования;
➡ Поиск с учетом регистра;
➡ Оптимизация для быстрого поиска.
➡ https://grep.app
➡ https://github.com/features/code-search
#AI #Отчет #ИБ #Tools
• Самое забавное, что Wiz публично назвала только две компании, которые оперативно отреагировали на утечки - ElevenLabs и LangChain. При этом почти половина уведомлений о найденных секретах, отправленных другим организациям, осталась без ответа, что создаёт значительный риск компрометации корпоративных данных и моделей.
• В качестве дополнения: инструменты grep.app и code-search - предназначены для поиска по тексту и коду, с удобным интерфейсом для поиска в публичных репо. Эти тулзы будут полезны не только разработчикам, но и помогут в защите от утечек данных!Основные возможности следующие:
#AI #Отчет #ИБ #Tools
Please open Telegram to view this post
VIEW IN TELEGRAM
6🔥24❤4👍4
• Peter Girnus опубликовал пост о "стратегии внедрения ИИ во всё подряд". На всякий случай отмечу, что пост написан в юмористическом формате, но именно так большинство компаний внедряют ИИ в свои процессы.
• Было бы смешно, если бы не было так грустно...
#Юмор #AI
• Было бы смешно, если бы не было так грустно...
В прошлом квартале я внедрил Microsoft Copilot для 4000 сотрудников. 30 долларов за место в месяц. 1,4 миллиона долларов в год. Я назвал это «цифровой трансформацией».
Совету директоров очень понравилась эта фраза. Они одобрили это за одиннадцать минут. Никто не спросил, что это на самом деле будет.
Я всем говорил, что это "в 10 раз повысит производительность". Это не настоящее число. Но звучит именно так.
Сотрудники отдела кадров спросили, как мы будем измерять десятикратное увеличение. Я сказал, что мы будем "использовать аналитические панели". Они перестали спрашивать.
Три месяца спустя я проверил отчеты об использовании. Его открыли 47 человек. 12 человек использовали его более одного раза. Одним из них был я. Я использовал ИИ, чтобы кратко изложить содержание электронного письма, которое мог бы прочитать за 30 секунд. Это заняло 45 секунд. Плюс время, необходимое для устранения галлюцинаций.
Но я назвал это "успешным пилотным проектом". Успех означает, что пилот не допустил видимой ошибки.
Финансовый директор поинтересовался окупаемостью инвестиций. Я показал ему график. График пошёл вверх и вправо. Это был показатель "внедрения ИИ". Этот показатель я придумал сам. Он одобрительно кивнул.
Теперь мы обладаем возможностями искусственного интеллекта. Я не знаю, что это значит. Но это есть в нашей презентации для инвесторов.
Один из опытных разработчиков спросил, почему мы не используем Claude или ChatGPT. Я сказал, что нам нужна "безопасность корпоративного уровня". Он спросил, что это значит. Я сказал «соответствие». Он спросил, о каком именно соответствии. Я сказал "все они". Он выглядел скептически. Я назначил ему "беседу о развитии карьеры". Он перестал задавать вопросы.
Компания Microsoft направила группу для проведения тематического исследования. Они хотели представить нас как историю успеха. Я сказал им, что мы "сэкономили 40 000 часов". Я рассчитал это число, умножив количество сотрудников на число, которое я сам придумал. Они это не проверили. Они никогда это не делают. Теперь мы на сайте Microsoft. «Глобальное предприятие добилось повышения производительности на 40 000 часов благодаря Copilot».
Генеральный директор поделился этим в LinkedIn. Пост набрал 3000 лайков. Он никогда не пользовался Copilot. Ни один из руководителей этого не сделал.
У нас есть новая идея. «Для стратегической концентрации необходимо свести к минимуму отвлекающие факторы в цифровой среде». Я разработал эту политику.
Срок действия лицензий истекает в следующем месяце. Я прошу добавить дополнение. Дополнительно 5000 мест. Первые 4000 мы не использовали.
Но на этот раз мы будем "стимулировать внедрение". Принятие решения в силу подразумевает обязательное обучение. Обучение представляет собой 45-минутный вебинар, который никто не смотрит. Но ход выполнения будет отслеживаться. Завершение — это показатель.
Показатели отображаются на панелях мониторинга. Информационные панели включаются в презентации для совета директоров.
Презентации для совета директоров помогают мне получить повышение. К третьему кварталу я стану старшим вице-президентом.
Я до сих пор не знаю, что делает Copilot. Но я знаю, для чего это нужно. Это делается для того, чтобы показать, что мы "инвестируем в ИИ". Инвестиции означают расходы. Вложение средств подразумевает приверженность делу. Приверженность делу означает, что мы серьезно относимся к будущему. Будущее — это то, что я сам сочту нужным. Пока график движется вверх и вправо.
#Юмор #AI
7 74👍33😁20❤11😱3🔥2🤣2⚡1 1 1
• НМИЦ Чазова имени ак. Е.И. Чазова совместно с Центром технологий для общества Яндекса запустил цифровой регистр пациентов, перенесших острый коронарный синдром (ОКС) в Тульской области. Система автоматически обрабатывает выписки, истории болезней, результаты исследований — более 13 тысяч документов за последние пять лет, при этом никакие персональные данные не покидают контура медицинской организации.
• В цифрах: смертность от болезней системы кровообращения — 45% от общей. У пациентов после ОКС риск умереть в течение четырёх лет достигает 20%. Раньше на ручную обработку данных у профильных специалистов уходили часы в неделю, теперь — несколько минут.
• Как работает: две LLM — YandexGPT Lite и Alice AI LLM на платформе Yandex AI Studio. Сначала специальная технология удаляет все персональные данные (сохранение связей между документами через ID, без выгрузки ПД за контур — 152-ФЗ соблюдён). Потом извлечение 90+ параметров: диагнозы, сопутствующие заболевания, обследования, лечение. Дальше — данные поступают в аналитическую систему для мониторинга.
• Технически важно: модели могут работать локально. В облачной версии отключено логирование запросов. Прототип сделали студенты Яндекс Практикума, промышленную архитектуру — Центр технологий для общества Яндекса.
• Дальше — масштабирование: регистры планируют развернуть в других регионах ЦФО и могут адаптировать под другие заболевания. По сути, получилось работающее решение для превращения горы неструктурированных медицинских документов в работающую ML-аналитику.
#Медицина #AI
• В цифрах: смертность от болезней системы кровообращения — 45% от общей. У пациентов после ОКС риск умереть в течение четырёх лет достигает 20%. Раньше на ручную обработку данных у профильных специалистов уходили часы в неделю, теперь — несколько минут.
• Как работает: две LLM — YandexGPT Lite и Alice AI LLM на платформе Yandex AI Studio. Сначала специальная технология удаляет все персональные данные (сохранение связей между документами через ID, без выгрузки ПД за контур — 152-ФЗ соблюдён). Потом извлечение 90+ параметров: диагнозы, сопутствующие заболевания, обследования, лечение. Дальше — данные поступают в аналитическую систему для мониторинга.
• Технически важно: модели могут работать локально. В облачной версии отключено логирование запросов. Прототип сделали студенты Яндекс Практикума, промышленную архитектуру — Центр технологий для общества Яндекса.
• Дальше — масштабирование: регистры планируют развернуть в других регионах ЦФО и могут адаптировать под другие заболевания. По сути, получилось работающее решение для превращения горы неструктурированных медицинских документов в работающую ML-аналитику.
#Медицина #AI
2👍30 8🤡5❤3👀3
• Эксперты компании Push Security выкатили исследование, в рамках которого описали новый тип атак: злоумышленники создают корпоративные рабочие пространства ChatGPT, которые являются фишинговыми и имитируют реальные компании. Соль в том, что сотрудников в эти пространства приглашают через настоящие письма от OpenAI.
• Метод был выявлен экспертами после того, как они сами получили приглашения в рабочее пространство ChatGPT с названием
• Похожие приглашения получали и другие компании в сфере ИТ и кибербеза. Письма приходили конкретным сотрудникам на их рабочую почту. В компании также отмечают, что, хотя OpenAI добавляет в приглашения предупреждение, если домен приглашающего не совпадает с доменом компании получателя, это всего одна строчка письма. На фоне знакомого шаблона, реального адреса отправителя и названия компании ее легко не заметить.
• Для эксперимента специалисты Push Security приняли одно из приглашений. В рабочем пространстве был аккаунт злоумышленника с Gmail-адресом, а приглашённым сотрудникам выдали права владельца. Если сотрудник компании начинает использовать ChatGPT как корпоративный инструмент, то в запросы могут попасть исходный код, внутренние документы, данные клиентов, результаты исследований безопасности, планы продуктов и другая конфиденциальная информация, на что и рассчитывают атакующие...
➡️ https://pushsecurity.com/blog/openai-poisoned-tenant-attack
#Исследование #AI #Фишинг #SE
• Метод был выявлен экспертами после того, как они сами получили приглашения в рабочее пространство ChatGPT с названием
Push Security Inc. Письмо было настоящим: оно пришло с адреса noreply@tm.openai.com, то есть от OpenAI, а не с домена злоумышленников. Однако само рабочее пространство было создано неизвестным с Gmail‑адресом, а не сотрудником работодателя.• Похожие приглашения получали и другие компании в сфере ИТ и кибербеза. Письма приходили конкретным сотрудникам на их рабочую почту. В компании также отмечают, что, хотя OpenAI добавляет в приглашения предупреждение, если домен приглашающего не совпадает с доменом компании получателя, это всего одна строчка письма. На фоне знакомого шаблона, реального адреса отправителя и названия компании ее легко не заметить.
• Для эксперимента специалисты Push Security приняли одно из приглашений. В рабочем пространстве был аккаунт злоумышленника с Gmail-адресом, а приглашённым сотрудникам выдали права владельца. Если сотрудник компании начинает использовать ChatGPT как корпоративный инструмент, то в запросы могут попасть исходный код, внутренние документы, данные клиентов, результаты исследований безопасности, планы продуктов и другая конфиденциальная информация, на что и рассчитывают атакующие...
#Исследование #AI #Фишинг #SE
Please open Telegram to view this post
VIEW IN TELEGRAM
3 18🔥8❤4 3👏1 1
• Исследователи из команды Sysdig обнаружили первый случай атаки шифровальщика, который был полностью реализован с помощью ИИ, без участия человека. Кампания получила название
• Точкой входа стал доступный из интернета сервер с Langflow - популярным инструментом, на котором собирают приложения на основе ИИ. В инструменте была обнаружена уязвимость (CVE-2025-3248), позволяющая без всякого пароля запустить на сервере произвольный код. К слову, уязвимость исправили еще в мае 2025 года, но в сети еще куча серверов, которые не обновлялись.
• Что касается атаки, то ИИ смог найти у жертвы ключи от OpenAI, Anthropic, DeepSeek, доступы к облакам, пароли к базам данных и криптокошельки. Также был найден сервер с базой данных MySQL и сервисом хранения настроек Nacos. К самой базе ИИ подключился с правами администратора, причем откуда у него взялся этот доступ, эксперты Sysdig выяснить не смогли.
• Ну и под конец ИИ выполнил шифрование системы и всех файлов, удалил исходные таблицы и оставил записку с требованием выкупа - btc-адресом и почтой для связи.
• Соль в том, что программу-вымогатель было невозможно расшифровать, так как ИИ-агент нигде не хранил ключ шифрования, так что вернуть данные и восстановить инфраструктуру жертва не смогла бы даже после оплаты.
➡️ Более детальная информация и технические подробности можно найти тут: https://www.sysdig.com/blog/jadepuffer-agentic-ransomware-for-automated-database-extortion
#AI #Исследование
JADEPUFFER.• Точкой входа стал доступный из интернета сервер с Langflow - популярным инструментом, на котором собирают приложения на основе ИИ. В инструменте была обнаружена уязвимость (CVE-2025-3248), позволяющая без всякого пароля запустить на сервере произвольный код. К слову, уязвимость исправили еще в мае 2025 года, но в сети еще куча серверов, которые не обновлялись.
• Что касается атаки, то ИИ смог найти у жертвы ключи от OpenAI, Anthropic, DeepSeek, доступы к облакам, пароли к базам данных и криптокошельки. Также был найден сервер с базой данных MySQL и сервисом хранения настроек Nacos. К самой базе ИИ подключился с правами администратора, причем откуда у него взялся этот доступ, эксперты Sysdig выяснить не смогли.
• Ну и под конец ИИ выполнил шифрование системы и всех файлов, удалил исходные таблицы и оставил записку с требованием выкупа - btc-адресом и почтой для связи.
• Соль в том, что программу-вымогатель было невозможно расшифровать, так как ИИ-агент нигде не хранил ключ шифрования, так что вернуть данные и восстановить инфраструктуру жертва не смогла бы даже после оплаты.
#AI #Исследование
Please open Telegram to view this post
VIEW IN TELEGRAM
3 20 13 8❤7🍾2 2👏1🤬1😎1
• Издание
• Все дело в обновленных условиях использования webOS - ОС для телевизоров LG. По новым условиям, компания может записывать и обрабатывать окружающую речь для последующего обучения ИИ. Указано, что это делается для "улучшения" работы ИИ-сервисов.
• Но самое забавное здесь то, что пользователи теперь обязаны предупреждать своих гостей о записи разговоров, чтобы не нарушать законы о защите данных. Если кто-то из гостей не согласен с фактом прослушки, то голосовые функции необходимо отключить(как будто это помогает) .
➡️ Когда вдохновился умной колонкой: https://www.techradar.com/televisions/lg
#AI #Новости
TechRadar на своем сайте пишет, что компания LG оказалась в центре скандала о приватности со своими мониторами и телевизорами.• Все дело в обновленных условиях использования webOS - ОС для телевизоров LG. По новым условиям, компания может записывать и обрабатывать окружающую речь для последующего обучения ИИ. Указано, что это делается для "улучшения" работы ИИ-сервисов.
• Но самое забавное здесь то, что пользователи теперь обязаны предупреждать своих гостей о записи разговоров, чтобы не нарушать законы о защите данных. Если кто-то из гостей не согласен с фактом прослушки, то голосовые функции необходимо отключить
#AI #Новости
Please open Telegram to view this post
VIEW IN TELEGRAM
5 39🤣27 9❤5👍1 1
• В информационной безопасности постепенно появляется новый объект защиты – ИИ-агенты
• Если раньше основное внимание было сосредоточено на защите приложений, инфраструктуры и данных, то теперь все чаще приходится думать о безопасности автономных систем, которые сами взаимодействуют с сервисами, используют инструменты и принимают решения в рамках поставленных задач.
• При их разработке безопасную архитектуру важно закладывать с самого начала. Ошибка конфигурации или потенциальная угроза могут привести к утечке данных, несанкционированным действиям в инфраструктуре или повлиять на работу всего продукта.
• Этим вопросам Школа анализа данных Яндекса посвятит бесплатный онлайн-интенсив AI Agents Security Week, в котором эксперты по безопасной разработке, безопасности ИИ-агентов и инфраструктуры будут разбирать, чем ИИ-агенты отличаются от больших языковых моделей, как выстраивать безопасный доступ к инструментам и данным, а также рассмотрят практические кейсы разработки.
#Новости #AI #Security
• Если раньше основное внимание было сосредоточено на защите приложений, инфраструктуры и данных, то теперь все чаще приходится думать о безопасности автономных систем, которые сами взаимодействуют с сервисами, используют инструменты и принимают решения в рамках поставленных задач.
• При их разработке безопасную архитектуру важно закладывать с самого начала. Ошибка конфигурации или потенциальная угроза могут привести к утечке данных, несанкционированным действиям в инфраструктуре или повлиять на работу всего продукта.
• Этим вопросам Школа анализа данных Яндекса посвятит бесплатный онлайн-интенсив AI Agents Security Week, в котором эксперты по безопасной разработке, безопасности ИИ-агентов и инфраструктуры будут разбирать, чем ИИ-агенты отличаются от больших языковых моделей, как выстраивать безопасный доступ к инструментам и данным, а также рассмотрят практические кейсы разработки.
#Новости #AI #Security
2🔥19❤11 6👍5
This media is not supported in your browser
VIEW IN TELEGRAM
• Участник судебного процесса в Коннектикуте спрятал в документах промт для ИИ. Парнишка рассчитывал на то, что если электронные документы будет анализировать ИИ, то модель должна будет выдать соответствующий результат и согласиться с его позицией.
• Сам промт был внесен в документ белым шрифтом размером 3 pt. Однако промпт был проанализирован не ИИ, а судьей, когда тот заметил подозрительные пустые места на странице. В итоге попытку оценили и запретили американцу подавать документы в электронном виде.
• Пацан к успеху шел, не повезло, не фартануло...
#Новости #AI
• Сам промт был внесен в документ белым шрифтом размером 3 pt. Однако промпт был проанализирован не ИИ, а судьей, когда тот заметил подозрительные пустые места на странице. В итоге попытку оценили и запретили американцу подавать документы в электронном виде.
• Пацан к успеху шел, не повезло, не фартануло...
#Новости #AI
3 55😁39👏10❤4🍓1 1
• Reuters пишут, что русскоязычные хакеры смогли взломать агента Cursor AI от SpaceX и хакнуть с его помощью более семи компаний.
• Выявить активность злоумышленников удалось после того, как они случайно оставили открытым доступ к серверу, через который работали с ИИ-агентом. Указано, что хакеры убедили ИИ агента в том, что все атаки проводятся в рамках симуляции и в тестовой среде.
• Всего с 8 апреля по 21 мая хакеры взломали семь компаний. Они находятся в Бельгии, Германии, Шотландии, Италии, Аргентине и США и занимаются различным бизнесом: от производства бытовой химии до сертификации вертолетных площадок.
➡️ Источник.
#Новости #AI
• Выявить активность злоумышленников удалось после того, как они случайно оставили открытым доступ к серверу, через который работали с ИИ-агентом. Указано, что хакеры убедили ИИ агента в том, что все атаки проводятся в рамках симуляции и в тестовой среде.
• Всего с 8 апреля по 21 мая хакеры взломали семь компаний. Они находятся в Бельгии, Германии, Шотландии, Италии, Аргентине и США и занимаются различным бизнесом: от производства бытовой химии до сертификации вертолетных площадок.
#Новости #AI
Please open Telegram to view this post
VIEW IN TELEGRAM
2 60👍17🔥7❤5 1
• Произошла классика: "криптоинвестор"
•
• Сейчас
➡️ Источники [1], [2].
#Новости #AI #Security
Alex решил спросить Chat GPT, где можно обменять токены sFLR на WFLR. В ответ нейронка выдала результат, в котором была ссылка на фишинговый ресурс.•
Alex перешел по ссылке, подключил кошелек и спустя несколько секунд потерял более 2.1 млн. баксов (180 млн. рублей). Средства сразу начали прогонять через миксеры и переводить на другие кошельки.• Сейчас
Alex просит помощи в Х и призывает других людей всегда проверять ссылки, которые выдает ИИ...#Новости #AI #Security
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🤣74 29 11🔥7 4😁3❤1👍1
Media is too big
VIEW IN TELEGRAM
• GPT-6 Astra, которая стала доступна несколько недель назад, смогла без единой ошибки пройти все 48 заданий игры "I'm Not a Robot" (я не робот) — от простых начальных уровней до сложных задач с шахматами и сборкой мебели IKEA. В конце нейросеть получила сертификат человека.
➡️ Источник.
• Осталось только пройти DOOM-капчу на уровне
#Новости #AI
• Осталось только пройти DOOM-капчу на уровне
Nightmare: https://doom-captcha.vercel.app#Новости #AI
Please open Telegram to view this post
VIEW IN TELEGRAM
2🔥47😁14 8❤3👍3🤔2💊2
Выдали ИИ слишком много прав — и получили новую точку риска
• Когда в инфраструктуре появляются агенты, внешние сервисы, MCP-серверы и инструменты, одной проверки модели уже недостаточно. Нужно понимать, с чем ИИ взаимодействует и какие права получает.
• Для этого Yandex B2B Tech добавила в Security Deck модуль класса AI-SPM. Он постоянно анализирует ИИ-инфраструктуру и показывает нарушения с описанием риска, уровнем критичности и рекомендациями.
• В основе подхода лежит AI-SAFE 2.0, которая разбирает агентную систему на 16 типовых компонентов, а для каждого определяет подходящие меры защиты из 47 вариантов.
• Получается, проверять нужно не только саму модель, но и всё, с чем она связана: данные, доступы, инструменты и среду, в которой работает ИИ.
➡ Источник.
#ИБ #Ai
• Когда в инфраструктуре появляются агенты, внешние сервисы, MCP-серверы и инструменты, одной проверки модели уже недостаточно. Нужно понимать, с чем ИИ взаимодействует и какие права получает.
• Для этого Yandex B2B Tech добавила в Security Deck модуль класса AI-SPM. Он постоянно анализирует ИИ-инфраструктуру и показывает нарушения с описанием риска, уровнем критичности и рекомендациями.
• В основе подхода лежит AI-SAFE 2.0, которая разбирает агентную систему на 16 типовых компонентов, а для каждого определяет подходящие меры защиты из 47 вариантов.
• Получается, проверять нужно не только саму модель, но и всё, с чем она связана: данные, доступы, инструменты и среду, в которой работает ИИ.
#ИБ #Ai
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥14👍8🤮8❤4
Please open Telegram to view this post
VIEW IN TELEGRAM
3 73🤣52👍10 7❤3🔥2😁2🤩2🦄1
• OpenAI опубликовали информацию о новом типе атак на ИИ‑агентов. Атака представляет собой использование промт-инъекции, с помощью которой заставляет модель не только выполнить команды атакующего, но и перенести промт в другие сообщения или файлы для дальнейшего распространения. Атака получила название
• OpenAI смогла обнаружить сценарий во время тестирования моделей с помощью автоматизированного red‑teaming‑агента
• Самая простая реализация связана с электронной почтой. Согласно схеме, в письмо помещается скрытая инструкция, которая требует от ИИ‑ассистента при ответе процитировать исходное сообщение целиком. В результате вредоносный промпт оказывается уже в новом письме и может повлиять на другого ИИ‑агента, который его обработает.
• Во втором случае пользователь просил модель создать Excel‑файл на основе набора данных, внутри которого находилось поддельное системное предупреждение. Оно заставляло модель удалять отчеты, а затем копировать вредоносную инструкцию в файл.
• Еще одна разновидность атаки реализуется через поддельное сообщение о сжатии данных (compaction note), которое вынуждает модель записать код инъекции в файл, а затем отключить функции безопасности в скрипте сборки репозитория.
• Также OpenAI сообщили, что с помощью
➡️ Источник.
#Новости #AI
self‑replicating prompt injection (самокопирующиеся промпт‑инъекции).• OpenAI смогла обнаружить сценарий во время тестирования моделей с помощью автоматизированного red‑teaming‑агента
GPT‑Red. Пока нет доказательств того, что подобные атаки происходили в реальных условиях.• Самая простая реализация связана с электронной почтой. Согласно схеме, в письмо помещается скрытая инструкция, которая требует от ИИ‑ассистента при ответе процитировать исходное сообщение целиком. В результате вредоносный промпт оказывается уже в новом письме и может повлиять на другого ИИ‑агента, который его обработает.
• Во втором случае пользователь просил модель создать Excel‑файл на основе набора данных, внутри которого находилось поддельное системное предупреждение. Оно заставляло модель удалять отчеты, а затем копировать вредоносную инструкцию в файл.
• Еще одна разновидность атаки реализуется через поддельное сообщение о сжатии данных (compaction note), которое вынуждает модель записать код инъекции в файл, а затем отключить функции безопасности в скрипте сборки репозитория.
• Также OpenAI сообщили, что с помощью
GPT‑Red они тестируют и обучают все свои модели, чтобы они былии более устойчивыми к данному типу атак.#Новости #AI
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
1👍20 10🔥4❤3