🤖 Чем больше распространяются LLM, тем интереснее они злоумышленникам. Как защитить большие языковые модели от взлома?

На вебинаре 31 июля в 11:00 вместе с нашими экспертами Светланой Газизовой, Анастасией Истоминой и Александром Кузьминым обсудим актуальные угрозы, способы их детектирования и защиты от них.

👿 Например, такие как специально сформированные промпты или незаметно измененные входные данные, которые помогают обойти защитные механизмы нейросетей и получить на выходе неверный или вредоносный вывод.

А еще рассмотрим реальные технологии защиты, которые помогут вашему бизнесу быть устойчивее к атакам:

🔴продвинутую валидацию запросов и ответов;
🔴интерпретируемость и прозрачность LLM;
🔴детектирование аномалий.

💪 Хотите научиться защищать LLM уже сейчас? Тогда регистрируйтесь и ставьте напоминание в календари.

#PositiveЭксперты
@Positive_Technologies

😍 Эксперт PT SWARM Сергей Близнюк обнаружил уязвимость, затронувшую 37 продуктов Microsoft

Дефект безопасности в службе Remote Access Connection Manager (CVE-2025-47955) — системном компоненте Windows, отвечающем за установку VPN-соединений, — имеет высокий уровень опасности (7,8 балла по шкале CVSS 3.1). Его успешная эксплуатация позволяет атакующему повысить свои привилегии на корпоративном устройстве до системных — и производить дальнейшие атаки, в частности устанавливать любое ПО, включая вредоносное.

«Уязвимость особенно опасна для корпоративных сетей, — отметил Сергей Близнюк. — Если ее не устранить, злоумышленнику будет достаточно иметь доступ к компьютеру сотрудника, не являющегося администратором, или к терминальному серверу с низкими привилегиями, чтобы получить на нем максимальные права».

Среди решений, подверженных ошибке, — Windows 10 и 11, которые, по данным аналитической платформы Statcounter, занимают около 70% рынка ОС для настольных компьютеров. Ошибка безопасности в числе прочего коснулась 19 серверных версий, включая Windows Server 2022 и 2025. Эти системы широко используются в корпоративных инфраструктурах, облачных сервисах и дата-центрах.

🔁 Установите ежемесячные обновления безопасности для устранения дефекта, а если такой возможности нет, наши эксперты настоятельно советуют выключить непропатченную службу (она активна во всех версиях ОС по умолчанию).

#PositiveЭксперты
@Positive_Technologies

🔄 «Уральская сталь» выстраивает полный цикл управления уязвимостями на базе MaxPatrol VM

При помощи нашего продукта металлургический комбинат анализирует возможные недостатки безопасности на 4 000 активов и управляет уязвимостями, начиная от сбора данных о них и заканчивая контролем устранения.

Металлургический комбинат «Уральская сталь» — один из ведущих российских производителей в отрасли черной металлургии и градообразующее предприятие города Новотроицк в Оренбургской области.

После успешно проведенного «пилота» компания сделала выбор в пользу MaxPatrol VM. Основными аргументами за были способность быстро обнаруживать недостатки безопасности в инфраструктуре и получать актуальную информацию о трендовых уязвимостях в течение 12 часов с момента появления информации о них.

👾 Внедрение MaxPatrol VM проходило в три этапа: инсталляция решения; аудит и категоризация активов предприятия; настройка системы и разработка документации для ее администраторов и операторов.

«Все вложения в проект являются стратегической инвестицией в защиту нашего бизнеса. Металлургический комбинат является важным звеном в производственной цепочке. От наших поставок зависит множество проектов по всей стране. Наша приоритетная задача — обеспечить непрерывность всех производственных процессов», — отметил Дмитрий Мордованюк, начальник отдела информационной безопасности «Уральской стали».

👀 Подробности ищите в новости на нашем сайте.

#MaxPatrolVM
@Positive_Technologies

💱 Мы начали сотрудничать с ведущим разработчиком блокчейн-технологий Web3 Tech в сфере безопасности ЦФА

Наша экспертиза в области защиты блокчейн-решений дополнит технологические возможности Web3 Tech, благодаря чему российский разработчик сможет предложить клиентам комплексный сервис. Крупные компании, частные и государственные, получат не только внедрение и поддержку распределенной доверенной инфраструктуры, но и полный аудит ее информационной безопасности 😎

Значительную долю российских заказчиков Web3-технологий составляют финтех-компании, работающие с цифровыми финансовыми активами (ЦФА), объем рынка которых в России оценивается примерно в 1 трлн рублей. Минфин России работает над увеличением его объемов и ожидает, что они продолжат кратно расти.

Стремительное внедрение блокчейн-технологий ведет к росту интереса к ним со стороны киберпреступников: за 2024 год они похитили из Web3-инфраструктуры во всем мире почти 1,5 млрд долларов.

«Мы предполагаем, что в ближайшие годы число атак на блокчейн, как и ущерб от них, будет расти вместе с рынком. При этом большая часть будет нацелена на инфраструктуру, поскольку атаки на саму технологию требуют от киберпреступника высокой квалификации, специфических навыков и знаний. Мы также ожидаем расширения поверхности атак на смарт-контракты из-за пересечений с методами взлома классических систем. Кроме того, заказчикам стоит помнить: хотя блокчейн и новая технология, для получения первоначального доступа к системе злоумышленники все еще могут использовать консервативные методы, в том числе социальную инженерию», — отмечает Юлия Воронова, директор Positive Technologies по консалтингу.

В связи с этим основным вектором партнерства станет усиление защиты инфраструктуры ЦФА и других цифровых активов за счет проверки экспертами Positive Technologies смарт-контрактов и прикладных решений на уязвимости.

🆕 Подробнее о сотрудничестве и о том, как мы защищаем ЦФА, написали в новости на сайте.

@Positive_Technologies

PT Surveying — новый сервис Positive Technologies для всесторонней оценки киберустойчивости компаний 🤨

Новости об атаках на российские компании последних дней еще раз доказали необходимость проверки своей защищенности, в числе которых ретроспективный анализ и проверка безопасности подрядчиков.

С помощью нашей новой услуги PT Surveying компании смогут оперативно определить уровень своей устойчивости к будущим кибератакам и вероятность уже произошедшего взлома.

«Злоумышленники могут месяцами не проявлять активность, находясь в инфраструктуре компании продолжительное время и дожидаясь подходящего момента для атаки. Сервис PT Surveying (наряду с другими услугами Positive Technologies) поможет проверить, не взломаны ли вы уже, определить уязвимости и вовремя их закрыть. Атаки через цепочки поставок и доверительные отношения прочно обосновались среди самых распространенных видов кибератак.

Только в 2024 году 41% компаний, пострадавших от серьезных инцидентов, заявили, что причиной проникновения стала третья сторона. На этом фоне особенно важно отслеживать защищенность как зависимых организаций, входящих в единый контур групп компаний, так и контрагентов, имеющих индивидуальные каналы взаимодействия», — отметила Юлия Воронова, директор по консалтингу Positive Technologies.

👀 PT Surveying поможет быстро и объективно оценивать компании вне зависимости от отрасли, чтобы быть уверенными в их надежности.

За счет комплексного подхода, заложенного в методологию расчета рейтинга киберустойчивости, компания оценивается не только снаружи, то есть глазами внешних злоумышленников, но и изнутри.

Сервис также может применяться для контроля ИБ в дочерних и взаимосвязанных организациях, для выбора безопасных поставщиков, подрядчиков или провайдеров услуг и мониторинга их цифровой репутации, для определения условий страхования и оценки киберрисков. Сервис также полезен при принятии инвестиционных решений (в том числе в сделках по слияниям и поглощениям) и резолюций о выдаче клиентам займов и кредитов.

В рамках услуги обязательно проводятся:

1️⃣ Экспресс-проверка внешнего периметра компании на наличие уязвимостей, которыми теоретически могут воспользоваться злоумышленники, и установление степени их опасности.

2️⃣ Оценка внешних цифровых угроз, которые на основе доступной об организации информации способен реализовать атакующий. В частности, глубоко сканируется теневой интернет и закрытые хакерские каналы с целью найти утечки данных, объявления о продаже доступов к инфраструктуре организации и призывы совершать против нее киберпреступления.

3️⃣ Ретроспективный анализ событий ИБ, зарегистрированных корпоративными СЗИ. Особое внимание уделяется поиску индикаторов компрометации и потенциально нежелательным программам.

4️⃣ Оценка внутренних практик обеспечения ИБ на основе заполненных анкет. Например, изучаются процессы и политики безопасности, превентивные и реактивные методы защиты от атак и подходы к восстановлению пораженной инфраструктуры.

После завершения анализа заказчик (инициатор оценки) и организация, которую мы оценивали, получают отчет, подготовленный нашими экспертами c многолетним опытом расследования кибератак и реагирования на инциденты. Результаты могут быть использованы специалистами без технического опыта для принятия обоснованных управленческих решений.

В отчете также будут описаны возможные векторы атак и подробные рекомендации по повышению уровня защищенности в виде маршрутной карты. Средний срок выполнения оценки — около двух недель.

Узнать больше о PT Surveying и оставить заявку можно на нашем сайте 🫲

@Positive_Technologies

Безопасность почты начинается с защиты от фишинга 📨

Все потому, что подозрительные ссылки и вредоносные вложения чаще всего приходят именно в электронных письмах. Один клик — и инфраструктура компании уже не в безопасности.

Чтобы этого не произошло, полезно не только напоминать сотрудникам, что не стоит переходить по незнакомым ссылкам, но и усиливать почтовую кибербезопасность. Как именно это сделать, рассказал в статье на Хабре Федор Гришаев, ведущий специалист PT ESС.

Он разобрал принципы работы и сценарии применения разнообразных технических средств для защиты почты: от решений класса secure email gateway (SEG) до специализированных песочниц (например, PT Sandbox) и средств для имитации атак (таких как PT Knockin). А еще он посоветовал, что делать, если случилось страшное вы уже прошли по фишинговой ссылке.

🐟 Читайте, и пусть на крючок попадаются мошенники, а не вы.

#PositiveЭксперты
@Positive_Technologies

🤯 Какую опасность для бизнеса несут в себе внедрение и использование ИИ? Рассказали об этом в новом исследовании

Наши эксперты проанализировали киберугрозы по трем ключевым направлениям развития искусственного интеллекта: агентский ИИ (agentic AI), ИИ на периферийных устройствах (edge AI) и квантовый ИИ (quantum AI).

🕴 Агентский ИИ

Злоумышленники могут подменить данные в памяти и использовать инструменты агента или мультиагентной системы, построенных на больших языковых моделях, для получения доступа к конфиденциальной информации или критической инфраструктуре. Ложные входные данные и перегруз массой запросов потенциально приводят к нарушению бизнес-процессов или игнорированию политик безопасности. а внедрение вредоносного кода в фреймворки для разработки ИИ-агентов может повлиять на все связанные системы.

🏠 ИИ на периферийных устройствах

Под угрозой — уязвимые умные устройства, например с небезопасно настроенными параметрами или с устаревшими компонентами. Передача данных по сети несет риск DDoS-атак, спуфинга и атак типа «человек посередине». Злоумышленники могут атаковать и саму модель ИИ, к примеру, подменив входные данные, и в результате способны получить доступ к чувствительной информации организации.

💎 Квантовый ИИ

В ближайшем будущем большинство взаимодействий с квантовым ИИ будет происходить через облачных провайдеров. Используя уязвимости облачных платформ, злоумышленники могут похитить сведения об архитектуре модели, обучающие данные и другую интеллектуальную собственность. К критически опасным ошибкам могут приводить скрытые уязвимости, внедренные на этапе обучения моделей, а также искаженные входные данные.

«Пока злоумышленникам, включая APT-группировки, проще получать доступ к корпоративным системам проверенными методами, чем создавать ИИ-агенты для взлома, проводить атаки на ИИ-модели или использовать дорогое квантовое оборудование. Но уже завтра картина может измениться, и бизнесу нужно учитывать эти риски», — отмечает Яна Авезова, ведущий аналитик направления аналитических исследований Positive Technologies.

🛡 Защита от угроз

Наши эксперты считают, что внедрение ИИ требует комплексной оценки рисков. Недостаточно ограничиваться технической защитой модели — нужно контролировать стык технологий и бизнес-процессов через обучение сотрудников и стандартизацию рабочих процедур. Особое внимание стоит уделить защите данных: ограничить доступную ИИ информацию и внедрить механизмы контроля для предотвращения утечек конфиденциальных сведений.

👀 Больше о роли ИИ в бизнес-процессах и о возможных угрозах читайте в исследовании у нас на сайте.

#PositiveЭксперты
@Positive_Technologies