ФСТЭК сделает пожестче

24 августа ФСТЭК вынесла на обсуждения проект изменений в приказ 117 от 11 апреля, который устанавливает требования к защите информации в ГИС. Новая редакция детально регламентирует меры безопасности при использовании ИИ.

Операторы ГИС будут обязаны выделить ИИ в отдельный сегмент инфраструктуры. Действий пользователей при доступе в выделенный сегмент будут регистрироваться и анализироваться.

Большое внимание в проекте уделено ИИ-агентам, в том числе автономным.

Операторы будут обязаны принять меры по предотвращению несанкционированного воздействия на ресурсы информационной системы, а также контролировать и управлять правами доступа агентов в соответствии с внутренними стандартами.

Если вы используете ИИ-модели от подрядных организаций, мероприятия по защите информации устанавливаются во внутренних стандартах и регламентах оператора.

Общественное обсуждение проекта продлится до 15 сентября.

Представители отрасли говорят, что новые меры существенно скажутся на стоимости ИБ-решений, так как новые требования потребуют дополнительных трат вендоров, например, на вычислительные мощности.

Рост цены может составить до 15-20%.

@cybersachok

unsecure.sh опубликовали сценарий TheBiggerInterview — скачиваемый датасет, чтобы измерить, не подведёт ли agentic SOC на неоднозначном алерте.

Цепочка в сценарии многоплоскостная: начальный доступ через отравление кэша GitHub Actions, боковое движение в monitoring Pod, затем компрометация ноды. Для аналитика это рваные нити и гипотезы, а не один чистый тикет.

Готовый агент здесь объект проверки, не замена дежурства. Если triage уже у модели, прогоните свой стек по этому бенчмарку до боевого сигнала такого же вида.

---
github.com · A scenario to evaluate your Agentic SOC
---
▪️ @paranoAISecure / Чат канала

Auditing Anonymous AI Models: A Four-Stage Protocol for Black-Box Identity Verification [score 8, tier 1]
Yisen Xi · 2026-08-31 · #model_extraction · arXiv:2608.31142

📝 TL;DR (RU):
Автор предлагает четырехэтапный протокол для идентификации анонимных API-моделей через анализ конфигурации, токенизатора и поведенческие пробы. Метод протестирован на 10 известных моделях и успешно предсказал версию GLM-5.3 до официального релиза. Работа важна для оценки рисков цепочки поставок и верификации происхождения моделей в условиях скрытых запусков.

Source · PDF

Tiny Teams: логично, но пока не сходится

Последние недели думаю про Tiny Teams и никак не могу определиться со своей позицией.

В мае Сбер презентовал AI-Disrupt PDLC , кстати кто не читал - рекомендую. Там есть раздел как раз про это: команда из 3–6 человек, которая владеет всем циклом и оркестрирует агентов вместо того, чтобы писать код руками. Роли перемешиваются, объем разработки растет. Все на бумаге логично. И я лично верю, что это может сработать.

Но вот из-за океана пришли такие новости. Reuters провело некое расследование по деятельности Цукерберга. Meta* стартовали этот процесс раньше и уже видны первые результаты. Продуктовые команды по 10–20 человек превратились в поды по 3–5. Внутренние цифры: изменений в код +220% год к году, а до пользователя дошло +36%. Инциденты +40%, времени на их разбор +70%. Ноябрьскую волну сокращений отменили. Цукерберг по инсайдам сказал, что агентная разработка за четыре месяца не ускорилась так, как рассчитывали.

И тут еще вот на что обратил внимание. Сбер в документе прописал четыре условия, без которых Tiny Team не бывает: зрелая платформа, библиотека паттернов, методика валидации без ручного ревью каждого изменения, работающий ADLC. И если у кого-то в мире и были шансы собрать все четыре, то у Meta*. Своя платформа, свои модели, культура evals, лучшие инженеры, деньги. И всё равно пока не получилось. Значит нужно что-то еще.

Еще интересно, что на пилотах у Meta все сходилось. Были прямо собраны несколько подов из 2-3 инженеров и все получилось. Но, деталь, это было добровольное участие и, соответственно, инженеры были сверхмотивированными энтузиастами.

Может это секретный соус, что думаете?

* Meta Platforms Inc. признана экстремистской организацией, её деятельность на территории РФ запрещена.

PrivEscalate: Measuring and Augmenting the Threat of LLM-Automated Linux Privilege Escalation [score 8, tier 1]
Yixuan Liu et al. (4) · 2026-09-08 · #dangerous_capabilities · arXiv:2609.09087

📝 TL;DR (RU):
Авторы представили бенчмарк PrivEscalate из 531 сценария для оценки способности LLM-агентов к повышению привилегий в Linux. Показано, что успех агентов сильно зависит от архитектуры и конфигурации среды, а специализированный агент PrivEscAgent превосходит базовые модели. Работа важна для количественной оценки наступательных возможностей ИИ в кибербезопасности.

Source · PDF