🛑 Capsule Security запустила «AI Circuit Breaker» для остановки неконтролируемых ИИ-агентов

Стартап Capsule Security представил решение AI Circuit Breaker — защитный механизм, который принудительно останавливает работу автономных ИИ-агентов при обнаружении опасного или аномального поведения. Продукт нацелен на компании, использующие агентный ИИ для автоматизации бизнес-процессов.

Система работает по принципу автоматического предохранителя: она в реальном времени наблюдает за действиями агента, сопоставляет их с заданными политиками безопасности и может экстренно прервать выполнение задачи до того, как агент нанесёт ущерб. Как отмечают в компании, решение закрывает растущий класс рисков, связанных с выходом ИИ-агентов за пределы разрешённых сценариев, включая промпт-инъекции, случайные деструктивные действия и «галлюцинации», которые приводят к нежелательным изменениям в корпоративных системах.

Новинка рассчитана на интеграцию в существующие ИИ-пайплайны и добавляет дополнительный контур безопасности поверх традиционных средств контроля доступа. Для организаций это способ внедрять автономных агентов без страха, что единичный сбой в рассуждении модели приведёт к серьёзным последствиям.

#AI #CapsuleSecurity #CyberSecurity #Agents