🛡 Perplexity представила архитектуру безопасности для Computer

Perplexity Computer — автономный агент, который пишет и запускает код, просматривает веб и подключается к внешним сервисам. Он работает на инфраструктуре Perplexity с аттестацией SOC 2 Type II (2026) и наследует корпоративные функции безопасности: SAML SSO, аудит-логи и гранулярное администрирование.

Каждая задача Computer выполняется в изолированной Firecracker microVM с собственным ядром Linux, изолированной файловой системой и частным сетевым пространством. Песочницы автоматически приостанавливаются при бездействии и уничтожаются после сессии. Данные хранятся отдельно от среды выполнения в разных VPC, связь — через зашифрованный HTTPS.

Для защиты от prompt injection используется четырёхуровневая архитектура и модель BrowseSafe. ML-классификаторы сканируют внешний контент до того, как агент начнёт действовать. Подозрительный контент блокируется. Системные промпты инструментов содержат явные ограничения, а внешние данные помечаются как ненадёжные.

Для Enterprise-клиентов доступны аудит-логи с интеграцией в Splunk, Azure Sentinel и Datadog, контроль доступа к коннекторам (Gmail, Outlook, Slack, GitHub, Notion, Snowflake, Databricks, Salesforce) и биллинговые лимиты на пользователя.

#Ai #Perplexity #Enterprise #PromptInjection #Sandbox

⚙️Как Anthropic изолирует Claude во всех продуктах

Anthropic опубликовала подробный обзор методов песочницы, используемых в Claude.ai, Claude Code и Cowork. Компания объясняет, как ограничивает действия агентов с помощью process sandboxes, виртуальных машин, границ файловой системы и контроля исходящего трафика. «Цель — установить жёсткую границу того, до чего агент может добраться. Если учётные данные никогда не попадают в песочницу, их невозможно exfiltrate», — отмечают в Anthropic.

Claude.ai использует gVisor. Claude Code, работающий локально, применяет Seatbelt на macOS и Bubblewrap на Linux. Claude Cowork запускает полноценную ВМ (Apple Virtualization framework на macOS, HCS на Windows). В статье также описаны интересные случаи пропущенных рисков, включая вектор exfiltration через api.anthropic.com/v1/files, о котором ранее писал Саймон Уиллисон.

Документация особенно ценна тем, что редко встречается в продуктах для sandboxing. Anthropic также напоминает о своём открытом инструменте srt (Anthropic Sandbox Runtime), который теперь достаточно зрел для полноценного использования разработчиками, работающими с агентами и AI-инструментами.

#AI #Anthropic #Claude #Safety #Sandbox #gVisor