⚙️Как Anthropic изолирует Claude во всех продуктах

Anthropic опубликовала подробный обзор методов песочницы, используемых в Claude.ai, Claude Code и Cowork. Компания объясняет, как ограничивает действия агентов с помощью process sandboxes, виртуальных машин, границ файловой системы и контроля исходящего трафика. «Цель — установить жёсткую границу того, до чего агент может добраться. Если учётные данные никогда не попадают в песочницу, их невозможно exfiltrate», — отмечают в Anthropic.

Claude.ai использует gVisor. Claude Code, работающий локально, применяет Seatbelt на macOS и Bubblewrap на Linux. Claude Cowork запускает полноценную ВМ (Apple Virtualization framework на macOS, HCS на Windows). В статье также описаны интересные случаи пропущенных рисков, включая вектор exfiltration через api.anthropic.com/v1/files, о котором ранее писал Саймон Уиллисон.

Документация особенно ценна тем, что редко встречается в продуктах для sandboxing. Anthropic также напоминает о своём открытом инструменте srt (Anthropic Sandbox Runtime), который теперь достаточно зрел для полноценного использования разработчиками, работающими с агентами и AI-инструментами.

#AI #Anthropic #Claude #Safety #Sandbox #gVisor