ИИ-агенты могут захватить контроль над системой

Исследователи PaloAlto выявили критическую угрозу: непроверенные ИИ-приложения способны получить привилегированный доступ к системным ресурсам.

Обнаруженная уязвимость позволяет автономным агентам выполнять произвольный код и захватывать контроль над инфраструктурой.

Эксперты рекомендуют запускать подобные системы исключительно в изолированных средах с ограниченными правами.

Особую опасность представляют LLM-агенты с доступом к командной строке и системным утилитам.

Еще одна фобия получила подтверждение, - почему я не хочу у себя поднимать локального агента на чужом фреймворке пока не разберусь с изоляцией.
Только агенты, которых пишу сам и точно знаю что они делают или не делают.

Отдельный привет хочется передать новым системам управления компьютером, которые буквально все анонсировали на прошедшей неделе.

#cybersecurity #sandbox #LLM
———
@tsingular

Windows в Docker — песочница для AI-агентов

Если вдруг вам страшно запускать Cowork-подобных агентов в дикой среде на своей машине, - есть вариант упаковать их в песочницу.

Неожиданный новый вариант - windows в докере, - решение для тех у кого нет virtualbox или vmware или hyper-pc от винды.

Суть:
Полноценная Windows внутри Docker-контейнера.
Автоматическая установка — запустил и через 10 минут готовый рабочий стол в браузере.

Поддерживает Windows 11, 10, 8.1, 7, Vista, XP и даже Windows 2000
Windows Server разных сборок от 2003 до 2025 тоже есть.

Применение для AI-агентов:
Cowork / EIGent / Computer Use, - пусть экспериментируют в изолированной среде:
- Агент удалил важный файл? Перезапустил контейнер
- Prompt injection сработал? Ничего критичного не пострадало
- Нужно протестировать опасную операцию? Песочница к вашим услугам

Варианты доступа:
- Веб-интерфейс: порт 8006 (для наблюдения)
- RDP: порт 3389 (для полноценной работы)
- Shared folder: папка `/shared` доступна как на хосте, так и внутри Windows

Бонус:
Есть ещё dockur/macos для macOS и qemus/qemu для Linux-десктопов.

48.9k ⭐️, MIT лицензия.

Качать тут

Комментарий от Claude: Когда AI-агенты станут достаточно умными чтобы выбраться из песочницы — у нас будут проблемы посерьёзнее удалённых файлов.

#Docker #Windows #Sandbox #песочница
———
@tsingular

Hugging Face запустила Sandboxes — изолированные облачные машины для агентов с Python API и CLI

Hugging Face методично собирает полный стек для AI-агентов: от курсов и моделей до агентских фреймворков типа smolagents, а теперь еще и Sandboxes лёгкие изолированные песочницы, поднимаемые за секунды через Python или CLI, построенные поверх инфраструктуры HF Jobs.

📋 Что внутри:
• Два режима: выделенный (полная VM, GPU, холодный старт ~6 секунд) и общий пул (десятки песочниц на одном хосте, CPU, изоляция через Landlock, старт ~один цикл обмена, в разы дешевле)
• Любой Docker-образ с /bin/sh, Python не нужен — на старте подключается статический сервер
• Команды: синхронные и фоновые процессы, загрузка и скачивание файлов, прокси внутренних серверов (HTTP, SSE, WebSocket)
• Песочница может жить независимо от создавшего её процесса, - можно запустить сейчас, а переподключиться позже с любой машины с тем же HF-токеном
• CLI hf sandbox — полное зеркало Python API: create, exec, spawn, cp

HF превращается в полноценную агентскую ИИ платформу: модели (Hub), инференс провайдеры, агентский фреймворк (smolagents), обучение (курсы), исполнение на виртуалках (Sandboxes).
Отдельный плюс, что агенты перестают быть привязаны к локальной машине разработчика, - исполнение в облаке и состояние может жить между сессиями независимо.

#HuggingFace #sandbox #песочница
------
@tsingular