Загружаем паттерны…
Песочница для агентов(SBX)
Запускает сгенерированный агентом код, команды оболочки и обработку недоверенного контента внутри изолированных сред с ограниченной файловой системой и списком разрешённого исходящего сетевого трафика, проходящего через прокси. Даже агент, подвергшийся инъекции промпта, не может прочитать секреты хоста, обратиться к файлам за пределами своей области или выгрузить данные на неодобренный домен. Изоляция строится на примитивах операционной системы, таких как Seatbelt и bubblewrap, на микро-ВМ или контейнерах, либо на специализированной инфраструктуре песочниц, например E2B, Modal и Docker.
За 30 секунд
- Что это
- Запускает код агента в изолированных средах с ограниченным доступом к файловой системе и исходящим трафиком, отфильтрованным через прокси со списком разрешений.
- Когда применять
- Агенты выполняют недоверенный код и команды оболочки или обрабатывают пользовательский контент, где инъекция промпта или вредоносный вывод создают риск утечки данных.
- Осторожно
- Уязвимости выхода из песочницы или неверно настроенные политики сводят изоляцию на нет; регулярно проверяйте и обновляйте инфраструктуру песочницы.
Спросите ИИ-эксперта об этом паттерне
Откроет ассистента с готовым вопросом. Вы проверите его перед отправкой.
Песочница для агентов: Обзор
Запускает сгенерированный агентом код, команды оболочки и обработку недоверенного контента внутри изолированных сред с ограниченной файловой системой и списком разрешённого исходящего сетевого трафика, проходящего через прокси. Даже агент, подвергшийся инъекции промпта, не может прочитать секреты хоста, обратиться к файлам за пределами своей области или выгрузить данные на неодобренный домен. Изоляция строится на примитивах операционной системы, таких как Seatbelt и bubblewrap, на микро-ВМ или контейнерах, либо на специализированной инфраструктуре песочниц, например E2B, Modal и Docker.
- Filesystem scoping limits reads and writes to a project directory
- Network egress restricted to a proxy-enforced allow-list
- OS primitives (macOS Seatbelt, Linux bubblewrap) for lightweight isolation
- microVM or container isolation for stronger boundaries
- Host secrets and credentials kept outside the sandbox
- Task still completes with only the permissions it needs
The Agent Architect
Один паттерн, один компромисс, одна история сбоя в продакшене. Короткий еженедельный брифинг для тех, кто строит агентные системы.
Одно письмо в неделю, отписка в один клик. Адрес используется только для рассылки брифинга.
Источники
Статьи, спецификации и репозитории, на которых основан этот паттерн.
От инженера, создавшего этот каталог
Проведите red teaming вашей агентной системы
Описанные здесь меры защиты чего-то стоят, только если кто-то попробует их сломать. Мы протестируем вашу систему так, как это сделал бы настоящий атакующий: инъекции промптов, джейлбрейки, злоупотребление инструментами и эксфильтрация данных, каждая находка с готовым исправлением.
€750 вместо €1 500, одна неделя, письменный отчёт и разбор в звонке, до 30 сентября