Loading...
Ограничение радиуса поражения и границы автономии(BRC)
Ограничивает наихудшее возможное воздействие сбойного агента до того, как он начнёт действовать, а не только выявляет злоупотребления постфактум. Инструменты классифицируются по обратимости и воздействию (чтение свободно, запись валидируется, деструктивные операции ставятся на паузу); полномочия ограничиваются по принципу наименьших привилегий для каждой задачи; автономия предоставляется поэтапно (от помощи к предложению-и-одобрению, затем к действию-и-аудиту и к наблюдению) и заслуживается по мере подтверждения надёжности; необратимые шаги вызывают пробный прогон или предпросмотр плана, чтобы человек проверял план, а не его последствия; а аварийный выключатель с захватом состояния и помещением в карантин может остановить агента посреди выполнения. Отличается от человека в контуре: это позиция надзора, тогда как здесь возможности ограничиваются по обратимости. Отличается от песочницы для агентов: она изолирует среду выполнения, тогда как здесь ранжируется обратимость по каждому инструменту и поэтапно расширяется автономия. Отличается от предотвращения злоупотребления инструментами: оно защищает от злоупотреблений, вызванных инъекцией, а не от классификации радиуса поражения.
In 30 seconds
- What
- Классифицирует инструменты по обратимости (чтение, запись, разрушающие), выдаёт минимальные права на каждую задачу, постепенно расширяет автономию по мере подтверждения надёжности и показывает необратимые действия в режиме пробного прогона перед выполнением.
- When to use
- Системы с высокой ценой ошибки, где промах агента наносит реальный ущерб (базы данных, инфраструктура, платежи) и нужно ограничить худший сценарий до того, как агент начнёт действовать.
- Watch out
- Затраты на классификацию каждого инструмента и управление ступенями автономии могут замедлить внедрение, а излишняя вера в классификацию обратимости ведёт к недооценке радиуса поражения.
Loading technique guide…