Loading...
🧬
Паттерн внутреннего согласования(IAP)
Внутренние точки наблюдения, недоступные для манипуляций со стороны агента, что предотвращает скрытые махинации
Сложность: highПаттерны безопасности и конфиденциальности
In 30 seconds
- What
- Встраивает в обработку агента точки наблюдения, которыми нельзя манипулировать, чтобы выявлять рассогласование целей, обман или дрейф целей, недоступные внешнему мониторингу.
- When to use
- Развертывания с высокими ставками, где агенту может быть выгодно скрывать свои настоящие рассуждения или цели, и где нужно обнаружение сверх того, что показывает анализ выходных данных.
- Watch out
- Требует глубокого доступа к внутреннему устройству модели; большинству развернутых систем не хватает прозрачности, чтобы реализовать это надежно.
Loading technique guide…