Confinement du rayon d'impact et limites d'autonomie(BRC)

Limite l'impact le plus défavorable d'un agent défaillant avant qu'il n'agisse, au lieu de se contenter de détecter les abus après coup. Les outils sont classés par réversibilité et par impact (la lecture est libre, l'écriture est validée, les actions destructrices sont mises en pause) ; l'autorité est cadrée selon le moindre privilège pour chaque tâche ; l'autonomie est graduée (de l'assistance, à la proposition-et-approbation, à l'action-et-audit, jusqu'à l'observation) et se mérite à mesure que la fiabilité est démontrée ; les étapes irréversibles déclenchent une simulation ou un aperçu du plan afin qu'un humain examine le plan plutôt que ses conséquences ; et un coupe-circuit avec capture d'état et mise en quarantaine peut arrêter l'agent en pleine exécution. À distinguer de l'humain dans la boucle : celui-ci relève d'une posture de supervision, tandis que ce modèle borne les capacités par la réversibilité. À distinguer du bac à sable pour agents : celui-ci isole l'environnement d'exécution, tandis que ce modèle hiérarchise la réversibilité par outil et gradue l'autonomie. À distinguer de la prévention des abus d'outils : celle-ci défend contre les abus provoqués par injection, et non contre la classification du rayon d'impact.