Loading...
🧪
Паттерн предотвращения отравления памяти(MPP)
Защищает системы памяти агентов от злонамеренных манипуляций и постепенного повреждения
Сложность: highПаттерны безопасности и конфиденциальности
In 30 seconds
- What
- Проверяет обновления памяти с помощью криптографической подписи, выявляет аномалии и откатывает повреждённое состояние, чтобы предотвратить злонамеренные манипуляции знаниями агента.
- When to use
- Агенты хранят пользовательские данные или усвоенные закономерности, которые злоумышленники могут отравить, чтобы со временем изменить поведение, решения или ответы.
- Watch out
- Накладные расходы на постоянную проверку и механизмы отката могут заметно увеличить время отклика при больших объёмах или в условиях реального времени.
Loading technique guide…