Loading...
🔦
Spotlighting и маркировка данных(SDM)
Семейство недорогих преобразований, которые делают недоверенный внешний текст надёжно отличимым от доверенных инструкций. Разграничение (delimiting) заключает внешний контент в уникальные границы, маркировка данных (datamarking) вставляет специальный токен в каждый пробел недоверенного фрагмента, а кодирование, например base64, дополнительно отделяет его от канала инструкций. Это дешёвая первая линия обороны против косвенной инъекции промптов, но она ослабевает под адаптивными атаками, поэтому её следует сочетать с эшелонированной защитой.
Сложность: lowПаттерны безопасности и конфиденциальности
In 30 seconds
- What
- Оборачивает недоверенный внешний текст в уникальные разделители, вставляет специальные токены вместо пробелов или кодирует его в base64, чтобы он визуально отличался от доверенных инструкций.
- When to use
- Обработка внешнего содержимого (веб-страницы, загрузки пользователей, ответы API), в котором могут скрываться попытки инъекции, нацеленные на модель.
- Watch out
- Адаптивные атакующие могут выучить ваши маркеры и обойти их: считайте это лишь первым рубежом, а не полноценной защитой.
Loading technique guide…