Loading...
🔦
Spotlighting 与数据标记(SDM)
一组低成本的变换手法,使不可信的外部文本能够可靠地与可信指令区分开来。定界(delimiting)用唯一的边界包裹外部内容,数据标记(datamarking)在不可信文本段的每一处空白中穿插一个特殊标记,而 base64 等编码则进一步将其与指令通道分离。它是抵御间接提示注入的一道廉价的初级防线,但在自适应攻击下会失效,因此应与分层防御结合使用。
复杂度: low安全与隐私模式
In 30 seconds
- What
- 用唯一的分隔符包裹不可信的外部文本,在空白处穿插特殊标记,或将其编码为 base64,使其在视觉上与可信指令区分开来。
- When to use
- 处理可能藏有针对模型的注入企图的外部内容(网页、用户上传文件、API 响应)。
- Watch out
- 自适应攻击者可以摸清你的标记并绕过它们;应把它当作第一道防线,而非完整的防御。
Loading technique guide…