Loading...
🔦
スポットライティングとデータマーキング(SDM)
信頼できない外部テキストを、信頼できる指示から確実に区別できるようにする、低コストな変換の一群。デリミティングは外部コンテンツを一意の境界で囲み、データマーキングは信頼できない範囲のすべての空白に特別なトークンを挟み込み、base64などのエンコーディングはそれを指示チャネルからさらに分離する。間接的なプロンプトインジェクションに対する安価な第一の防御線だが、適応型攻撃には弱くなるため、多層防御と組み合わせるべきである。
複雑さ: lowセキュリティとプライバシーのパターン
In 30 seconds
- What
- 信頼できない外部テキストを一意の区切り記号で囲み、空白部分に特殊トークンを挟み込み、あるいは base64 でエンコードして、信頼できる指示と視覚的に区別できるようにする。
- When to use
- モデルを狙った隠れたインジェクションが含まれうる外部コンテンツ(ウェブページ、ユーザーのアップロード、API のレスポンス)を扱う場合。
- Watch out
- 適応的な攻撃者はあなたのマーカーを学習して回避できる。これはあくまで第一層であり、完全な防御ではないと考えること。
Loading technique guide…