読み込み中...
AIレッドチーミングハブ
AIシステムのための包括的なセキュリティテスト手法と防御戦略。脆弱性を見つけ、より安全なAIを構築する方法を学びます。
攻撃カテゴリ
複雑さの分布
AIセキュリティ監査の方法論
AIシステムのセキュリティ監査を体系的に実施するための包括的フレームワーク
セキュリティテストのカテゴリ
ããã³ããã¤ã³ã¸ã§ã¯ã·ã§ã³
æªæããããã³ããã§AIã®å¿çãæä½ããææ³
ã¸ã§ã¤ã«ãã¬ã¤ã¯
AIã®å®å ¨æ©æ§ã¨ã³ã³ãã³ãããªã·ã¼ãåé¿ããææ³
æµå¯¾çæ»æ
AIã¢ãã«ã欺ãããã«è¨è¨ãããå ¥åã®ä½æ
èå¼±æ§è©ä¾¡
CVEåæã¨AIã·ã¹ãã ã»ãã¬ã¼ã ã¯ã¼ã¯ã®ã»ãã¥ãªãã£ãã¹ã
ãµãã©ã¤ãã§ã¼ã³æ»æ
AIã¢ãã«ã¨ãã¼ã¿ã®ãµãã©ã¤ãã§ã¼ã³ã®èå¼±æ§ãã¹ã
ã¢ãã«çªåã¨ç¥è²¡ä¿è·
ã¢ãã«æ½åºææ³ã¨ç¥ç財ç£ä¿è·ã®ãã¹ã
ã¨ã¼ã¸ã§ã³ãAIã¸ã®æ»æ
ãã«ãã¨ã¼ã¸ã§ã³ãã®ã»ãã¥ãªãã£ãã¹ãã¨èªå¾ã·ã¹ãã ã®æªç¨ææ³
ã¡ã¢ãªã¨ã³ã³ããã¹ãã¸ã®æ»æ
ã¡ã¢ãªæ±æãRAGã®æªç¨ãã³ã³ããã¹ãæä½ã®ææ³
ãã«ãã¢ã¼ãã«æ»æ
ã¢ããªãã£æ¨ªæã®æªç¨ã¨åã¢ããªãã£åºæã®æ»æææ³
倫理ガイドライン
⚠️ 責任ある開示
- • 自分が所有する、または明確な許可を得たシステムのみをテストしてください
- • 脆弱性は適切な窓口を通じて報告してください
- • 協調的な脆弱性開示の慣行に従ってください
- • システムの可用性と利用者のプライバシーを尊重してください
🛡️ 防御を目的とすること
- • これらの手法はシステムのセキュリティ向上のために使ってください
- • 適切な防御策を文書化し、実装してください
- • 知見を共有し、AIセキュリティのコミュニティを強くしてください
- • より安全で堅牢なAIシステムの構築を優先してください
ご注意: これらの手法は防御的なセキュリティテストと研究のみを目的としています。常に倫理ガイドラインと法的要件を守ってください。
このカタログを作ったエンジニアが担当
あなたのエージェントシステムをレッドチーミング
ここに収録された攻撃は、本番のエージェントシステムに対して日々成立しています。誰かに悪用される前にテストしましょう。プロンプトインジェクション、ジェイルブレイク、ツールの悪用、データ持ち出しまで、すべての指摘に修正方法を添えてお渡しします。
€750（通常€1,500）・1週間・文書レポートとウォークスルーコール・9月30日まで