Загрузка...
Центр red teaming для ИИ
Полный набор методов тестирования безопасности и защитных стратегий для систем ИИ. Научитесь находить уязвимости и строить более безопасный ИИ.
Категории атак
Распределение по сложности
Методология аудита безопасности ИИ
Полноценная методика систематического аудита безопасности систем ИИ
Категории тестирования безопасности
ÐнÑекÑÐ¸Ñ Ð¿ÑомпÑа
ÐÑиÑÐ¼Ñ Ð¼Ð°Ð½Ð¸Ð¿ÑлÑÑии оÑвеÑами ÐÐ ÑеÑез вÑедоноÑнÑе пÑомпÑÑ
ÐÐ±Ñ Ð¾Ð´ огÑаниÑений
ÐеÑÐ¾Ð´Ñ Ð¾Ð±Ñ Ð¾Ð´Ð° Ð¼ÐµÑ Ð°Ð½Ð¸Ð·Ð¼Ð¾Ð² безопаÑноÑÑи и конÑенÑнÑÑ Ð¿Ð¾Ð»Ð¸Ñик
СоÑÑÑзаÑелÑнÑе аÑаки
Создание Ð²Ñ Ð¾Ð´Ð½ÑÑ Ð´Ð°Ð½Ð½ÑÑ , ÑаÑÑÑиÑаннÑÑ Ð½Ð° обман моделей
ÐÑенка ÑÑзвимоÑÑей
Ðнализ CVE и ÑеÑÑиÑование безопаÑноÑÑи ÐÐ-ÑиÑÑем и ÑÑеймвоÑков
ÐÑаки на ÑепоÑÐºÑ Ð¿Ð¾ÑÑавок
ТеÑÑиÑование ÑÑзвимоÑÑей ÑепоÑки поÑÑавок моделей и даннÑÑ
ÐÑажа модели и заÑиÑа ÐС
ÐеÑÐ¾Ð´Ñ Ð¸Ð·Ð²Ð»ÐµÑÐµÐ½Ð¸Ñ Ð¼Ð¾Ð´ÐµÐ»Ð¸ и ÑеÑÑиÑование заÑиÑÑ Ð¸Ð½ÑеллекÑÑалÑной ÑобÑÑвенноÑÑи
ÐÑаки на ÐÐ-агенÑов
ТеÑÑиÑование безопаÑноÑÑи мÑлÑÑиагенÑнÑÑ Ð¸ авÑономнÑÑ ÑиÑÑем
ÐÑаки на памÑÑÑ Ð¸ конÑекÑÑ
ÐÑÑавление памÑÑи, ÑкÑплÑаÑаÑÐ¸Ñ RAG и манипÑлÑÑии конÑекÑÑом
ÐÑлÑÑимодалÑнÑе аÑаки
ÐежмодалÑÐ½Ð°Ñ ÑкÑплÑаÑаÑÐ¸Ñ Ð¸ аÑаки на конкÑеÑнÑе модалÑноÑÑи
Этические принципы
⚠️ Ответственное раскрытие
- • Тестируйте только те системы, которыми владеете или на которые есть явное разрешение
- • Сообщайте об уязвимостях по надлежащим каналам
- • Придерживайтесь практик скоординированного раскрытия уязвимостей
- • Уважайте доступность систем и приватность пользователей
🛡️ Защитная направленность
- • Используйте эти методы для повышения безопасности систем
- • Документируйте и внедряйте подходящие меры защиты
- • Делитесь знаниями, чтобы усилить сообщество безопасности ИИ
- • Ставьте в приоритет создание более безопасных и надёжных систем ИИ
Помните: Эти методы предназначены только для защитного тестирования безопасности и исследований. Всегда соблюдайте этические принципы и требования закона.
От инженера, создавшего этот каталог
Закажите red teaming вашей агентной системы
Задокументированные здесь атаки каждый день срабатывают против продовых агентных систем. Проверьте свою раньше, чем это сделает кто-то другой: инъекции промптов, джейлбрейки, злоупотребление инструментами и эксфильтрация данных, каждая находка описана вместе с исправлением.
€750 вместо €1 500, одна неделя, письменный отчёт и разбор в звонке, до 30 сентября