Loading...

🔍

Обучение без учителя для агентов(ULA)

Обучение представлений, кластеров или оценок аномальности на данных без меток задач с последующей проверкой в предметной области

Сложность: highОбучение и адаптация

In 30 seconds

What: Извлекает закономерности из неразмеченных данных с помощью эмбеддингов, кластеризации или поиска аномалий, а затем проверяет находки с экспертами предметной области.
When to use: У вас есть сырые данные без меток, и нужно найти структуру, сегментировать пользователей или отметить необычные случаи до применения обучения с учителем.
Watch out: Кластеры и оценки аномальности неустойчивы; проверка часто показывает, что они не совпадают с реальными бизнес-категориями или границами принятия решений.

Loading technique guide…

Patterns

Loading...

Паттерны и методы проектирования

Loading...

🔍

Обучение без учителя для агентов(ULA)

Сложность: highОбучение и адаптация

In 30 seconds

What: Извлекает закономерности из неразмеченных данных с помощью эмбеддингов, кластеризации или поиска аномалий, а затем проверяет находки с экспертами предметной области.
When to use: У вас есть сырые данные без меток, и нужно найти структуру, сегментировать пользователей или отметить необычные случаи до применения обучения с учителем.
Watch out: Кластеры и оценки аномальности неустойчивы; проверка часто показывает, что они не совпадают с реальными бизнес-категориями или границами принятия решений.

Обзор за 30 секунд

Паттерн: Адаптация моделей к новым областям на неразмеченных данных с помощью целей самообучения

Почему: Использует обилие неразмеченных данных для изучения закономерностей области без дорогой разметки

Ключевая идея: Самообучающие вспомогательные задачи создают обучающие сигналы из структуры данных, обеспечивая эффективную доменную адаптацию

Быстрая реализация

1Сбор:Собрать неразмеченные данные целевой области

2Предобработка:Очистить и структурировать данные без меток

3Самообучение:Применить цели самообучения

4Адаптация:Дообучить на характерных для области закономерностях

5Оценка:Оценить адаптацию по прокси-задачам или качеству на последующих задачах

Example: pretrained_model + unlabeled_domain_data → self_supervised_objectives → adapted_model

Что делать и чего избегать

✅Использовать разные цели самообучения (маскирование, контрастные, генеративные)

✅Внедрить стратегии аугментации данных под предметную область

✅Контролировать качество представлений с помощью пробинг-задач

✅Применять постепенную разморозку и послойную адаптацию

✅Использовать контрастное обучение для устойчивого извлечения признаков

✅Проверять на последующих задачах, чтобы измерить успех адаптации

❌Игнорировать качество данных и особенности их распределения

❌Использовать неподходящие для области цели самообучения

❌Переобучать без должной регуляризации

❌Пропускать оценку выученных представлений

❌Применять без понимания характерных для области закономерностей

Когда использовать

Используйте, когда

• Доступны большие объёмы неразмеченных данных предметной области
• Размеченные данные дороги или их невозможно получить
• Нужно адаптироваться к новым областям с иными распределениями
• Из структуры данных можно извлечь сигналы для самообучения
• В предметной области есть богатые внутренние закономерности

Избегайте, когда

• Качественные размеченные данные легко доступны
• В области нет явных сигналов для самообучения
• Вычислительные ресурсы сильно ограничены
• Требуется немедленное развёртывание без времени на адаптацию
• Достаточно простого переноса обучения

Ключевые метрики

Качество представлений

Качество на пробинг-задачах и линейной оценке

Оценка доменной адаптации

Прирост относительно предобученной базовой модели в целевой области

Потери самообучения

Сходимость и стабильность целей обучения без учителя

Качество на последующих задачах

Качество на задаче после адаптации

Эффективность переноса

Скорость обучения на задачах целевой области

Устойчивость

Качество при смене домена и наличии шума

Основные сценарии использования

Доменная адаптация: настройка моделей на новые отрасли, языки или специализированные области без меток

Кросс-модальное обучение: изучение общих представлений для текста, изображений и других модальностей

Временная адаптация: подстройка моделей под меняющиеся со временем распределения данных

Малоресурсные языки: адаптация языковых моделей к языкам с малым объёмом разметки

Анализ научных данных: выявление закономерностей в специализированных научных наборах без аннотаций

Адаптация с сохранением приватности: настройка моделей без доступа к чувствительным размеченным данным

Источники и дополнительные материалы

Углубите понимание с помощью этих подобранных материалов

Основы самообучения

Self-Supervised Learning: Generative or Contrastive (Liu et al., 2021)

A Simple Framework for Contrastive Learning of Visual Representations (Chen et al., 2020)

Momentum Contrast for Unsupervised Visual Representation Learning (He et al., 2020)

Bootstrap Your Own Latent: A New Approach to Self-Supervised Learning (Grill et al., 2020)

Самообучение языковых моделей

BERT: Pre-training of Deep Bidirectional Transformers (Devlin et al., 2018)

RoBERTa: A Robustly Optimized BERT Pretraining Approach (Liu et al., 2019)

DeBERTa: Decoding-enhanced BERT with Disentangled Attention (He et al., 2020)

ELECTRA: Pre-training Text Encoders as Discriminators Rather Than Generators (Clark et al., 2020)

Методы доменной адаптации

Domain-Adversarial Training of Neural Networks (Ganin et al., 2016)

Unsupervised Domain Adaptation by Backpropagation (Ganin & Lempitsky, 2015)

Deep CORAL: Correlation Alignment for Deep Domain Adaptation (Sun & Saenko, 2016)

Adversarial Discriminative Domain Adaptation (Tzeng et al., 2017)

Методы контрастного обучения

SimCLR: A Simple Framework for Contrastive Learning (Chen et al., 2020)

SwAV: Unsupervised Learning of Visual Features by Contrasting Cluster Assignments (Caron et al., 2020)

SimCSE: Simple Contrastive Learning of Sentence Embeddings (Gao et al., 2021)

SupCon: Supervised Contrastive Learning (Khosla et al., 2020)

Моделирование языка с маскированием

BERT: Pre-training of Deep Bidirectional Transformers (Devlin et al., 2018)

SpanBERT: Improving Pre-training by Representing and Predicting Spans (Joshi et al., 2020)

ERNIE: Enhanced Language Representation with Informative Entities (Zhang et al., 2019)

ALBERT: A Lite BERT for Self-supervised Learning (Lan et al., 2019)

Недавние достижения (2023-2024)

MAE: Masked Autoencoders Are Scalable Vision Learners (He et al., 2022)

SimMIM: A Simple Framework for Masked Image Modeling (Xie et al., 2022)

BEiT: BERT Pre-Training of Image Transformers (Bao et al., 2021)

Data2vec: A General Framework for Self-supervised Learning (Baevski et al., 2022)

Мультимодальное самообучение

CLIP: Learning Transferable Visual Representations from Natural Language Supervision (Radford et al., 2021)

ALIGN: Scaling Up Visual and Vision-Language Representation Learning (Jia et al., 2021)

Florence: A New Foundation Model for Computer Vision (Yuan et al., 2021)

DALLE-2: Hierarchical Text-Conditional Image Generation (Ramesh et al., 2022)

Междоменная адаптация

Wasserstein Distance Guided Representation Learning for Domain Adaptation (Hoffman et al., 2018)

Deep Transfer Learning: A New Deep Learning Research Direction (Tan et al., 2018)

Фреймворки реализации

PyTorch Self-Supervised Learning Library (PyTorch-SSL)

Реализация SimCLR на TensorFlow

Hugging Face Transformers - самообучающиеся модели

Оценка и бенчмарки

Документация VISSL по оценке

SentEval: инструментарий оценки эмбеддингов предложений

GLUE: оценка общего понимания языка

Бенчмарки доменной адаптации (Office-31, VisDA)

Инструменты и библиотеки

VISSL: самообучение для компьютерного зрения

Lightly: фреймворк самообучения

Solo-learn: библиотека самообучения

TorchSSL: реализация SSL для PyTorch

Применения в продакшене

Google Research: SimCLR и далее

OpenAI CLIP: мультимодальные модели в продакшене

Loading technique guide…