Архитектуры моделей
Нормализующие потоки
Преобразуйте простое распределение в сложное распределение данных посредством последовательности обратимых отображений с вычисляемыми Якобианами.
Ментальная модель
Обратимая деформация пространства вероятностей: данные могут быть отображены в шум, и шум может быть преобразован обратно в данные.
Поток данных
- Образец данных
- Обратимые преобразования
- Простое латентное распределение
- Точная оценка правдоподобия с изменением переменных
- Обратные преобразования для выборки
Как проходит обучение
Максимальное правдоподобие оптимизируется точно при архитектурных ограничениях, обеспечивающих обратимость и вычислимость детерминанта Якобиана.
Как выполняется инференс
При оценке плотности данные отображаются в латентное пространство; при генерации из базового распределения берется выборка, после чего преобразования применяются в обратном порядке.
Сильные стороны
- Точное правдоподобие под моделью
- Обратимое кодирование и генерация
- Полезно, когда оценка плотности вероятности сама по себе важна
Компромиссы
- Обратимость ограничивает архитектурный дизайн
- Мультимедиа высокой размерности может потребовать глубоких, ресурсоёмких потоков
- Правдоподобие не обязательно коррелирует с воспринимаемым качеством образца
Использовать, когда
- Точная оценка плотности вероятности или обратимые преобразования являются необходимостью
- Область применения соответствует доступным обратимым архитектурам
- Вы будете оценивать как правдоподобие, так и полезность для решения задачи
Избегать или пересмотреть, когда
- Важно только качество генерации с точки зрения восприятия
- Архитектурная гибкость важнее точного правдоподобия
- Метод оценки неопределенности на основе дискриминатора проще достаточен
Примеры опубликованных семейств
- • Real NVP
- • Потоки изображений в стиле Glow
Часто сочетается с
Вариационное приближениеГибридные модели с латентными переменными