Architectures de modèles
Flots normalisants
Transforme une distribution simple en une distribution de données complexe par le biais d'une séquence de transformations inversibles avec des Jacobiennes calculables.
Modèle mental
Une déformation réversible de l'espace de probabilité : les données peuvent être mises en correspondance du bruit et le bruit peut être ramené aux données.
Flux de données
- Échantillon de données
- Transformations inversibles
- Distribution latente simple
- Vraisemblance exacte par changement de variables
- Transformées inverses pour l'échantillonnage
Entraînement
La vraisemblance maximale est optimisée avec précision sous des contraintes architecturales rendant l'inversion et le déterminant de la Jacobienne calculables.
Exécution de l’inférence
L'évaluation de densité fait avancer les données vers le latent ; la génération échantillonne la distribution de base et applique chaque transformation en sens inverse.
Atouts
- Vraisemblance exacte sous le modèle
- Encodage et génération inversibles
- Utile lorsque l'estimation de densité est elle-même importante
Compromis
- L'inversibilité contraint la conception du réseau
- Les médias de haute dimension peuvent nécessiter des flux profonds et gourmands en mémoire
- La vraisemblance ne reflète pas nécessairement la qualité perçue de l'échantillon
À utiliser lorsque
- Une densité exacte ou des transformations réversibles sont des exigences
- Le domaine correspond aux architectures inversibles disponibles
- Vous évaluerez à la fois la vraisemblance et l'utilité de la tâche
À éviter ou remettre en question lorsque
- Seule la qualité de génération perceptive compte
- La flexibilité architecturale est plus importante que la vraisemblance exacte
- Une méthode d'incertitude discriminative plus simple suffit
Familles publiées à titre d’exemple
- • Real NVP
- • Flux d’image de type Glow
Souvent combinée avec
Inférence variationnelleModèles latents hybrides