模型架构
归一化流
通过一系列具有可跟踪雅可比矩阵的可逆映射，将一个简单的分布转换为复杂的数据分布。
思维模型
概率空间的逆向变形：数据可以映射到噪声，噪声也可以反过来映射回数据。
数据流
- 数据样本
- 可逆变换
- 简单潜在分布
- 精确的变量替换似然
- 用于采样的逆变换
训练方式
在保证逆运算和雅可比行列式易于计算的架构约束下，最大化似然函数。
推理运行方式
密度评估将数据导向潜在空间；生成则从基础分布采样并应用所有反向变换。
优势
- 模型下的精确似然
- 可逆编码和生成
- 当密度估计本身很重要时很有用
权衡
- 可逆性约束了网络设计
- 高维媒体可能需要深度且内存密集型的流
- 似然值不一定能反映感知到的样本质量
适用场景
- 要求精确的密度或可逆变换
- 领域适合现有的可逆架构
- 您将评估既有似然值又有任务效用
应避免或质疑的场景
- 仅关注感知到的生成质量
- 架构灵活性比精确似然更重要
- 一个更简单的判别性不确定性方法就足够了
已发表的示例系列
- • Real NVP
- • Glow 风格图像流
常见组合
变分推断混合潜在变量模型