モデルアーキテクチャ
拡散モデルとスコアベース生成
段階的なノイズ付加プロセスを逆転させることを学習し、ノイズをサンプルへと繰り返し変換することでデータを生成します。
理解のためのモデル
静的な状態から開始し、時間ステップとオプションの条件に基づいて予測されたノイズを繰り返し除去します。
データフロー
- クリーンな訓練サンプル + サンプリングされたノイズレベル
- ノイズ化されたサンプル
- U-Net または Transformer デノイザー
- ノイズ / 速度 / スコア推定値
- イテレーションによる逆サンプラー
学習方法
ネットワークは、ランダムにサンプリングされたノイズレベルでノイズ、クリーンなデータ、速度、またはスコアを予測します。関連するフローマッチングの定式化では、分布間のベクトル場を学習します。
推論の実行方法
サンプリングは、複数のステップにわたって学習された逆プロセスを統合します。サンプラーの選択、ステップ数、ガイダンス、シードは、速度、多様性、忠実度をトレードオフします。
強み
- 敵対的な目的関数よりも安定した訓練が可能
- 柔軟な条件設定と編集
- 画像、音声、動画、および科学データにわたる強力なカバレッジ
トレードオフ
- イテレーションによるサンプリングは、ワンパス生成器より遅い
- ガイダンスにより多様性が低下したりアーティファクトが導入されたりする可能性がある
- データの表現方法とサンプラーが結果に大きく影響する
適する場合
- 高次元の条件付き生成が中心である
- 複数の推論ステップがレイテンシー予算に適合する
- 制御とサンプル品質を共同で評価できる
避ける・再検討する場合
- ワンパス生成が必須である
- モデルは厳しく制約されたデバイス上で実行されなければならない
- “Diffusion” が固定された実装として扱われている
公開された方式の例
- • DDPM
- • スコアベースモデル
- • Pixel-space diffusion システム
よく組み合わせる要素
U-Net拡散Transformer(DiT)潜在拡散モデル