Loading...

🔄

継続学習(CL)

一連のタスクやデータ分布から学習しつつ、以前に獲得した能力の喪失を測定・抑制する手法

複雑さ: high学習と適応

In 30 seconds

What: 新しいタスクを順に学習しながら、リハーサル、正則化、タスク固有のアダプタによって、以前のタスクの性能低下を測定し防ぎます。
When to use: システムが時間をかけて複数のタスクやデータ分布から学習しつつ、以前の能力を失わず、過去の全データへのアクセスも必要としない場合。
Watch out: 真の破滅的忘却を測るには、あらゆる段階で全タスクにわたる完全な評価行列を維持する必要があり、タスク数が増えるほどコストが膨らみます。

Loading technique guide…

Patterns

Loading...

設計パターンと手法

Loading...

🔄

継続学習(CL)

一連のタスクやデータ分布から学習しつつ、以前に獲得した能力の喪失を測定・抑制する手法

複雑さ: high学習と適応

In 30 seconds

What: 新しいタスクを順に学習しながら、リハーサル、正則化、タスク固有のアダプタによって、以前のタスクの性能低下を測定し防ぎます。
When to use: システムが時間をかけて複数のタスクやデータ分布から学習しつつ、以前の能力を失わず、過去の全データへのアクセスも必要としない場合。
Watch out: 真の破滅的忘却を測るには、あらゆる段階で全タスクにわたる完全な評価行列を維持する必要があり、タスク数が増えるほどコストが膨らみます。

30秒でわかる概要

パターン: 破滅的忘却を起こさずに、過去タスクの知識を保ちながら新しいタスクを逐次学習する

理由: 生涯学習を可能にし、変化する環境に適応しつつ、蓄積した知識を長期にわたり維持する

重要なポイント: 専用の保持機構によって、新規学習のための可塑性と既存知識のための安定性を両立させる

クイック実装

1ベースライン:最初のタスクまたはドメインで初期モデルを学習する

2戦略:破滅的忘却を緩和する手法を選ぶ

3逐次学習:既存の知識を保ちながら新しいタスクを学習する

4評価:これまでに見たすべてのタスクで性能を検証する

5調整:忘却の指標に基づいて戦略を調整する

Example: task_sequence → continual_strategy → updated_model → performance_retention

推奨事項と禁止事項

✅重みの変化を制約する正則化手法を使う

✅多様なサンプル選択による経験再生を実装する

✅後方転移と前方転移の指標を監視する

✅容量拡張のために動的アーキテクチャを適用する

✅タスクへの迅速な適応にメタ学習を使う

✅メモリ効率の高い保存戦略を実装する

❌破滅的忘却の測定を無視する

❌保護機構なしの素朴なファインチューニングを行う

❌過去のデータをすべて保存する (プライバシーと容量の問題)

❌マルチタスク学習とのベースライン比較を省く

❌単一の指標だけで継続学習を評価する

使用する場面

使用する場合

• メモリが限られた状況でタスクが逐次到来する
• プライバシー制約により過去データを保持できない
• 適応が必要な非定常環境
• 生涯学習システムの運用
• リソース制約のあるエッジコンピューティング環境

避けるべき場合

• すべてのタスクが同時に利用できる
• メモリと計算リソースが無制限
• タスク同士がまったく無関係
• 要件が固定された静的な環境
• 単純なマルチタスク学習で十分

主要指標

平均精度

全タスクにわたる平均性能

後方転移

過去タスクにおける性能変化

前方転移

新規タスクでの初期性能

破滅的忘却

性能低下の速度

学習効率

タスクあたりに必要なサンプル数

メモリ使用量

ストレージ要求の増加率

主なユースケース

対話 AI: 新しい対話パターンやドメインを継続的に学習

レコメンドシステム: 時間とともに変化するユーザー選好へ適応

自動運転: 既存のスキルを失わずに新しい走行シナリオを学習

医療診断: 新しい疾患や病態を漸進的に学習

サイバーセキュリティ: 新たな攻撃パターンや脅威に継続的に適応

エッジ AI デバイス: 既存機能を保ちながら能力を更新

参考文献と関連資料

厳選された資料で理解を深めましょう

基礎論文

Catastrophic Forgetting in Connectionist Networks (French, 1999)

Overcoming Catastrophic Forgetting in Neural Networks (Kirkpatrick et al., 2017)

Continual Learning with Deep Generative Replay (Shin et al., 2017)

Gradient Episodic Memory for Continual Learning (Lopez-Paz & Ranzato, 2017)

正則化ベースの手法

Overcoming catastrophic forgetting in neural networks

Synaptic Intelligence (Zenke et al., 2017)

Memory Aware Synapses (Aljundi et al., 2018)

Learning without Forgetting (Li & Hoiem, 2016)

メモリベースの手法

Experience Replay for Continual Learning (Rolnick et al., 2019)

Efficient Lifelong Learning with A-GEM (Chaudhry et al., 2019)

Episodic Memory in Lifelong Language Learning (de Masson d'Autume et al., 2019)

Meta-Experience Replay for Continual Learning (Riemer et al., 2019)

動的アーキテクチャ手法

Progressive Neural Networks (Rusu et al., 2016)

PackNet: Adding Multiple Tasks to a Single Network (Mallya & Lazebnik, 2018)

Compacting, Picking and Growing (CPG) for Unforgetting Continual Learning (Hung et al., 2019)

Supermasks in Superposition (Wortsman et al., 2020)

最近の進展 (2022-2024)

Online Continual Learning for Interactive Instruction Following Agents (Zheng et al., 2024)

ベンチマークと評価

CORe50: a New Dataset and Benchmark for Continuous Object Recognition (Lomonaco & Maltoni, 2017)

AVALANCHE: an End-to-End Library for Continual Learning (Lomonaco et al., 2021)

理論的分析

A continual learning survey: Defying forgetting in classification tasks

Rethinking Experience Replay: a Bag of Tricks for Continual Learning

実装リソース

AVALANCHE: エンドツーエンドの継続学習ライブラリ

継続学習のベースライン (Facebook Research)

PyTorch 向け継続学習フレームワーク

Sequoia: 継続学習研究のためのソフトウェアフレームワーク

ツールとライブラリ

ContinualAI/avalanche: 包括的な CL ライブラリ

pytorch/ignite: 継続学習ユーティリティ

Continuum: 継続学習のための PyTorch ライブラリ

River: Python によるオンライン機械学習

サーベイとレビュー

Continual Lifelong Learning with Neural Networks: A Review (Parisi et al., 2019)

Three scenarios for continual learning (van de Ven & Tolias, 2019)

A Comprehensive Survey of Continual Learning (Wang et al., 2023)

コミュニティと研究グループ

ContinualAI: 国際的な研究コミュニティ

CLVISION ワークショップ (CVPR/ICCV)

ICML 生涯学習ワークショップ

Loading technique guide…