Loading...
持续学习(CL)
从一系列任务或数据分布中学习,同时衡量并缓解早前能力的丧失
In 30 seconds
- What
- 按顺序在新任务上训练,同时通过复习、正则化或任务专用适配器来衡量并防止早期任务性能的下降。
- When to use
- 系统需要随时间从多个任务或数据分布中学习,同时不遗忘先前能力,也不要求访问全部历史数据。
- Watch out
- 要真正衡量灾难性遗忘,需要在每个阶段维护覆盖所有任务的完整评估矩阵,任务数量一多,代价就会飙升。
Loading technique guide…