持续学习与终身AI可视化实验室
从灾难性遗忘到知识积累——把2026年AI模型如何持续学习新任务而不遗忘旧知识的核心机制以可交互SVG呈现。
01
持续学习范式
三种主要范式：任务增量(Task-IL)在推理时已知任务标识、类别增量(Class-IL)需自行推断任务边界、领域增量(Domain-IL)类别相同但分布变化。
Task-IL
任务增量学习
推理时已知任务ID，最简单
Class-IL
类别增量学习
需推断任务边界，最具挑战
Domain-IL
领域增量学习
同类别不同分布，如风格迁移
02
灾难性遗忘
顺序训练新任务时，旧任务知识被覆盖，性能断崖式下降。对比朴素微调与持续学习方法的性能曲线。
03
回放策略
经验回放(Experience Replay)：维护样本缓冲区，训练新任务时回放旧样本，实现新旧知识混合训练。
缓冲区策略
Reservoir / Herding
控制缓冲区大小与代表性
回放比例
新:旧 = 1:1 ~ 4:1
平衡新旧任务学习
衍生方法
DER/DER++/MIR
结合 logits 回放与梯度修正
04
正则化方法
EWC/LwF/SI 等正则化方法：通过参数重要性加权、知识蒸馏约束、弹性权重固化，保护对旧任务重要的参数。
05
架构增长
动态架构方法：PNN/ProgressiveNet/DER 按需扩展网络参数，为新任务分配专属子网络，隔离旧知识。
06
Prompt-based CL
Prompt 驱动的持续学习：L2P/DualPrompt/CodaPrompt 维护 Prompt 池，为每个任务选择专属 Prompt，冻结骨干网络。
07
评估协议
CL 评估指标：平均准确率(AA)、遗忘率(BWT)、前向迁移(FWT)、后向迁移。用任务间准确率矩阵展示知识流动。
平均准确率
--
所有任务最终准确率均值
遗忘率
--
旧任务性能下降幅度
前向迁移
--
旧知识对新任务的帮助
08
应用场景
持续学习在机器人新技能、推荐系统新用户、自动驾驶新城市、客服新产品、医疗新疾病、翻译新语言等场景的应用。