在线学习中情感模型的灾难性遗忘缓解： rehearsal与正则化方法？ 热门官方

回答：灾难性遗忘指模型学习新情感数据后，遗忘旧数据的能力，缓解方法：①Rehearsal方法：在学习新数据时保留少量旧数据（如旧数据的10%），与新数据混合训练，如iCaRL算法通过存储旧数据的特征原型（而非原始数据）减少内存占用，在情感类别增量任务中，旧类别准确率保持在80%以上（无rehearsal时降至30%）；②正则化方法：通过约束模型参数的变化防止遗忘，如EWC（弹性权重整合）给重要参数（对旧任务影响大的参数）增加正则化项，学习新任务时旧任务性能下降幅度从50%降至15%；③动态架构扩展：为新任务分配独立的网络分支（如Progressive Neural Networks），避免新旧任务参数冲突，在新增“厌恶”情感类别时，旧类别准确率无下降，但模型体积随任务数线性增长。实际应用中常采用Rehearsal+EWC联合方法，在5个增量任务后，旧类别平均准确率达75%，模型体积仅增长20%。