情感数据的“增量学习”为何需要“灾难性遗忘”防护? 热门官方
回答:情感数据的分布随时间变化(如疫情期间“焦虑”的表达增多),增量学习需更新模型但不遗忘旧知识(如“愤怒”的旧特征)。灾难性遗忘防护方法包括:① ? rehearsal(存储旧数据的小样本,与新数据一起训练);② 弹性权重巩固(EWC)(对旧知识的重要参数施加惩罚,防止被新数据覆盖);③ 动态网络扩展(为新任务添加新参数,保留旧参数不变)。实验显示,EWC可使增量学习后的旧任务准确率保持在85%以上,较无防护的50%显著提升。
用户讨论(回复)
共 0 条记录,当前显示第 1- 条
« 上一页
下一页 »
相关阅读