情感大模型的“情感责任链”追溯如何实现“全链路可解释”？ 热门官方

回答：全链路可解释需追溯“数据→模型→推理→输出”各环节的责任。实现方法：① 数据溯源层：用区块链记录训练数据的来源、标注者、标注时间（如“样本‘我很悲伤’来自2023年抑郁症患者日记，标注者为精神科医生A”）；② 模型溯源层：记录模型的架构参数、训练超参数、微调历史（如“情感分类头的学习率为0.001，2023年10月因偏见问题微调过对抗层”）；③ 推理溯源层：用注意力热力图+反事实分析记录推理过程（如“输出‘悲伤’的依据是‘流泪’表情（注意力权重0.8）+‘失去亲人’文本（权重0.7），若移除‘流泪’则输出‘中性’”）；④ 可视化追溯界面：将上述信息整合为“责任链图谱”，用户可点击任一环节查看详细解释。某AI公司应用后，用户对情感结果的信任度提升70%，投诉率下降60%。