情感大模型的“情感责任链”追溯如何实现“用户可理解的归因”？ 热门官方

回答：用户可理解的归因指用自然语言解释“模型为何生成某情感结果”（如“您输入‘项目失败但团队努力了’，模型识别为‘欣慰’是因为‘团队努力’触发了正面情感，‘项目失败’未完全抵消”）。实现方法：① 归因信息提取：用注意力热力图定位关键输入片段（如“团队努力”），用反事实分析生成“若移除该片段则情感变为‘遗憾’”；② 自然语言转换：将归因信息转化为通俗语言（如“模型注意到您提到了‘团队努力’，这让它感受到正面的情感，所以判断为‘欣慰’”）；③ 可视化归因报告：用高亮文本+情感强度条展示关键片段及其贡献度（如“‘团队努力’贡献了60%的‘欣慰’情感”）。某AI客服应用后，用户对情感结果的“理解度”评分从50%提升至90%，投诉率下降70%。