情感模型的鲁棒性评估：常见攻击方式与防御效果度量？ 热门官方

回答：鲁棒性评估需测试模型在干扰下的性能稳定性，常见攻击方式：①对抗攻击（如FGSM、PGD，通过微小扰动误导模型，如给面部图像加噪声导致“喜悦”误判为“愤怒”）；②自然噪声攻击（如摄像头模糊、麦克风杂音、光照变化）；③跨域攻击（如训练数据为实验室环境，测试数据为真实场景）。防御效果度量指标：①准确率下降幅度（攻击后准确率/攻击前准确率，如从90%降至70%，下降幅度22%）；②对抗鲁棒性准确率（模型在对抗样本上的准确率，越高越好）；③跨域性能保持率（跨域测试准确率/源域准确率，如从85%降至70%，保持率82%）。评估需覆盖白盒攻击（攻击者知晓模型参数）与黑盒攻击（仅知晓输入输出）两种场景。