深度学习分类模型解释图的对象相关性消融分析

https://jxmu.xmu.edu.cn/#/digest?ArticleID=4992

[目的]为了提高深度学习的稳定性、可解释性和公平性,针对深度学习基于关联驱动存在偏见的问题,对深度学习卷积神经网络(convolutionalneuralnetwork,CNN)图像分类模型的样本内对象进行相关分析,该分析结果可以为实现稳定学习提供所必须的相关甄别

提出一种深度学习分类模型解释图对象相关性消融分析方法:

• 在对CNN分类模型输入图像进行超像素分割后获得超像素对象;

• 采用基于敏感分析(sensitivityanalysis,SA)理论量化对象的分类贡献值,依据该贡献值绘制分类可解释热力图(heatmap);

• 再通过同步消融、相关计算,得到热力图中诸对象之间的相关量化值,根据相关值与分类重要性综合输出排序;