用于由神经网络确定可解释性掩膜的方法、系统和介质

摘要

本发明涉及一种确定用于由经训练的神经网络对输入图像进行分类的可解释性掩膜的计算机实现方法。经训练的神经网络被配置成通过在经训练的神经网络的内部层处确定输入图像的潜在表示来确定输入图像的分类和分类得分。该方法包括：访问经训练的神经网络；获得输入图像及其潜在表示；以及初始化用于指示对潜在表示的修改的掩膜。通过迭代地调整掩膜的值以优化目标函数来更新掩膜，该目标函数包括：i）修改分量，其指示掩模所指示的修改的程度；以及ii）分类得分分量，其通过将所指示的修改应用于潜在表示并且确定其分类得分来确定。将掩膜缩放到输入图像和输出的空间分辨率。