一种基于输入特征重要性的模型解释方法及装置

摘要

本发明提供一种基于输入特征重要性的模型解释方法及装置，在获取输入数据对应的各个输入特征后，调用预设神经网络模型，获取预设神经网络模型输出的各个预测结果；在预设神经网络模型输出各个预测结果时，计算各个输入特征的参与度，基于各个输入特征的参与度，得到各个输入特征对于预设神经网络模型的重要度，基于各个输入特征对于预设神经网络模型的重要度，对预设神经网络模型进行解释，从而能够通过各个输入特征对于预设神经网络模型的重要度进行模型解释，以通过输入特征对于预设神经网络模型的重要度有效解释预设神经网络模型。