评估模型解释工具的方法和装置

摘要

本说明书实施例提供一种评估模型解释工具的方法和装置，所述方法基于第一模型和预先获取的用于第一模型的多个第一训练样本进行，包括：从所述多个特征中选取n个特征作为n个选定特征；将每个所述第一训练样本中除所述n个选定特征之外的特征的特征值替换为其它值，以获取多个第二训练样本；使用所述多个第二训练样本训练所述第一模型，以获取具有第一参数组的第一模型；基于所述多个第二训练样本和所述第一参数组，通过模型解释工具获取所述多个特征的重要性排序；确定所述重要性排序的前n个特征相对于所述n个选定特征的查全率，以用于评估所述模型解释工具。