基于模糊层次分析法的可解释类深度神经网络评估方法

摘要

本申请属于可解释类深度神经网络评估技术领域，特别涉及一种基于模糊层次分析法的可解释类深度神经网络评估方法。包括：步骤一、获取可解释神经网络模型的时间复杂度、空间复杂度以及规则复杂度；步骤二、根据可解释神经网络模型的时间复杂度、空间复杂度以及规则复杂度，计算影响因素的权重；步骤三、根据可解释神经网络模型的时间复杂度、空间复杂度以及规则复杂度，构建隶属度关系矩阵；步骤四、根据权重以及隶属度关系矩阵对可解释神经网络模型进行评估。本申请采用模糊层次分析法解决了传统层次分析法存在的问题，矩阵的一致性检验比层次分析法更容易；通过时间复杂度、空间复杂度以及规则复杂度来对可解释模型进行评估，非常具有实用性。

说明书

技术领域

本申请属于可解释类深度神经网络评估技术领域，特别涉及一种基于模糊层次分析法的可解释类深度神经网络评估方法。

背景技术

自20世纪90年代开始，无人机进入高速发展时期，各种类型和不同用途的无人机相继面世，并在应用中取得了良好的效果。然而，从当前无人机的能力来看，现役无人机尚不足以完成有人驾驶飞机的空中对抗任务。AI是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的技术科学，将AI作为核心技术内容，推进无人机在未来智能空中博弈领域中的应用是必然趋势。相对于有人驾驶飞机，无人机可通过机器学习技术，添加新的博弈动作。此外，无人机没有生理和心理的限制，并且机动能力可以达到几十重力加速度的过载，这使得无人机在空中博弈中非常敏捷。

当前智能空中博弈领域的研究取得了诸多进展，但仍有很多技术难题需要攻克。比如由于神经网络的黑盒性，人们很难对神经网络模型进行评估。层次分析法是系统工程中对非定量事件作定量分析的一种简便方法，也是对人们主观判断做客观描述的一种有效办法，其基本思想是根据分析对象的性质和决策或评价的总目标，把总体现象中的各种影响因素通过划分相互联系的有序层次使之条理化。而模糊综合评价法利用模糊理论在处理不确定性问题上的优越性，在数据标准化处理方面取得更好的效果。如何结合现有的分析方法实现神经网络模型的评估是亟待解决的技术难点。

因此，希望有一种技术方案来克服或至少减轻现有技术的至少一个上述缺陷。

发明内容

本申请的目的是提供了一种基于模糊层次分析法的可解释类深度神经网络评估方法，以解决现有技术存在的至少一个问题。

本申请的技术方案是：

一种基于模糊层次分析法的可解释类深度神经网络评估方法，包括：

步骤一、获取可解释神经网络模型的时间复杂度、空间复杂度以及规则复杂度；

步骤二、根据所述可解释神经网络模型的时间复杂度、空间复杂度以及规则复杂度，计算影响因素的权重；

步骤三、根据所述可解释神经网络模型的时间复杂度、空间复杂度以及规则复杂度，构建隶属度关系矩阵；

步骤四、根据所述权重以及所述隶属度关系矩阵对所述可解释神经网络模型进行评估。

在本申请的至少一个实施例中，步骤一中，所述获取可解释神经网络模型的时间复杂度，包括：

确定可解释神经网络模型算法的基本语句，获取所述基本语句的执行时间以及时间频度T(n)，n为问题规模；

根据所述时间频度T(n)得到所述基本语句的执行次数的数量级，获取与所述时间频度T(n)具有相同数量级的辅助函数f(n)，使得当n趋近于无穷大时，lim(T(n)/f(n))的值为不等于0的常数，即T(n)＝O(f(n))；

计算所述执行时间以及辅助函数f(n)的乘积得到所述基本语句的时间复杂度；

通过上述方式计算出所述可解释神经网络模型所有算法的所有基本语句的时间复杂度，并将所有的时间复杂度进行加和得到所述可解释神经网络模型的时间复杂度。

在本申请的至少一个实施例中，步骤一中，所述获取可解释神经网络模型的空间复杂度，包括：

获取所述可解释神经网络模型中算法的代码行数LOC、圈复杂度CC以及Halstead体积HV；

计算所述可解释神经网络模型中算法的空间复杂度：

MI＝171-5.2*ln(HV)-0.23*CC-16.2*ln(LOC)

通过上述方式计算出所述可解释神经网络模型中所有算法的空间复杂度，将所有算法的空间复杂度进行加和得到可解释神经网络模型的空间复杂度。

在本申请的至少一个实施例中，步骤一中，所述获取可解释神经网络模型的规则复杂度，包括：

若获取可解释神经网络模型的算法由gini系数为依据，则假设其中gini不为0的个数为K1，gini＝0的个数k1，则可解释神经网络模型的规则复杂度为：

C＝k1/K1

其中，C的值越大，规则复杂度越低，C的值越小，规则复杂度越高；

若获取可解释神经网络模型的算法由信息熵为依据，则假设其中信息熵不为0的个数K2，信息熵＝0的个数k2，则可解释神经网络模型的规则复杂度为：

C＝k2/K2

其中，C的值越大，规则复杂度越低，C的值越小，规则复杂度越高。

在本申请的至少一个实施例中，步骤二中，所述根据所述可解释神经网络模型的时间复杂度、空间复杂度以及规则复杂度，计算影响因素的权重，包括：

S21、根据所述可解释神经网络模型的时间复杂度、空间复杂度以及规则复杂度构建层次指标结构；

其中，所述层次指标结构的目标层A为可解释神经网络模型的评估结果，一级影响因素{B1，B2，B3}为{时间复杂度，空间复杂度，规则复杂度}，对应的二级影响因素{C1，C2，C3，C4，C5，C6，C7}为{时间频度，O(f(n))，代码行数，圈复杂度，Halstead体积，gini系数，信息熵}；

S22、根据所述层次指标结构计算影响因素的权重矩阵，包括：

构建一级影响因素对目标层的第一判断矩阵，并计算所述第一判断矩阵的CR值，根据CR值对所述第一判断矩阵进行一致性检验，获取满足一致性检验要求的第一判断矩阵；

构建二级影响因素对一级影响因素的第二判断矩阵，并计算所述第二判断矩阵的CR值，根据CR值对所述第二判断矩阵进行一致性检验，获取满足一致性检验要求的第二判断矩阵；

根据满足一致性检验要求的所述第一判断矩阵以及所述第二判断矩阵得到二级影响因素对目标层的权重矩阵W。

在本申请的至少一个实施例中，步骤三中，所述根据所述可解释神经网络模型的时间复杂度、空间复杂度以及规则复杂度，构建隶属度关系矩阵，包括：

S31、获取影响因素的分级标准；

S32、计算各个影响因素之间的模糊关系的隶属度值，构建隶属度关系矩阵R；

其中，根据分级标准，计算影响因素集U＝{a1,a2,...,an}中的影响因素ai与影响因素aj之间的隶属度值rij，{i＝1,2,...,n}，{j＝1,2,...,n}，得到一个n阶矩阵R，表示如下：

rij的实际意义为研究对象影响因素集U中，影响因素ai与影响因素aj的重要性关系。

在本申请的至少一个实施例中，步骤四中，所述根据所述权重以及所述隶属度关系矩阵对所述可解释神经网络模型进行评估，包括：

根据所述权重以及所述隶属度关系矩阵计算评估结果G：

G＝W*R

根据评估结果G的大小对所述可解释神经网络模型进行评估。

发明至少存在以下有益技术效果：

本申请的基于模糊层次分析法的可解释类深度神经网络评估方法，采用模糊层次分析法解决了传统层次分析法存在的问题，该方法矩阵的一致性检验比层次分析法更容易；模糊综合判定法，数学模型简单；可以评价因素多的对象系统；且对不完全确定信息的模糊转化增加了评价的可靠性，通过时间复杂度、空间复杂度以及规则复杂度来对可解释模型进行评估，非常具有实用性。

附图说明

图1是本申请一个实施方式的基于模糊层次分析法的可解释类深度神经网络评估方法流程图；

图2是本申请一个实施方式的可解释神经网络模型的层次指标结构示意图；

图3是本申请一个实施方式的构建隶属度关系矩阵流程图。

具体实施方式

为使本申请实施的目的、技术方案和优点更加清楚，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行更加详细的描述。在附图中，自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。所描述的实施例是本申请一部分实施例，而不是全部的实施例。下面通过参考附图描述的实施例是示例性的，旨在用于解释本申请，而不能理解为对本申请的限制。基于本申请中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。下面结合附图对本申请的实施例进行详细说明。

在本申请的描述中，需要理解的是，术语“中心”、“纵向”、“横向”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系，仅是为了便于描述本申请和简化描述，而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作，因此不能理解为对本申请保护范围的限制。

下面结合附图1至图3对本申请做进一步详细说明。

本申请提供了一种基于模糊层次分析法的可解释类深度神经网络评估方法，包括以下步骤：

步骤一、获取可解释神经网络模型的时间复杂度、空间复杂度以及规则复杂度；

步骤二、根据可解释神经网络模型的时间复杂度、空间复杂度以及规则复杂度，计算影响因素的权重；

步骤三、根据可解释神经网络模型的时间复杂度、空间复杂度以及规则复杂度，构建隶属度关系矩阵；

步骤四、根据权重以及隶属度关系矩阵对可解释神经网络模型进行评估。

本申请的基于模糊层次分析法的可解释类深度神经网络评估方法，首先，步骤一中，获取可解释神经网络模型的时间复杂度、空间复杂度以及规则复杂度。

时间复杂度是算法有效的度量之一，时间复杂度是一个算法运行时间的相对度量，一个算法的运行时间长短，大致等于执行一种简单操作(例如赋值、比较、计算、转向、返回、输入和输出)所需要的时间与算法中进行简单操作次数的乘积。因此时间复杂度的获取包括以下步骤：

确定可解释神经网络模型算法的基本语句，获取基本语句的执行时间以及时间频度T(n)，n为问题规模；

根据时间频度T(n)得到基本语句的执行次数的数量级，获取与时间频度T(n)具有相同数量级的辅助函数f(n)，使得当n趋近于无穷大时，lim(T(n)/f(n))的值为不等于0的常数，即T(n)＝O(f(n))；

计算执行时间以及辅助函数f(n)的乘积得到基本语句的时间复杂度；

通过上述方式计算出可解释神经网络模型中所有算法的所有基本语句的时间复杂度，将所有算法的所有基本语句的时间复杂度进行加和得到可解释神经网络模型的时间复杂度。

一般算法中执行次数最多的那条语句就是基本语句，通常是最内层循环的循环体；

执行时间：求出条件规则做出决策的时间，将start与end语句分别置于可解释化后代码的前端与尾端，计算每一个epoch的时间，取多次数据，完成时间参数的获取；

时间频度：一个算法执行所耗费的时间，从理论上是不能算出来的，必须上机运行测试才能知道。但不可能也没有必要对每个算法都上机测试，只需知道哪个算法花费的时间多，哪个算法花费的时间少就可以了。并且一个算法花费的时间与算法中语句的执行次数成正比例，哪个算法中语句执行次数多，它花费时间就多。一个算法中的语句执行次数称为语句频度或时间频度，记为T(n)。

当n不断变化时，时间频度T(n)也会不断变化，为了知道其变化时呈现的规律。为此，引入时间复杂度概念。一般情况下，算法中基本操作重复执行的次数是问题规模n的某个函数，用T(n)表示，若有某个辅助函数f(n)，使得当n趋近于无穷大时，T(n)/f(n)的极限值为不等于零的常数，则称f(n)是T(n)的同数量级函数，记作T(n)＝O(f(n))，称O(f(n))为算法的渐进时间复杂度。

只需计算基本语句执行次数的数量级，这就意味着只要保证基本语句执行次数的函数中的最高次幂正确即可，可以忽略所有低次幂和最高次幂的系数。这样能够简化算法分析，并且使注意力集中在最重要的一点上，即增长率。用大O记号表示算法的时间性能，保留求出次数的最高次幂，并且把系数去掉。如T(n)＝2n

空间复杂度通过计算算法所需的存储空间实现，算法的空间复杂度的计算公式记作：S(n)＝O(s(n))，其中，n为问题规模，s(n)为语句关于n所占存储空间的函数，也是一种渐进表示法，这些所需要的内存空间通常分为固定空间内存(包括基本程序代码、常数、变量等)和变动空间内存(随程序运行时而改变大小的使用空间)。

在本申请的优选实施方式中，采用可维护性指数来表征算法的空间复杂度，获取空间复杂度的过程如下：

获取可解释神经网络模型中算法的代码行数LOC、圈复杂度CC以及Halstead体积HV；

计算可解释神经网络模型中算法的空间复杂度：

MI＝171-5.2*ln(HV)-0.23*CC-16.2*ln(LOC)

通过上述方式计算出可解释神经网络模型中所有算法的空间复杂度，将所有算法的空间复杂度进行加和得到可解释神经网络模型的空间复杂度。

可维护性指数是应用广泛的软件可维护性度量，主要度量软件源代码是否易于理解和修改。可维护性指数主要由代码行数(Lines-Of-Code，LOC)、圈复杂度(Cyclomatic-Complexity，CC)、Halstead体积(Halstead-Volume，HV)，也称程序复杂度组成。

其中，

(1)代码行数的计数通常是针对可执行语句，实际上是指令语句的计数；

(2)圈复杂度测算指定程序的可测性和可理解性，计算圈复杂度的一般公式是：

M＝V(G)＝e-q+2p

其中，V(G)为G圈数，e为边数，q为节点数，p为圈的不连通部分数。

(3)Halstead复杂度：Halstead从计算机科学中区分出软件科学。软件科学的前提是；任何编程任务都是由有限数目的程序符号(token)的选择和安排组成，这些符号是编译器可区分的基本语法单位，根据软件科学，计算机程序被看成是符号的集合，这些符号可被分为运算符和运算元。Halstead软件科学法的基本测量是：

n1＝程序中出现的各不相同的运算符的个数；

n2＝程序中出现的各不相同的运算元的个数；

N1＝运算符出现的总数；

N2＝运算元出现的总数。

在这些基本测量的基础上，建立表达总词汇表、程序总长度、算法的潜在的最小容量、实际容量(确切说明一个程序所需的二进制位数)、程序级别(软件复杂性的测量)、程序难度以及诸如开发工作量和软件中故障的预测数这样一些特性的公式系统，Halstead主要的公式如表1所示：

表1

V*是由完成整个程序任务的内部函数表示的最小容量，S*是错误之间的平均智力判断数(Halstead取S*＝36000)。

规则复杂度的获取：在这里需要对神经网络转换后的规则进行复杂度分析，而这个转换过程是由决策树实现的。决策树的生成过程就是使用满足划分准则的特征不断的将数据集划分为纯度更高，不确定性更小的子集的过程。

在本申请的优选实施方式中，步骤一中，获取可解释神经网络模型的规则复杂度，包括：

以获取gini系数的决策树规则复杂度为例：

获取可解释神经网络模型中gini＝1的个数K1，gini＝0的个数k1，则可解释神经网络模型的规则复杂度为：

C＝k1/K1

其中，C的值越大，规则复杂度越低，C的值越小，规则复杂度越高；

当gini系数为0的个数占总数的比例越大，该模型的规则复杂度越低。

以信息熵为划分标准的决策树：

获取可解释神经网络模型中信息熵＝1的个数K2，信息熵＝0的个数k2，则可解释神经网络模型的规则复杂度为：

C＝k2/K2

其中，C的值越大，规则复杂度越低，C的值越小，规则复杂度越高。

当信息熵为1的个数占总信息熵个数的比例越大，则该模型的规则复杂度越高。

本申请的层次分析法的可解释类深度神经网络评估方法，步骤二中，根据可解释神经网络模型的时间复杂度、空间复杂度以及规则复杂度，计算影响因素的权重，包括以下过程：

S21、根据可解释神经网络模型的时间复杂度、空间复杂度以及规则复杂度构建层次指标结构；

其中，层次指标结构的目标层A为可解释神经网络模型的评估结果，一级影响因素{B1，B2，B3}为{时间复杂度，空间复杂度，规则复杂度}，对应的二级影响因素{C1，C2，C3，C4，C5，C6，C7}为{时间频度，O(f(n))，代码行数，圈复杂度，Halstead体积，gini系数，信息熵}；

S22、根据层次指标结构计算影响因素的权重矩阵，包括：

构建一级影响因素对目标层的第一判断矩阵，并计算第一判断矩阵的CR值，根据CR值对第一判断矩阵进行一致性检验，获取满足一致性检验要求的第一判断矩阵；

构建二级影响因素对一级影响因素的第二判断矩阵，并计算第二判断矩阵的CR值，根据CR值对第二判断矩阵进行一致性检验，获取满足一致性检验要求的第二判断矩阵；

根据满足一致性检验要求的第一判断矩阵以及第二判断矩阵得到二级影响因素对目标层的权重矩阵W。

本申请首先构建所要分析问题的递阶层次指标结构，然后构建判断矩阵，计算判断矩阵的最大特征值和最大特征值对应的特征向量，并将特征向量归一化；对判断矩阵进行一致性检验：若满足给定的一致性标准，则由上一步求得的归一化的特征向量即为指标权重；反之，若不满足给定的一致性标准，则需要对判断矩阵进行修改，并重新构建判断矩阵，直到满足给定的一致性标准为止。将各层指标的相对权重加权，得到最底层指标相对于最高层即总目标的指标权重。

本申请的层次分析法的可解释类深度神经网络评估方法，步骤三中，根据可解释神经网络模型的时间复杂度、空间复杂度以及规则复杂度，构建隶属度关系矩阵，包括：

S31、获取影响因素的分级标准；

S32、计算各个影响因素之间的模糊关系的隶属度值，构建隶属度关系矩阵R；

其中，根据分级标准，计算影响因素集U＝{a1,a2,...,an}中的影响因素ai与影响因素aj之间的隶属度值rij，{i＝1,2,...,n}，{j＝1,2,...,n}，得到一个n阶矩阵R，表示如下：

rij的实际意义为研究对象影响因素集U中，影响因素ai与影响因素aj的重要性关系。

待研究对象因素集对某一准则存在相对重要性，根据特定的标度法则，将因素与其他方案两两进行比较，得到两者的相对重要程度。对任意两个评价因素进行定量描述，本实施例中，采用数量标度0.1-0.9标度法。

本申请的层次分析法的可解释类深度神经网络评估方法，最后，步骤四中，根据权重以及所述隶属度关系矩阵对可解释神经网络模型进行评估，包括：

根据权重以及隶属度关系矩阵计算评估结果G：

G＝W*R

根据评估结果G的大小对可解释神经网络模型进行评估。

在本申请的一个实施方式中，以深度强化学习环境下飞机空中博弈模型为例，采用本申请的基于模糊层次分析法的可解释类深度神经网络评估方法，对飞机空中博弈模型转换后的条件规则进行评估，如图1所示。

首先S1获取模型的评估指标，时间复杂度、空间复杂度以及规则复杂度。

时间复杂度的获取：

时间频度的获取：本实施例中可解释模型测试一共使用100个epoch，计算到每次神经网络决策的时间，如表2所示。

表2

最后得到可解释神经网络在得到100次决策的平均值为20.1453s。

O(n)的获取：通过理论方法可得，该可解释神经网络模型的T(n)＝7n

空间复杂度的获取：

通过对可解释神经网络的代码行数、圈数、边数、节点数、圈的不连通部分数、程序中出现的各不相同的运算符的个数n1、程序中出现的各不相同的运算元的个数n2、运算符出现的总数N1以及运算元出现的总数N2进行统计计算，得到该模型的代码行数、圈复杂度以及Halstead体积(也称程序复杂度)三个指标。

规则复杂度的获取：

本实施例中，可解释模型为决策树算法所实现的，因此先以按gini系数进行划分的决策树为例，提取其中gini＝1的个数为K1，gini＝0的个数为k1，因此该项目的规则复杂度C的计算方式如下所示：

C＝k1/K1

其中，C的值越大，该模型规则的复杂度越低；C的值越小，该模型规则的复杂度越高。如果决策树算法是通过信息熵来进行划分的，那么与上述对应关系相反。

其次，S2利用层次分析法计算影响因素权重；

S21、构建所要分析问题的递阶层次指标结构：

根据S1所获取的评价指标，得到的可解释神经网络模型的层次指标结构如图2所示。由此可得，该层次指标结构的目标层A为可解释模型的评估结果，一级影响因素{B1，B2，B3}为{时间复杂度，空间复杂度，规则复杂度}，对应的二级影响因素{C1，C2，C3，C4，C5，C6，C7}为{时间频度，O(n)，代码行数，圈复杂度，Halstead体积，gini系数，信息熵}。

S22、根据层次指标结构计算影响因素的权重矩阵，包括：

构建一级影响因素对目标层的判断矩阵，如下表3所示。

表3一级影响因素对目标层的判断矩阵

其中常量的含义如表4所示。

表4

计算得到该矩阵的CR值为0.016，该值小于0.1，因此矩阵一致性检验通过。

下面分别建立二级影响因素对一级影响因素的判断矩阵，如下表5、表6以及表7所示。

表5二级影响因素对B1的判别矩阵

表6二级影响因素对B2的判别矩阵

表7二级影响因素对B3的判别矩阵

上述矩阵对应的CR值为0.000，0.016以及0.000，均小于0.1，因此上述矩阵都通过了一致性检验。

最后得到二级影响因素{C1，C2，C3，C4，C5，C6，C7}对目标层A的权重矩阵W为{0.091，0.045，0.033，0.057，0.149，0.313，0.313}。该层次总排序的CR值为0.014，小于0.1，通过一致性检验。

S3、构建隶属度关系矩阵：

构建隶属度关系矩阵的流程如图3所示，首先根据上述指标建立评价指标分级标准，如表8所示：

表8评价指标分级标准

由表中信息可得，该模型的评价指标因素均为连续因素，所以均可以构建连续性函数，其函数构造如下所示：

/>

其中，U

本实施例中，评估的为gini系数划分的决策树树模型，得到该模型的影响因素隶属度结果如下表9所示。

表9影响因素隶属度

最后S4、结合权重以及隶属度矩阵完成对可解释模型的评估。

由S2得到的权重矩阵W为{0.091，0.045，0.033，0.057，0.149，0.313，0.313}，由S3得到到隶属度矩阵为R，所以最后的评价结果为G＝W*R＝{0，0.197981，0.381083，0.108936}，由于规则复杂度包含的影响因素gini系数与信息熵不能同时出现在一个可解释模型决策树中，因此最后的权重结果相加G1+G2+G3+G4＝0.687。而根据评价结果G，可以得到最大的数据为0.381083，因此该可解释模型的评估结果为中。从而很好的完成了对可解释模型的评估。

本申请的基于模糊层次分析法的可解释类深度神经网络评估方法，根据可解释类深度神经网络评估的实际情况确定评价指标，并确定对应指标的获取方式；根据评估要求构建所要分析问题的递阶层次指标结构，构造判断矩阵并计算判断矩阵的最大特征值和最大特征值对应的特征向量，将特征向量归一化，对判断矩阵进行一致性检验，若判断矩阵满足给定的一致性标准，归一化的特征向量即为指标权重；反之，若判断矩阵不满足给定的一致性标准，则需要对判断矩阵进行修改，并重复该过程，直到判断矩阵满足给定的一致性标准为止；由上述过程的指标构建隶属度关系矩阵，计算各指标的隶属度值；结合各指标权重及其隶属度值完成对可解释模型的评估，从而完成了对可解释类深度神经网络模型的评估。

以上所述，仅为本申请的具体实施方式，但本申请的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本申请揭露的技术范围内，可轻易想到的变化或替换，都应涵盖在本申请的保护范围之内。因此，本申请的保护范围应以所述权利要求的保护范围为准。