两种机器学习方法结合的变压器故障类型诊断方法

摘要

本发明涉及变压器领域，具体涉及一种两种机器学习方法结合的变压器故障类型诊断方法，极大地提高了对变压器故障类型判断的准确性。本发明两种机器学习方法结合的变压器故障类型诊断方法，包括：对训练样本进行预处理，将预处理后的训练样本输入BP神经网络，对BP神经网络进行训练，将BP神经网络输出的多个特征向量融合成一个特征向量，将融合后的特征向量输入CNN网络，对CNN网络进行训练后得到变压器故障检测复合网络，根据变压器故障检测复合网络对变压器故障类型进行判断。本发明适用于对变压器故障类型进行判断。

说明书

技术领域

本发明涉及变压器领域，具体涉及一种两种机器学习方法结合的变压器故障类型诊断方法。

背景技术

目前有很多基于DGA进行的变压器故障诊断研究，诊断方法有基于最小二乘支持向量机的变压器故障诊断(LS-SVM)：支持向量机用于变压器故障诊断时，通常将通过色谱分析得到的DGA数据作为输入数据输入到支持向量机中，经支持向量机进行分类处理后，给出相应诊断结果，具有诊断速度快、准确率高等优点；

多分类多核学习支持向量机的变压器故障诊断方法：较传统的二分类可以降低网络模型构造和参数选择的难度，提高求解速度降低问题复杂度。极限学习机可以简单理解为一种单隐含层神经网络，与神经网络不同的是在训练时随机生成各层之间的权值及神经元阈值,而且生成之后不再发生改变,只需要通过调节隐含层神经元节点个数来获得最优性能；

基于加权极限学习机的变压器故障诊断方法：加权学习机提升了训练能力和泛化能力，可以结合交叉验证法研究加权极限学习机参数变化对算法性能的影响，从而选择最优参数，相比于SVM，加权极限学习机对不平衡数据集的分类准确率更高；

基于BP网络的变压器故障诊断研究：一种有监督的学习算法，利用有标签的数据作为网络训练的样本，利用学习得到的模型对待识别的样本进行预测。BP网络的结构包含输入层、隐含层、全连接层和输出层。输入变压器产生的各种特征气体的占总气体的比例，输出不同故障类型的编码。

但基于支持向量机的变压器故障诊断方法：其本质为二分类模型，用于多分类问题时往往需要经过复杂的变换过程，构建网络模型更为繁琐；

多分类多核学习支持向量机的变压器故障诊断方法：网络结构较为简单，训练速度快，但是学习能力不够；

基于加权极限学习机的变压器故障诊断方法：加权极限学习机的判断准确率不高；

基于BP网络的变压器故障诊断研究：网络的输入输出均为扁平向量，学习效果不佳，判断准确率不高。

发明内容

本发明的目的是提供一种两种机器学习方法结合的变压器故障类型诊断方法，极大地提高了对变压器故障类型判断的准确性。

本发明采取如下技术方案实现上述目的，两种机器学习方法结合的变压器故障类型诊断方法，包括：

步骤1、对训练样本进行预处理；

步骤2、将预处理后的训练样本输入BP神经网络，对BP神经网络进行训练；

步骤3、将BP神经网络输出的多个特征向量融合成一个特征向量；

步骤4、将融合后的特征向量输入CNN网络，对CNN网络进行训练后得到变压器故障检测复合网络；

步骤5、根据变压器故障检测复合网络对变压器故障类型进行判断。

进一步的是，步骤1中，所述训练样本为变压器油在放电或热故障情况下产生的多种特征气体。

进一步的是，步骤2中，所述将预处理后的训练样本输入BP神经网络的具体方法包括：

将多种特征气体按照设置比例作为输入数据，将输入数据按照矩阵的形式输入，矩阵的大小设置为n*1，n为正整数，矩阵中的每个元素相加之和为1。

进一步的是，步骤2或步骤3中，所述BP神经网络包括输入层，隐含层和输出层，输入信号从输入层进入网络结构，通过隐含层节点后，数据通过激活函数的作用到达输出层，由输出层输出最终的信号。

进一步的是，将BP网络的输入层节点数设为m，输出层节点数设为n，m为大于零的整数，则隐含层节点输出公式为：

输出层的节点输出公式为：

进一步的是，步骤3中，采用Concatenate向量拼接方法将BP神经网络输出的多个特征向量融合成一个特征向量。

进一步的是，步骤4之前还包括：

对全局误差进行判断，若全局误差满足要求，则进入步骤4，否则反向计算各样本的一般误差，根据全局误差以及各样本的一般误差调整输出层以及隐含层的权值；

全局误差的计算公式为：

输出层的权值调整公式为：

隐含层的权值调整公式为：

进一步的是，步骤4或步骤5中，所述CNN网络包括输入层、卷积层、池化层以及全连接层；

卷积层的计算公式为：

池化层用于将输入的特征矩阵进行下采样操作，实现特征的降维，减小后层的计算量，设置采样大小为S1×S2，则池化的运算公式为：

全连接层用于在整个网络中对特征进行线性组合，全连接层的公式为：

进一步的是，在全连接层后设置softmax层对全连接层的输出结果进行分类，softmax函数计算公式为：

其中，每个样本属于第k个分类的概率表示为：P(y＝j|x)，(j＝1，2，…，k)；Softmax层输出的矩阵的每个元素对应的就是相应变压器故障的概率。

进一步的是，在全连接层后设置softmax层对全连接层的输出结果进行分类之后还包括：对最终误差进行判断，若最终误差符合要求，则进入步骤2，否则根据最终误差对CNN网络每层中各神经元产生的误差计算最终误差对CNN网络每层中各神经元的权重及偏置的偏导，根据每层中各神经元的权重及偏置的偏导更新CNN网络各层每个神经元参数，然后进入步骤4；

最终误差的计算公式为：

最终误差对CNN网络每层中各神经元产生的误差计算公式为：

其中，

计算最终误差对CNN网络每层中各神经元的权重及偏置的偏导的公式为：

更新每一层每个神经元的参数的公式为：

w

本发明结合BP网络对训练样本的高学习速度以及CNN网络对样本特征的强提取能力，组建利用特征气体来进行变压器故障概率诊断的复合式神经网络，极大地提高了对变压器故障类型判断的准确性，并且通过数据预处理，避免由于输入样本数据的量级差异而造成的神经元饱和，使初始网络训练中变量的重要性处于相同位置。

附图说明

图1是本发明变压器故障类型判断复合训练流程图。

具体实施方式

本发明两种机器学习方法结合的变压器故障类型诊断方法，包括：

步骤1、对训练样本进行预处理；

步骤2、将预处理后的训练样本输入BP神经网络，对BP神经网络进行训练；

步骤3、将BP神经网络输出的多个特征向量融合成一个特征向量；

步骤4、将融合后的特征向量输入CNN网络，对CNN网络进行训练后得到变压器故障检测复合网络；

步骤5、根据变压器故障检测复合网络对变压器故障类型进行判断。

步骤1中，所述训练样本为变压器油在放电或热故障情况下产生的多种特征气体。

步骤2中，所述将预处理后的训练样本输入BP神经网络的具体方法包括：

将多种特征气体按照设置比例作为输入数据，将输入数据按照矩阵的形式输入，矩阵的大小设置为n*1，n为正整数，矩阵中的每个元素相加之和为1。

步骤2或步骤3中，所述BP(Back Propagation)神经网络包括输入层，隐含层和输出层，其特点是层与层之间的节点彼此连接，并且每层中的节点不相互连接，输入信号从输入层进入网络结构，通过隐含层节点后，数据通过激活函数的作用到达输出层，由输出层输出最终的信号。

将BP网络的输入层节点数设为m，输出层节点数设为n，m为大于零的整数，则隐含层节点输出公式为：

输出层的节点输出公式为：

步骤3中，采用Concatenate向量拼接方法将BP神经网络输出的多个特征向量融合成一个特征向量。

步骤4之前还包括：

对全局误差进行判断，若全局误差满足要求，则进入步骤4，否则反向计算各样本的一般误差，根据全局误差以及各样本的一般误差调整输出层以及隐含层的权值；

全局误差的计算公式为：

输出层的权值调整公式为：

隐含层的权值调整公式为：

步骤4或步骤5中，所述CNN(Convolutional Neural Networks)网络包括输入层、卷积层、池化层以及全连接层；卷积层是由多个不同的卷积核组成的参数集合，能够利用不同的卷积核重点提取输入的矩阵的相应特征用于识别和分类。不同种类的卷积核具有局部特征提取的能力，而同一种类的卷积核会共享网络的权值，卷积核的这两种特性使卷积神经网络的连接数量大于网络权值的数量，网络的复杂度得到有效的降低。

卷积层的计算公式为：

池化层用于将输入的特征矩阵进行下采样操作，实现特征的降维，减小后层的计算量，设置采样大小为S1×S2，则池化的运算公式为：

全连接层用于在整个网络中对特征进行线性组合，全连接层的公式为：

在全连接层后设置softmax层对全连接层的输出结果进行分类，softmax函数计算公式为：

其中，每个样本属于第k个分类的概率表示为：P(y＝j|x)，(j＝1，2，…，k)；Softmax层输出的矩阵的每个元素对应的就是相应变压器故障的概率。

在全连接层后设置softmax层对全连接层的输出结果进行分类之后还包括：对最终误差进行判断，若最终误差符合要求，则进入步骤2，否则根据最终误差对CNN网络每层中各神经元产生的误差计算最终误差对CNN网络每层中各神经元的权重及偏置的偏导，根据每层中各神经元的权重及偏置的偏导更新CNN网络各层每个神经元参数，然后进入步骤4；

最终误差的计算公式为：

最终误差对CNN网络每层中各神经元产生的误差计算公式为：

其中，

计算最终误差对CNN网络每层中各神经元的权重及偏置的偏导的公式为：

更新每一层每个神经元的参数的公式为：

w

图1是本发明变压器故障类型判断复合训练流程图，复合网络训练过程：

对收集的训练样本进行预处理：输入数据为五种特征气体占总气体体积的比例，输入矩阵的大小为n×1。理想输出结果为故障类型比例矩阵，输出矩阵的大小为n×1，这个矩阵中的每个元素相加之和为1。将训练样本输入BP网络(BP神经网络)，对BP神经网络进行训练。在BP神经网络的训练过程中，训练功能将在通过显示结果的间隔步数来描绘训练结果信息和误差变化曲线。当网络训练步数超过预先设定的最大训练步数时，网络训练停止，或网络训练误差小于设定的目标误差值，该网络也将停止训练。

在BP网络训练过程中，首先对BP网络初始化，然后依次求隐含层各单元输出，输出层各单元输出，在对整个样本集求总体误差E(即全局误差)，并判断误差E是否满足要求(即是否在阈值范围内)，若不满足要求，则反向计算各单元一般化误差，再调整各层权值，然后回到BP网络初始化后的步骤；

若满足要求，则利用Concatenate向量拼接方法，将BP网络的输出的n个特征向量融合成一个特征向量(n×n)，具体的操作方法是将特征向量进行拼接。其先验知识为相互融合的特征向量在相同维度的特征空间中进行，特征模态相近、性质相似。将融合后的特征向量作为输入数据矩阵，输入CNN网络进行网络训练，理想输出结果为故障类型比例矩阵，输出矩阵的大小为n×1，元素相加和为1，每个元素代表每一种故障可能概率。当两个网络分别训练完成后，利用相同的训练样本对复合网络进行训练，降低整体网络的变压器故障诊断误差。

在CNN网络训练过程中，首先对CNN网络初始化，然后依次求卷积层输出，池化层输出，全连接层输出，然后在全连接层后设置softmax层对全连接层的输出结果进行分类，分类之后对最终误差进行判断，判断是否满足要求或是否达到训练次数要求，若满足则回到BP网络初始化前进行复合网络训练，若不符合，则反向传播调整网络值；调整网络值即更新CNN网络各层每个神经元参数，更新后回到CNN网络初始化后的步骤。

通过数据预处理的样本(列矩阵n×1)先经过BP网络进行n次处理后经过Concatenate拼接成一个新矩阵(n×n)，然后通过CNN网络处理，输出一个列矩阵(5×1)，该矩阵表示各类型变压器故障的可能比例。

用于学习的有标签数据样本，通过预处理将特征气体含量转化成其占总产气的比例，从上至下排列成一个列矩阵，预计结果如果有一种以上的故障类型，预计输出表示为各种变压器故障的比例的列向量(每个元素之和应为1)。

本发明结合BP网络对训练样本的高学习速度以及CNN网络对样本特征的强提取能力，组建利用特征气体来进行变压器故障概率诊断的复合式神经网络。现有的BP网络通常在单一分类问题中体现出快速、高效的学习效果，并且具有简单清晰的网络结构。在处理多分类问题时往往存在片面性，受到学习样本集的影响，存在陷入局部最优解的问题，且BP网络的准确率往往不高，无法提供非常精准的变压器故障类型判断。CNN网络在图像识别领域有广泛的应用，其特点是可以利用不同大小的卷积核矩阵，通过滑动的方式与输入矩阵对应覆盖区域的数据(或者像素点)进行卷积计算，得到最终结果。CNN网络可以大量提取样本特征，但是对于扁平的输入矩阵，能够提取的信息范围有限，无法达到最佳的学习效果。因此通过将BP网络及CNN网络进行结合的方式，通过BP网络多次处理的输出结果向量结合成n×n的矩阵然后输入CNN网络进行卷积运算，经过全连接层后经过softmax函数处理成各类变压器故障的可能概率。

通过数据预处理，避免由于输入样本数据的量级差异而造成的神经元饱和，使初始网络训练中变量的重要性处于相同位置。

考虑到在实际情况下，变压器发生故障往往不是单一故障，而是各类放电及过热相互结合的故障。相比于现有技术的输出结果是故障类型的编码对应单一的故障诊断结果，本方法可以得到相应变压器多种故障的可能概率。

综上所述，本发明极大地提高了对变压器故障类型判断的准确性。