技术领域
本发明涉及旋转机械振动信号生成技术领域,特别涉及一种旋转机械振动信号的稀疏约束生成对抗网络实现方法。
背景技术
旋转机械作为工业设备中重要的组成部分,在设备工作运行中发挥关键的作用,因此,旋转机械的运行状况能够极大影响设备整体的运行状况,一旦旋转机械发生故障,容易引起设备整体故障,导致设备停机、经济损失及损害人身安全等不良后果。然而旋转机械通常运行于高负载、变工况等恶劣环境条件,容易发生退化和失效,因此针对旋转机械开展故障检测、故障诊断、健康评估等健康管理工作,能够有效掌握其运行状态,在故障发生时进行告警和隔离定位,提高设备运行可靠性。由于旋转机械工作带有明显的周期性,因此其引起的振动信号中包含了与旋转机械本身运行情况与故障情况高度相关的大量信息,因而针对旋转机械的故障检测、诊断等方法大多依赖于采集的振动信号。传统信号分析与特征提取方法能够结合旋转机械工作及故障机理,对其开展检测诊断,并取得较好效果。近年来,随着深度学习技术的发展,基于深度学习方法对旋转机械振动信号开展端到端的检测诊断,引起了广泛的关注和研究。然而,深度学习方法通常依赖大量有标注数据样本。实际场景下,受限于数据采集的高成本性与设备带故障运行的高风险性,获取大量的有标注振动信号样本难以实现,而这一问题影响了深度学习方法的实施效果。因此,利用数据增广方法,开展人工数据生成,基于有限的真实样本生成大量的合成样本,用以补充训练集,成为了解决数据缺乏问题的有效手段。
生成对抗网络,作为无监督生成模型,能够有效从真实数据中学习分布,进而将随机噪声向量变换为与真实数据高度相似的样本,在旋转机械振动信号生成方面已有相关方法得到应用。现有方法主要集中于利用生成对抗网络进行振动信号频谱、振动信号特征的生成。其中,振动信号频谱生成,首先对原始旋转机械振动信号执行快速傅里叶变换,得到振动信号频谱,作为真实样本,对生成对抗网络进行训练,得到大量生成的频谱样本,进而服务于旋转机械后续的检测、诊断、健康评估等健康管理工作。振动信号特征生成,首先对振动信号进行特征提取,包括时域特征、频域特征等,将提取得到的特征组成特征向量,然后利用特征向量作为真实样本,对生成对抗网络进行训练,使网络获得生成振动信号特征的能力。然而,无论是频谱生成还是特征生成,都未能保留原始振动信号的所有信息。现有方法缺少稳定生成旋转机械原始时域振动信号的能力,且均需要复杂的网络结构,更加引发了训练的不稳定性。因此,亟需设计一种能够利用生成对抗网络,无监督地对旋转机械原始时域振动信号分布进行学习,进而能够大量生成振动信号样本的方法,以支持对数据量有较高需求的检测诊断方法的开发应用。
发明内容
本发明的目的是提供一种利用稀疏约束生成对抗网络生成振动信号的方法,直接针对旋转机械原始时域振动信号进行无监督学习和大量生成。
本发明所提供的一种利用稀疏约束生成对抗网络生成振动信号的方法包括以下步骤:
通过构建并训练包括生成器和判别器的稀疏约束生成对抗网络,得到训练好的稀疏约束生成对抗网络,并将随机噪声向量输入到训练好的稀疏约束生成对抗网络的生成器;
所述训练好的稀疏约束生成对抗网络的生成器将输入的随机噪声向量被变换为一个仅包含少量非零值的稀疏激活向量;
使用所述稀疏向量中包含的少量非零值,激活所述训练好的稀疏约束生成对抗网络的生成器隐藏层的权重矩阵中对应位置的列向量,其中被激活的列向量中包含了真实振动信号中所有关键频率成分及其组合;
被激活的列向量经过稀疏向量非零激活值的加权之后,得到一个线性组合,所述线性组合包含了待生成的旋转机械原始振动信号中所有的关键频率成分;
该线性组合被一个非线性函数进行激活,相当于经过一个调幅处理,得到最终的生成样本;
所述训练好的稀疏约束生成对抗网络的生成器输出该生成样本,获得与原始振动信号高度相似的生成样本。
优选地,构建并训练包括生成器和判别器的稀疏约束生成对抗网络包括:
构建输入层维度和输出层维度为
利用对采集的振动信号进行预处理后得到的维度为
利用训练好的稀疏自动编码器,构建包括生成器和判别器的稀疏约束生成对抗网络;
利用维度为
优选地,利用训练好的稀疏自动编码器,构建包括生成器和判别器的稀疏约束生成对抗网络包括:
拆分训练好的稀疏自动编码器,将输入层和隐藏层作为编码器部分,并将隐藏层和输出层作为解码器部分;
通过在拆分训练好的稀疏自动编码器得到的编码器部分之后接入一层包含一个神经元的输出层,得到稀疏约束生成对抗网络的判别器;
通过在拆分训练好的稀疏自动编码器得到的解码器部分之前接入维度为w的输入层(该输入层的神经元个数为w),得到稀疏约束生成对抗网络的生成器。
优选地,利用维度为
利用所述振动信号训练样本和噪声样本对所述稀疏约束生成对抗网络的判别器进行若干次迭代循环训练,得到训练好的判别器;
利用所述噪声样本对稀疏约束生成对抗网络的生成器进行若干次迭代循环训练;
其中,在对生成器进行若干次迭代循环训练期间,训练好的判别器对所述生成器输出的生成样本和所述信号训练样本进行判别,直至所述生成器输出的生成样本逼近所述信号训练样本。
优选地,对所述稀疏约束生成对抗网络的判别器进行若干次迭代循环训练包括:
在利用所述信号训练样本和噪声样本对所述稀疏约束生成对抗网络的判别器进行若干次迭代循环训练期间,计算所述判别器损失值;
根据所计算的判别器损失值,对判别器网络参数进行梯度下降更新,直至所述判别器损失值与所述生成器损失值达到纳什均衡状态。
优选地,判别器网络参数包括所述训练好的稀疏自动编码器的权重矩阵和偏置向量以及所接入的包含一个神经元的输出层的权重矩阵和偏置向量。
优选地,所述判别器隐藏层和输出层激活函数均为Sigmoid函数。
优选地,对所述稀疏约束生成对抗网络的生成器进行若干次迭代循环训练包括:
在利用所述信号训练样本和噪声样本对所述稀疏约束生成对抗网络的生成器进行若干次迭代循环训练期间,计算所述生成器损失值;
根据所计算的生成器损失值,对生成器网络参数进行梯度下降更新,直至所述生成器损失值与所述判别器损失值达到纳什均衡状态。
优选地,所述生成器网络参数包括所述训练好的稀疏自动编码器的权重矩阵和偏置向量以及维度为w的输入层的权重矩阵和偏置向量。
优选地,所述生成器隐藏层激活函数为Sigmoid函数,输出层激活函数为tanh函数。
优选地,对采集的振动信号进行预处理后得到维度为
将振动信号序列的幅值标准化至-1至1之间;
使用宽度为w的窗口将幅值标准化的振动信号序列切分为n个长度为w的振动训练信号样本。
本发明的有益技术效果包括:
1、相比于现有的能够实现振动信号频谱和振动信号特征生成的方法,本发明能够直接针对旋转机械原始时域振动信号进行无监督学习和大量生成,克服了频谱生成和特征生成中所不可避免的信息损失问题;
2、相比于现有的能够在一定程度上实现旋转机械时域振动信号生成的方法,本发明不需要设计复杂的神经网络结构、不需要仔细平衡生成对抗网络训练过程、不需要引入大量训练技巧,即可对不同情况下的振动信号样本进行稳定生成,有效降低了生成的难度和不稳定性;
3、本发明能够有效扩充振动信号样本集,减轻数据量不足对深度学习等对数据量有较高需求的方法的不利影响,提高故障诊断等任务上的模型性能。
下面结合附图以具体实施例对本发明的进行详细说明。
附图说明
图1是本发明的一种旋转机械振动信号的稀疏约束生成对抗网络实现方法的示意图;
图2是本发明的稀疏自动编码器拆分与重组稀疏约束生成对抗网络的过程示意图;
图3是正常状态轴承原始振动信号的示意图;
图4是对正常状态轴承原始振动信号进行预处理后振动信号的示意图;
图5是本发明的稀疏自动编码器训练损失变化示意图;
图6是本发明的稀疏约束生成对抗网络训练损失变化示意图;
图7是本发明训练好的稀疏约束生成对抗网络的正常状态生成振动信号与正常状态真实振动信号及其频谱的比对示意图;
图8是显示本发明训练好的稀疏约束生成对抗网络生成器隐藏层中相应神经元对应的频率的示意图。
具体实施方式
图1显示了本发明的一种旋转机械振动信号的稀疏约束生成对抗网络实现方法,包括以下步骤:
构建输入层维度和输出层维度为
利用对采集的振动信号进行预处理后得到的维度为
利用训练好的稀疏自动编码器,构建包括生成器和判别器的稀疏约束生成对抗网络;
利用维度为
具体地说,利用训练好的稀疏自动编码器,构建包括生成器和判别器的稀疏约束生成对抗网络如图2所示,包括:
拆分训练好的稀疏自动编码器,将输入层和隐藏层作为编码器部分,并将隐藏层和输出层作为解码器部分,即通过获取和/或复制训练好的稀疏自动编码器输入层、输出层和隐藏层对应的代码,得到训练好的稀疏自动编码器的编码器部分和解码器部分;
通过在拆分训练好的稀疏自动编码器得到的编码器部分之后接入一层包含一个神经元的输出层,得到稀疏约束生成对抗网络的判别器;
通过在拆分训练好的稀疏自动编码器得到的解码器部分之前接入维度为w的输入层(该输入层的神经元个数为
具体地说,利用维度为
利用所述振动信号训练样本和噪声样本对所述稀疏约束生成对抗网络的判别器进行若干次迭代循环训练,得到训练好的判别器;
利用所述噪声样本对稀疏约束生成对抗网络的生成器进行若干次迭代循环训练;
其中,在对生成器进行若干次迭代循环训练期间,训练好的判别器对所述生成器输出的生成样本和所述信号训练样本进行判别,直至所述生成器输出的生成样本逼近所述信号训练样本。
具体地说,对所述稀疏约束生成对抗网络的判别器进行若干次迭代循环训练包括:
在利用所述信号训练样本和噪声样本对所述稀疏约束生成对抗网络的判别器进行若干次迭代循环训练期间,计算所述判别器损失值;
根据所计算的判别器损失值,对判别器网络参数进行梯度下降更新,直至所述判别器损失值与所述生成器损失值达到纳什均衡状态,如图6所示。
本发明的判别器网络参数包括训练好的稀疏自动编码器的权重矩阵和偏置向量以及所接入的包含一个神经元的输出层的权重矩阵和偏置向量,并且判别器隐藏层和输出层激活函数均为Sigmoid函数。
具体地说,对所述稀疏约束生成对抗网络的生成器进行若干次迭代循环训练包括:
在利用所述信号训练样本和噪声样本对所述稀疏约束生成对抗网络的生成器进行若干次迭代循环训练期间,计算所述生成器损失值;
根据所计算的生成器损失值,对生成器网络参数进行梯度下降更新,直至所述生成器损失值与所述判别器损失值达到纳什均衡状态。
本发明的生成器网络参数包括训练好的稀疏自动编码器的权重矩阵和偏置向量以及维度为w的输入层的权重矩阵和偏置向量,并且生成器隐藏层激活函数为Sigmoid函数,输出层激活函数为tanh函数。
本发明的上述方法的具体实施方式包括以下步骤:
步骤一:旋转机械振动信号数据预处理
在旋转机械处于一定工况、一定负载、一定健康状态的条件下,使用传感器采集振动信号。设采集得到的振动信号序列为
其中
标准化完成之后,使用宽度为
步骤二:稀疏自动编码器构建
构建输入层维度和输出层维度为
自动编码器为包含一个输入层、一个隐藏层、一个输出层的三层神经网络。对于输入向量
其中
网络的编码器部分将输入样本转化为隐藏层的输出向量,即
解码器将隐藏层输出向量转化为输出向量,即
其中
以输入样本与输出向量之间的均方根误差(MSE)作为自动编码器的损失函数,即
稀疏自动编码器,即在自动编码器的隐藏层引入稀疏约束,限制隐藏层神经元的激活情况,能够更有效地对输入样本进行编码和提取特征。设对于输入样本
稀疏自动编码器希望隐藏层神经元的平均激活值保持在一个较低水平
其中
步骤三:稀疏自动编码器训练
稀疏自动编码器构建完成后,使用步骤一构建的旋转机械振动信号训练样本集对其进行训练。对于一个迭代(epoch)而言,训练过程如下。设每对网络参数进行一次更新,使用的一批样本数量为batch_size个。
步骤301:随机打乱样本集
步骤302:令i=1。
步骤303:当i+batch_size-1不超过样本总数n时,执行以下步骤,否则跳转至308。
步骤304:从样本集
步骤305:按照公式(1)计算上述这批样本的SAE损失
步骤306:使用梯度下降算法更新稀疏自动编码器的参数,即
其中
步骤307:令i=i+batch_size,重新跳转至步骤303。
步骤308:完成此epoch对所构建稀疏自动编码器的训练。
根据预先设定的epoch总数,对构建的稀疏自动编码器进行若干迭代循环的训练,直至损失函数不再下降,完成对稀疏自动编码器的训练过程。
步骤四:稀疏约束生成对抗网络构建
生成对抗网络,是由生成器和判别器组成的互为对称的神经网络。其中,生成器以随机噪声向量为输入,输出生成样本,其目的是使生成样本与真实样本尽可能相似,以迷惑判别器给出错误的判别结果;判别器以生成样本和真实样本为输入,输出判别结果,其目的是准确辨别输入的样本是来自真实数据分布还是属于生成器的生成样本。
生成器的损失函数如下
其中
判别器的损失函数如下
其中
训练过程中,生成器和判别器轮流更新参数,直至达到纳什均衡状态。整个生成对抗网络的训练目标函数如下
如图2所示,将步骤三中训练得到的稀疏自动编码器拆分为两部分:编码器部分和解码器部分。在编码器部分之后接入一层包含1个神经元的网络层,其激活函数为sigmoid函数,作为稀疏约束生成对抗网络的判别器;在解码器之前接入一层神经元个数与振动信号样本维度相同的网络层作为输入层,构成稀疏约束生成对抗网络的生成器。因此,稀疏生成对抗网络的生成器和判别器均为输入层-隐藏层-输出层的三层网络结构。
由于在步骤二和步骤三中稀疏约束的存在,此时生成器和判别器的隐藏层仍包含稀疏约束,因此称之为稀疏约束生成对抗网络。
步骤五:稀疏约束生成对抗网络训练
稀疏约束生成对抗网络构建完成后,使用步骤一中得到的旋转机械振动信号训练样本集对其进行训练。
由于生成器与判别器的隐藏层中稀疏约束的存在,相比于基本的生成对抗网络,本发明中的稀疏约束生成对抗网络目标函数有所不同。其中,生成器的目标函数如下
其中,
类似地,判别器的目标函数如下
其中,
对于一个迭代(epoch)而言,训练过程如下。设每对网络参数进行一次更新,使用的一批样本数量为
步骤501:令
步骤502:当
步骤503:在先验噪声分布中,随机采样
步骤504:根据上述噪声样本和真实样本,计算如式(3)的判别器损失值
步骤505:令
步骤506:在先验噪声分布中,随机采样
步骤507:根据上述噪声样本,计算如式(2)的生成器损失值
步骤508:完成此epoch对稀疏约束生成对抗网络的训练。
根据预先设定的epoch总数,对构建的稀疏约束生成对抗网络进行若干迭代循环的训练,直至生成器与判别器达到平衡,生成器能够生成逼真的振动信号样本,至此完成对稀疏约束生成对抗网络的训练过程。
稀疏约束生成对抗网络生成旋转机械振动信号原理
在步骤五的对抗训练阶段结束之后,作为生成器的三层神经网络能够以随机噪声向量为输入,生成逼真的时域振动信号并输出。对于给定噪声向量
式中,
接着,上述稀疏向量
式中,
由于网络的激活函数是单调递增函数,因此只影响输出信号的幅值,而不影响输出信号的频率。对于基于振动信号的旋转机械PHM方法来说,通常频域信息是关键信息。因此,生成器输出的生成振动信号可看做权重矩阵列向量
具体实施例
本发明实施例中,采用由凯斯西楚大学(Case Western Reserve University,CWRU)提供的公开数据集,对发明的方法进行有效性验证。
数据集中,包含由加速度计采集的滚珠轴承振动信号。试验与采集信号的试验台由驱动电机、扭矩传感器/编码器、测力计、控制电路组成,采集信号的加速度计以磁吸的方式与设备相连。
负载水平为1-hp,振动信号的采样频率为48 kHz。数据集中共包含正常(N)、内圈故障(IR)、滚动体故障(B)、外圈故障(OR),其中内圈故障、滚动体故障和外圈故障模式下,各包含0.007、0.014、0.021英寸三种不同的故障尺寸。因此,数据集中共包含10种不同的健康状态。
由于对不同健康状态下的振动信号执行生成的具体方法均相同,因此选取正常状态下的振动信号为例,展示步骤一至步骤五的实施效果;步骤六中将全部10种健康状态的生成结果进行展示。
旋转机械振动信号数据预处理
正常状态下,轴承原始振动信号包含10秒采样的数据,共计480000个点,如图3所示。
首先,将振动信号序列幅值标准化至-1至1之间。标准化完成之后,使用宽度为320的窗口将振动信号序列切分为1500个长度为320的样本。其中,部分标准化并切分得到的样本如图4所示。
稀疏自动编码器构建
构建输入层维度和输出层维度为320,隐藏层维度为160的稀疏自动编码器。其中,隐藏层激活函数使用Sigmoid函数,输出层激活函数使用tanh函数。控制稀疏约束惩罚项力度的超参数
稀疏自动编码器训练
每对网络参数进行一次更新,使用的一批样本数量为64个。训练epoch数为1000次。训练过程损失变化情况如图5所示。
稀疏约束生成对抗网络构建与训练
将训练得到的稀疏自动编码器拆分为两部分:编码器部分和解码器部分。在编码器部分之后接入一层包含1个神经元的网络层,其激活函数为sigmoid函数,作为稀疏约束生成对抗网络的判别器;在解码器之前接入一层神经元个数与振动信号样本维度相同(320维)的网络层作为输入层,构成稀疏约束生成对抗网络的生成器。因此,生成器为320-160-320的三层结构神经网络;判别器为320-160-1的三层结构神经网络。生成器隐藏层激活函数为Sigmoid函数,输出层激活函数为tanh函数,隐藏层稀疏惩罚超参数
生成器构建结果如下表所示。
判别器构建结果如下表所示。
每对网络参数进行一次更新,使用的一批样本数量为50个。对抗训练epoch数为2000次。训练过程损失变化情况如图6所示。
从生成器和判别器损失变化趋势可以看出,对抗训练过程比较稳定,未发生损失大幅度震荡或损失发散的情况。
稀疏约束生成对抗网络生成机械振动信号的原理
首先对正常状态下轴承的真实振动信号、真实振动信号的频谱、生成振动信号、生成振动信号的频谱进行观察,如图7所示。
从生成结果中可以看出,对于轴承健康状态下的振动信号,本发明所建立的稀疏约束生成对抗网络能够实现稳定生成;在频域中,生成信号与真实信号的频谱主要频率、能量大小均基本吻合,说明模型从时域振动信号中学习到了关键的频域信息。此外还可看出,对于健康状态,振动信号中包含三个主要的频率成分(最低的关键频率成分、居中的关键频率成分和最高的关键频率成分)。
根据上述权重分析方法,提取出生成器网络隐藏层的权重矩阵并获取列向量,共160个;分别绘制出列向量的原始曲线,以及经过FFT变换之后的频谱曲线。选取其中有代表性的八个神经元所代表的列向量进行展示分析,如图8所示。由图可见,生成器网络的不同神经元学习到了包含关键频率信息的信号特征,且彼此之间存在差异。例如,部分神经元主要学习到了单个关键频率成分,如神经元#26、神经元#18(对应于最低的关键频率成分),神经元#135(对应于居中的关键频率成分),神经元#114(对应于最高的关键频率成分);部分神经元学习到了两个关键频率成分的组合,如神经元#72、神经元#155(对应于居中的和最高的关键频率成分的组合);部分神经元则学习到了所有的关键频率成分,如神经元#81、神经元#148。因此,基于稀疏约束生成对抗网络的旋转机械振动信号生成模型的生成机理可以解释为如下过程:(1)首先,输入生成器网络的随机噪声向量被变换为一个仅包含少量非零值的稀疏激活向量;(2)稀疏向量中包含的少量非零值,将生成器隐藏层的权重矩阵中对应位置的列向量激活,其中被激活的列向量中包含了真实振动信号中所有关键频率成分及其组合;(3)被激活的列向量,经过稀疏向量非零激活值的加权之后,得到一个线性组合,这之中包含了待生成的旋转机械原始振动信号中所有的关键频率成分;(4)该线性组合被一个非线性函数进行激活,相当于经过一个调幅处理,得到最终的生成样本,被生成器输出,获得与原始振动信号高度相似的生成样本。
尽管上文对本发明进行了详细说明,但是本发明不限于此,本技术领域技术人员可以根据本发明的原理进行各种修改。因此,凡按照本发明原理所作的修改,都应当理解为落入本发明的保护范围。
机译: 在其中存储了存储介质振动信号生成程序,振动信号生成系统,振动信号生成装置,振动信号生成方法以及在其内部存储了数据输出程序的存储介质
机译: 振动信号生成程序,振动信号生成系统,振动信号生成装置,振动信号生成方法以及数据输出程序
机译: 其中存储了振动信号生成程序的存储介质,振动生成设备,振动生成系统和振动信号生成方法