长短时记忆神经网络

摘要： 本文引入RNN的升级算法LSTM神经网络技术,建立了一套海量数据、高精度的自动拾取地震资料初至流程.相比于其他神经网络方法,LSTM神经网络能够提取数据的时序特征,加强学习初至前噪音时序特征,从而提高初至拾取的精度,为地震资料的初至拾取提供一套新的思路.首先设计样本制作过程并建立、训练模型,通过模拟资料验证方法的有效性,应用于胜利油田浅海与西部山地地震勘探资料的初至拾取,取得理想效果,证明LSTM神经网络初至拾取具有较高的精度与适用性.

摘要： 针对风洞流量测量中传统静态软测量模型估计精度低、鲁棒性差等问题,提出了注意力机制(Attention mechanism,Attention)、长短时记忆神经网络(Long short-term memory,LSTM)和卡尔曼滤波(Kalman filtering,Kalman)结合的Attention-LSTM-Kalman软测量模型:通过LSTM网络建立静态软测量模型,在此基础上,提出一种基于注意力机制的改进方案,考虑到系统的动态特性,使用卡尔曼滤波动态调整软测量模型输出序列。实验结果表明,静态预测模型LSTM的预测效果优于循环神经网络(Recurrent neural network,RNN)和门控循环单元(Gated recurrent unit,GRU)等模型;基于LSTM、Attention-LSTM和Attention-LSTM-Kalman的3种模型的对比预测测量结果表明,注意力机制能有效提高模型精准度,引入卡尔曼滤波改善了模型的动态测量特性。该模型方案在风洞系统的流量测量验证了其可行性和有效性。

摘要： 针对真空接触器的渐发性故障识别准确率不高的现状,提出了一种基于随机森林与长短时记忆神经网络的故障诊断方法。文中分析了某型号12 kV真空接触器在机械保持工作情况下合闸线圈电流信号的故障特征,构建了两层诊断模型,在初步诊断中利用随机森林分类器,识别特征明显的突发性故障,利用长短记忆神经网络模型发掘数据时序特征的特点,识别渐发性故障,在最终诊断中利用证据融合将两者结果融合。文中提出的故障诊断模型有效解决了传统故障诊断方法对渐发性故障识别困难的不足,实验表明,该方法对渐发性故障识别准确率达到了91.1%以上,整体故障识别的准确率达到93.3%以上,该方法具有一定的应用价值。

摘要： 近年来,城市轨道交通建设规模不断提升,随之而来的是大量客流涌入城市轨道交通系统。城市轨道交通短时客流预测对保证地铁正常运营,优化地铁线网结构,构建智慧轨道交通出行有着积极作用。城市轨道交通短时客流多数情况为可预知常规客流,具有时间周期性,又根据地铁站所处区域具有独特的客流特点。因此,考虑客流的时间周期性以及不同地铁站的区域独特性,基于K-means聚类算法、LSTM(长短时记忆神经网络)以及误差模型(ecm),提出短时客流预测的K-LSTM-ecm深度学习模型,并进行试验寻找最优参数。最后以北京地铁回龙观站进站数据为例验证模型效果,并对比LSTM、K-LSTM模型。结果表明K-LSTM-ecm模型在效果上优于LSTM、K-LSTM模型。

摘要： 准确的短时客流预测能够为城市轨道交通的良好运营提供保障,为提高预测的精度,提出将IPSO算法和LSTM模型进行组合,构建城市轨道交通短时客流预测模型。针对PSO算法不能很好地区分全局搜索和局部搜索,易陷入局部极值的问题,引入自适应变化的惯性权重和时间因子,动态调整粒子的移动步长,提高PSO算法全局搜索的能力;借鉴遗传算法中的变异机制,引入自适应变异函数,使PSO算法具有跳出局部范围的能力。利用IPSO算法对LSTM模型的迭代次数、学习率和隐含层的神经元个数进行寻优,构建IPSO-LSTM组合预测模型,对城市轨道交通短时客流进行预测,并与BP,LSTM,PSOLSTM共3种短时客流预测模型进行对比,在针对工作日和非工作日客流的预测中,结果显示IPSO-LSTM模型的预测误差最小,具有较好的预测效果。

摘要： 为准确预测锅炉过热器的出口壁温,对某超临界机组受热面出口温度的影响因素进行分析,利用灰色关联分析法得到各影响因素与壁面金属温度的关联度,选取关联度大于0.7的10个变量作为反向传播(BP)神经网络的输入变量;针对火电厂数据样本的变化特征,通过滑动窗口数据判断,提取多个稳定负荷区段并对区段内的多个输入变量进行聚类,得到清洗后的数据样本;然后通过长短期记忆(LSTM)神经网络方法构建壁面金属温度的预测模型。以某350 MW等级超临界锅炉过热器管壁温度为预测对象,预测值与实际测量值的最大误差为4.9°C,证明了该模型的有效性。

摘要： 在医疗运作管理领域,合理的资源分配能够帮助更多的患者尽早就医,降低患者病情恶化和死亡的风险。本文设计了预约排队策略对患者占有资源的顺序进行分配,建立了基于长短时记忆(Long Short Term-Memory,LSTM)神经网络和遗传算法(Genetic Algorithm,GA)的混合模型以优化排队策略。首先利用大数据和深度学习分析患者到达和医院服务情况,建立LSTM神经网络学习数据特征并预测未来数据,相比于排队论常用的随机分布方法取得了更好的效果.其次设计了基于排队系统仿真的排队策略优化算法,利用改进GA得到最优排队策略。实证研究表明,文本的方法可以明显降低患者的等待时间,最高可达59%。最后对排队策略进行敏感性分析,结果表明排队策略有效作用于仿真的各个时段。

摘要： 提出了一种基于自注意力思想长短时记忆神经网络(Self-Attention Mechanism Long Short-Term Memory Networks,SAM-LSTM)的寿命趋势指标构建方法。首先对原始信号进行滤波降噪处理;其次利用自注意力思想提取信号内部的退化趋势信息构建特征矩阵;接着采用双层长短时记忆神经网络在保留信号外部之间的时序关系的同时,映射特征得到寿命趋势指标;最后提出一种基于历史预测使用寿命指标动态选择拟合数据集的拟合方法,预测滚动轴承的剩余有效寿命。结合公开数据集对模型进行了验证,与另外两种方法对比表明,该方法能有效提升滚动轴承的剩余寿命预测的准确率,并且在不同工况下具有一定的泛化能力。

摘要： 基于传统机器学习的刀具磨损监测模型监测精度低且计算复杂度高,难以满足智能制造的发展需求。而基于深度学习的刀具磨损监测模型数据处理和特征提取能力较强,可明显提高监测精度,使加工过程更智能化,因此广泛应用于刀具磨损监测。根据采用的模型,将基于深度学习的刀具磨损监测分为基于卷积神经网络的刀具磨损监测、基于稀疏自编码网络的刀具磨损监测、基于深度置信网络的刀具磨损监测、基于长短时记忆网络的刀具磨损监测和基于混合模型的刀具磨损监测,介绍了各种深度学习模型的基础理论及基本结构,总结了国内外基于深度学习模型的刀具磨损监测方法,分析了存在的问题,并指出了未来的发展方向。

摘要： 针对滚动轴承退化信号的非平稳、非线性特点以及全寿命退化状态难以有效识别的问题,提出一种基于变分模态分解(VMD)和长短时记忆神经网络(LSTM)相结合的滚动轴承退化状态识别方法。该方法首先采用麻雀搜索算法(SSA)对VMD的两个参数(模态分量个数和惩罚因子)进行优化;然后将滚动轴承振动信号分解成若干个本征模态函数(IMF),再根据皮尔逊相关系数选择VMD分解得到的敏感IMF分量,对其重构后进行特征提取;最后将多维退化特征输入LSTM模型训练,建立退化状态模型。实验结果表明该方法能够准确识别轴承的退化状态,验证了该方法的优越性。

摘要： 本发明公开了一种基于长短时记忆递归神经网络的短时交通流预测方法。该方法包括以下步骤：根据短时交通流的预测时间间隔，对输入的历史交通流数据进行聚合；对聚合后的历史交通流进行预处理；对长短时记忆递归神经网络设置合理的参数；使用预处理后的数据训练该神经网络预测模型；调用预测模型预测指定时间间隔的交通流量并评估预测误差。本发明利用了长短时记忆递归神经网络能够长时记忆输入历史数据的优势，可以得到更高的预测精度，且对不同的预测间隔有较好的扩展性。

摘要： 本发明公开了一种基于长短时记忆递归神经网络的短时交通流预测方法。该方法包括以下步骤：根据短时交通流的预测时间间隔，对输入的历史交通流数据进行聚合；对聚合后的历史交通流进行预处理；对长短时记忆递归神经网络设置合理的参数；使用预处理后的数据训练该神经网络预测模型；调用预测模型预测指定时间间隔的交通流量并评估预测误差。本发明利用了长短时记忆递归神经网络能够长时记忆输入历史数据的优势，可以得到更高的预测精度，且对不同的预测间隔有较好的扩展性。

摘要： 本发明公开一种基于长短时记忆网络和卷积神经网络的文本分类方法，首先，利用词向量将输入文本进行向量表示，通过三层CNN提取文本的局部特征，进而整合出全文语义，同时，使用LSTM存储文本序列中历史信息的特征，以获取文本的上下文依赖关系，其次，将输入向量分别与各层CNN的输出相融合，缓解深层神经网络中层与层之间特征传递时出现的特征丢失问题。本发明适用于文本分类，具有运行效率高、运行时间短的优点，解决了传统分类技术在处理复杂抽象和上下文的强相关性文本时的缺陷。

摘要： 本发明请求保护一种结合卷积神经网络(CNN)和长短时记忆网络(LSTM)的脑电识别方法，首先使用Emotiv采集仪采集脑电信号数据，并对采集到的脑电信号进行去均值、滤波、归一化等预处理；其次，将预处理后的数据输入卷积层和池化层提取空间特征；然后，在池化层后直接接入LSTM，提取脑电数据的时序信息，最后经过Dropout和全连接层，完成分类任务。本发明能充分利用脑电信号的时空特征，提取脑电数据的空间和时序信息，从而提高脑电信号的分类准确率，也为研究脑电识别提供了一个新的途径。

摘要： 本发明提供了一种长短时记忆网络结合神经网络的列控车载设备的故障诊断方法。该方法包括：利用车载设备的日志文件通过文本数据挖掘处理构建车载设备运行信息语料库，并构建原始样本数据；构造LSTM网络和BP网络级联的多层网络系统，采用贝叶斯正则化算法对多层网络系统进行优化；利用训练样本数据来对优化后的多层网络系统进行训练，利用训练好的多层网络系统构成列控车载设备的故障诊断模型，利用故障诊断模型对列控车载设备的未知故障样本进行诊断，得到未知故障样本的诊断结果。本发明提出了基于LSTM网络和BP网络级联的列控车载设备的故障诊断方法，实现列车运行信息的智能分类，减少现场对人工经验的需求，有效进行列控车载设备的故障诊断。

摘要： 本发明公开了一种基于卷积神经网络和长短时记忆神经网络联合模型的刀具磨损状态辨识方法。将测力仪和加速度传感器安装于数控机床工作台夹具及工件上，采集三向力信号和振动加速度信号，并将收集到的数据进行数据预处理，对同一列数据进行归一化处理、统一分段，将一维数据转化为二维数据作为输入，再由联合模型中的卷积神经网络提取抽象特征，由联合模型中的长短时记忆神经网络寻找数据之间的关联性，最后输出刀具的磨损状态。本发明所建立的双网络结构串行设置，能够将两种信号之间的内部联系建立起来，并且通过卷积来提取更抽象的特征，再由长短时记忆确立其时序特性，从而达到建立数据与模型更深层次联系的目的，在各类机床上都具有适用性。

摘要： 本发明公开了一种基于胶囊网络和嵌套式长短时记忆神经网络的路网状态预测方法，涉及交通信息预测技术领域。首先将目标路网划分为n个路段，将时间等间隔划分，建立空间对应关系；然后将所在的空间地理区域划分网格，对网格进行取值；将取值作为像素产生对应的图片作为输入样本集，建立胶囊网络模型提取空间特征。搭建嵌套式长短时记忆神经网络模型，并将胶囊网络模型和嵌套式长短时记忆神经网络模型顺序连接，构成组合预测模型。利用输入样本集对组合预测模型进行训练及验证，构成最准确的预测模型。最后将测试集图片作为输入进行准确预测，得到未来某一时间段内路网的状态。本发明进行更为精准的预测，表现稳定，效率更高。

摘要： 本发明公开了一种基于卷积神经网络和长短时记忆神经网络联合模型的刀具磨损状态辨识方法。将测力仪和加速度传感器安装于数控机床工作台夹具及工件上，采集三向力信号和振动加速度信号，并将收集到的数据进行数据预处理，对同一列数据进行归一化处理、统一分段，将一维数据转化为二维数据作为输入，再由联合模型中的卷积神经网络提取抽象特征，由联合模型中的长短时记忆神经网络寻找数据之间的关联性，最后输出刀具的磨损状态。本发明所建立的双网络结构串行设置，能够将两种信号之间的内部联系建立起来，并且通过卷积来提取更抽象的特征，再由长短时记忆确立其时序特性，从而达到建立数据与模型更深层次联系的目的，在各类机床上都具有适用性。

摘要： 本发明公开了一种采用卷积神经网络和双向长短时记忆网络的交流电机轴承故障诊断方法。该方法充分利用卷积神经网络的参数共享、局部感知和降采样等优点，有效的从原始电流数据中提取到相应地空间特征，避免了复杂的特征提取过程。然后将提取的电流数据空间特征输入双向长短时记忆网络，捕获电流数据空间特征的时序信息，进一步提高滚动轴承故障诊断准确率。本发明利用电机驱动过程获取定子电流作为故障信号，具有非侵入式且易于形成闭环“驱动—诊断”的融合系统，可有效降低监控成本；所提轴承故障诊断方法结合卷积神经网络和双向长短时记忆神经网络特性，在特征提取的深度和复杂程度上都具有良好的性能，能够实现故障特征的精准有效提取。

摘要： 本发明公开了一种基于胶囊网络和嵌套式长短时记忆神经网络的路网状态预测方法，涉及交通信息预测技术领域。首先将目标路网划分为n个路段，将时间等间隔划分，建立空间对应关系；然后将所在的空间地理区域划分网格，对网格进行取值；将取值作为像素产生对应的图片作为输入样本集，建立胶囊网络模型提取空间特征。搭建嵌套式长短时记忆神经网络模型，并将胶囊网络模型和嵌套式长短时记忆神经网络模型顺序连接，构成组合预测模型。利用输入样本集对组合预测模型进行训练及验证，构成最准确的预测模型。最后将测试集图片作为输入进行准确预测，得到未来某一时间段内路网的状态。本发明进行更为精准的预测，表现稳定，效率更高。