递归神经网络

摘要： 为加强原始训练数据的传输安全性,实现对信息应用文件的及时性编码,设计基于递归神经网络的原始训练数据防泄漏密码生成系统。以递归神经网络框架作为数据信息的基层传输依据条件,借助训练数据收发器与信息防泄漏加密模块,实现密码生成系统的硬件执行环境搭建。在此基础上,通过建立源码文件、译码文件的方式,确定与原始训练数据相关的防泄漏信息编码原则,完成密码生成系统的软件执行环境搭建,联合相关硬件设备结构体,实现原始训练数据防泄漏密码生成系统的顺利应用。对比实验结果表明,所设计系统可同时处理的原始训练数据总量更大,但所需的译码等待时间却相对更短,可大幅增强训练主机对于信息应用文件的编码及时性。

摘要： 针对非线性电路网络系统中的特殊系统—递归神经网络系统,本文拟采用事件触发间歇控制策略研究递归神经网络的有限时间同步问题.首先,根据有限时间间歇控制的理论推导过程,提出事件触发间歇控制规则;其次,提出间歇控制器,利用Lyapunov稳定性方法以及一些不等式技巧,得到了实现驱动-响应神经网络系统的有限时间同步的充分条件,并排除了Zeno行为;最后,通过数值实例验证了所提控制策略的有效性.

摘要： [目的/意义]文本情感分类作为自然语言处理领域中一个重要的研究方向,具有十分重要的商业价值和社会价值。然而传统的情感词典法和机器学习技术由于算法性能差以及处理规模小等缺点,已不能满足准确度和效率要求,文本情感分类需要更前沿的技术。研究者们将深度学习技术运用于文本情感分类领域中,取得了前所未有的效果。该方法在准确度和效率方面均有很大地提升,且适用性更强。[方法/过程]利用CiteSpace软件,对我国2014-2020年间发表的基于深度学习的文本情感分类论文从发文量年代分布、学科分布、机构分布、作者分布、关键词词频统计及聚类、关键词演化过程六个方面进行分析,并总结出深度学习网络模型在文本情感分类中的四大研究热点:卷积神经网络、长短时记忆网络、门控循环单元及注意力机制。[结果/结论]认为未来可关注以下几个方向:深度学习模型的进一步优化;情感粒度的细分;与新的技术和研究方法交叉结合,使分类准确率及效率进一步提升。

摘要： 针对钢包连铸过程中需要精确控制下渣时刻的问题,提出一种基于局部加权回归和长短时记忆(LSTM)神经网络模型的连铸下渣预测系统。该系统对下渣过程中采集到的信号进行处理和识别,可准确预测下渣时刻。结合某钢厂的实际生产情况,在采集到的大量钢包下渣相关参数中,提取主要特征;使用局部加权回归对数据进行过滤处理,再结合LSTM建立下渣预测模型;给出LSTM模型与ARIMA模型、RNN模型的预测结果比较。研究结果表明,长短时记忆神经网络模型的预测误差小,预测准确度较高,具有广泛的应用前景。

摘要： 网络入侵检测是网络安全领域的重要课题,传统的机器学习检测算法以特征提取和特征分离为基础,存在检测能力不足和误报率高等问题。本文提出一种基于深度学习的网络入侵检测模型IDNet。其综合考虑流量数据中的空间特征和时间特征。首先使用卷积神经网络(CNN)提取流量数据的空间特征,然后通过递归神经网络(RNN)提取流量数据的时间特征,通过堆叠CNN+RNN模块,并逐步增加学习粒度,达到同时有效提取空间特征和时间特征的目的。试验结果表明,所提算法检测准确率和误报率均优于传统机器学习算法。

摘要： 面向校园驾驶场景,提出一种综合性能表现较好的通用车道线检测算法,即局部定位检测法。首先,采用经典图形学与基于噪声容忍的递归神经网络的学习模型相结合的方法,完成车道线所在局部区域的检测,对目标车道线的灰度图像进行霍夫变换和灰度拉伸,设计递归神经网络学习模型,以梯度数据作为引导,对算法模型训练学习,以排除梯度信息相似的干扰物,并识别几何属性相关的不完整车道线形态,进而完成补全工作,应用稀疏惩罚,设计具有噪声容忍的递归学习模型,最大效率地利用具有被污染数据标注的自建车道线图像数据集,以此为基础,采用深度强化学习方法,通过6个标识点对目标车道线进行精确定位,并基于6个准确的定位点,检测和绘制车道线。

摘要： 研究了基于神经动态优化的综合能源系统(Integrated energy systems,IES)分布式多目标优化调度问题.首先,将IES元件单元(包含负荷)作为独立的决策主体,联合考量其运行成本和排放成本,并计及多能源设备间的传输损耗,提出了IES多目标优化调度模型,该模型可描述为一类非凸多目标优化问题.其次,针对此类问题的求解,提出了一种基于神经动力学系统的分布式多目标优化算法,该算法基于动态权重的神经网络模型,可以解决不可分离的不等式约束问题.该算法计算负担小,收敛速度快,并且易于硬件实现.仿真结果表明,所提算法能同时协调综合能源系统的经济性和环境性这两个冲突的目标,且获得了整个帕累托前沿,有效降低了综合能源系统的污染物排放量和综合运行成本.

摘要： 针对中长期电力负荷预测受限于天气、温度、节假日等多重不确定性因素影响而精度不高的难题,本文采用一种基于液体时间常数的递归神经网络,实现了中长期电力负荷的精准预测,为电力系统规划设计奠定较好基础.基于液体时间常数的递归神经网络使用膜积分器改进了神经元的状态方程,并使用半隐式欧拉算法完成对神经元状态迭代更新,解决递归神经网络的自我修正能力弱和易陷入局部最优的问题.本文以天气、温度、节假日等外在影响因素作为网络输入,构建了以递归神经网络为基础架构的中长期电力负荷预测模型,并通过隐藏层的扩展计算获得输入-输出的映射关系,以通过时间的反向传播算法实现对模型的训练,完成对神经网络参数的优化.实验中,以北方某地区的实际电网数据为例,验证该预测方法的准确性与高效性.研究结果发现,基于液体时间常数的递归神经网络对中长期电力负荷的预测准确率可达到95.3%.本模型相较于长短期记忆和连续时间递归神经网络具有更稳定的训练结果与更高的预测准确度.

摘要： 为了更好地控制全海深载人潜水器,对全海深载人潜水器“奋斗者”的控制分配进行研究,该文提出一种基于递归神经网络的控制分配方法。首先根据推进器的空间布置,建立六自由度的推力模型;其次设计代价函数,将控制分配问题转化为凸优化问题;最后设计递归神经网络求解优化问题,并采用FPGA实现该递归神经网络。仿真结果表明,该方法能有效地处理推进器约束且实时性较好。

摘要： 在智能制造车间中,自动导引车是实现制造业自动化的关键设备之一,合理调度自动导引车能够有效提高制造业自动化生产效率。为了确保自动导引车调度效果,缩短自动导引车调度路径长度,提高自动导引车调度效率。研究了面向智能制造车间的自动导引车调度优化算法。以自动导引车行驶距离最短为目标函数,构建自动导引车调度优化模型。采用递归神经网络,对自动导引车调度优化模型进行求解。在此基础上,利用模拟退火算法,实现自动导引车调度优化。实验结果表明,所提算法的自动导引车调度路线最短,自动导引车调度优化路径长度为988m,调度优化时间为38.4s,具有较好的自动导引车调度优化效果,能够有效提高调度优化效率。

摘要： 电池的SOC估计是电池管理系统的最重要的功能之一,是对电动汽车行驶里程的量化评估.由于复杂的电池动态和环境条件,现有的数据驱动电池状态估计技术无法准确估计电池状态.为了克服这个问题,本文通过结合递归神经网络建模和基于粒子滤波的误差消除提出了一种新的SOC估计方法.首先,采用具有长短时间记忆的递归神经网络来学习电池SOC与锂离子电池的可测量变量(例如电流、电压和温度)之间的长期非线性关系.其次,采用粒子滤波对神经网络模型的估计误差进行去噪,来平滑估计结果.本文所提出的方法是无模型的并且能够捕获可测量变量和电池状态之间的长期依赖性.最后,通过在随机工况和不同温度下与传统数据驱动方法比较来验证所提出方法的优越性.

摘要： 密码已经成为了目前最常用的验证手段.除了常用的字段,每个用户在设置密码时总是会以某一种形式来组合密码.使用字典暴力破解通常不可实现,这就使得密码猜测成为新的研究方向.目前成熟的技术,例如马尔科夫模型和概率上下文无关文法,都是基于统计概率,运算量非常大,耗时长.本文使用递归神经网络来训练密码.通过尝试各种网络模型,得到命中率最高的模型.同时交叉测试从各个网站泄露出的密码训练出的结果,发现网站间的密码特征拥有共性,存在跨站攻击的可能.最后本文给出一种有针对性的、耗时短、资源消耗少,且准确率更高的密码猜测方案.

摘要： 由于磁流变弹性体的刚度和阻尼在外加磁场下实时可控,因此,磁流变弹性体隔振器在振动控制领域具有广阔的应用前景.在振动控制中,磁流变弹性体隔振器的精确模型起着十分重要的作用,然而,现有的参数化建模方法需要辨识大量的参数且其相应的逆模型不易获得.因此,本文采用了非参数化的神经网络模型以描述磁流变弹性体隔振器所具有的非线性和滞回特性.基于测试剪切-压缩混合工作模式磁流变弹性体隔振器的动力学特性所获得的实验数据,建立了一个三层结构的NARX递归神经网络模型,以描述隔振器输入输出之间的关系.同时,考虑到在实际振动控制应用中,输入信号中难免存在噪声干扰,因此,通过测试含噪声的输入信号验证了该网络的鲁棒性,此外,通过与BP网络的对比,证明了该模型的有效性和优越性.

摘要： 针对超声波电机的速度控制,本文提出使用基于递归神经网络和Lyapunov稳定性的控制算法,可以在一定程度上反映超声波电机的输入输出非线性关系.伺服系统的控制部分由递归神经网络辨识器(RNNI)和递归神经网络控制器(RNNC)组成.由于递归神经网络可以在线调整其参数值,因此当电机运行参数发生变化时,可以通过改变神经网络辨识参数来实现速度的快速跟踪,并通过Lyapunov稳定性进行控制参数调整.实验表明,使用递归神经网络和Lyapunov稳定性控制算法的伺服系统对超声波电机进行伺服控制,可以达到快速响应和高精度的控制效果.

摘要： 由于背景噪声,混响以及人声干扰等因素,远场语音识别任务一直充满挑战性.本文针对远场语音识别任务提出基于注意力机制和多任务学习框架的长短时记忆递归神经网络声学模型.模型中嵌入的注意力机制使其自动学习调整对扩展上下文特征输入的关注度,显著提升了模型对远场语音的建模能力.为进一步提高模型的鲁棒性,引入多任务学习框架,使其联合预测声学状态和干净特征.AMI数据集上的实验结果表明,与基线模型相比,引入注意力机制和多任务学习框架的LSTM模型获得了绝对1.5％的词错误率下降.

摘要： 韵律层级的预测是影响合成语音自然度的关键因素之一.本文提出了一种基于递归神经网络(Recurrent neural Network,RNN)的韵律层级预测模型并加入了词向量(word2vec)作为语义特征.实验表明,基于该算法的F-score较传统的机器学习方法有一定的提升,同时词向量特征可以较好的适应递归神经网络模型.还将深度学习的结果和传统模型进行了融合,在此基础上提出了基于概率网络搜索的韵律层级多样性模型,在多人标注的语料中进行检验.检验结果表明,该方法可以较好的描述韵律层级的多样性.最后结合各种模型的结果,对特征进行了分析排序.

摘要： 本文提出了一种基于深度BLSTM(bidirectional long short-term memory)的语音驱动面部动画合成方法.BLSTM是一种特殊的递归神经网络(recurrent neural network,RNN),能够有效地对语音的长时上下文进行建模.本文利用说话人的音视频双模态信息训练BLSTM-RNN神经网络,采用主动外观模型(active appearance model,AAM)对人脸图像进行建模,将AAM模型参数作为网络输出.本文研究了网络结构、不同语音特征输入对动画合成效果的影响.基于LIPS2008标准评测库的实验表明,具有BLSTM层的网络效果明显优于前向网络,基于BLSTM-前向-BLSTM256节点(BFB256)的三层模型结构的效果最佳,FBANK和基频、能量组合可以进一步提升动画合成效果.

摘要： 随着大数据时代的到来,图像的数量规模急剧增加,由于图像包含丰富的语义信息成为大众获取相关信息的重要来源.基于深度模型的图像语义分析就是一种通过深度模型将图像内容转换成可直观理解的语义知识的技术,从而受到国内外研究者广泛关注.该技术根据生成目标语义层次差异可分标签、语句和段落三类,本文详细介绍了以上三类方法对应的深度模型结构特点,并从技术的演化趋势出发对比分析了三类方法的应用场景、技术特点和发展现状;同时针对图像语句转换以及图像段落转化方法的应用场景与性能要求的差异,分别从学术界和产业界进行了详细的对比分析,指出了二者在研究侧重点的差异与对应的发展现状.最后本文对具有深度模型的图像语义分析方法进行了总结和展望,指明了该技术当前存在的问题与发展趋势.

摘要： 随着大数据时代的到来,图像的数量规模急剧增加,由于图像包含丰富的语义信息成为大众获取相关信息的重要来源.基于深度模型的图像语义分析就是一种通过深度模型将图像内容转换成可直观理解的语义知识的技术,从而受到国内外研究者广泛关注.该技术根据生成目标语义层次差异可分标签、语句和段落三类,本文详细介绍了以上三类方法对应的深度模型结构特点,并从技术的演化趋势出发对比分析了三类方法的应用场景、技术特点和发展现状;同时针对图像语句转换以及图像段落转化方法的应用场景与性能要求的差异,分别从学术界和产业界进行了详细的对比分析,指出了二者在研究侧重点的差异与对应的发展现状.最后本文对具有深度模型的图像语义分析方法进行了总结和展望,指明了该技术当前存在的问题与发展趋势.

摘要： 随着大数据时代的到来,图像的数量规模急剧增加,由于图像包含丰富的语义信息成为大众获取相关信息的重要来源.基于深度模型的图像语义分析就是一种通过深度模型将图像内容转换成可直观理解的语义知识的技术,从而受到国内外研究者广泛关注.该技术根据生成目标语义层次差异可分标签、语句和段落三类,本文详细介绍了以上三类方法对应的深度模型结构特点,并从技术的演化趋势出发对比分析了三类方法的应用场景、技术特点和发展现状;同时针对图像语句转换以及图像段落转化方法的应用场景与性能要求的差异,分别从学术界和产业界进行了详细的对比分析,指出了二者在研究侧重点的差异与对应的发展现状.最后本文对具有深度模型的图像语义分析方法进行了总结和展望,指明了该技术当前存在的问题与发展趋势.

摘要： 一种神经网络单元，包括随机存取存储器，输出缓冲器与神经处理单元阵列。神经处理单元阵列执行以下步骤：从输出缓冲器读取对应于第一时间步骤的内容层节点数值；从随机存取存储器读取对应于第二时间步骤的输入层节点数值；依据此输入层节点数值以及前述内容层节点数值产生关联于第二时间步骤的隐藏层节点数值并输出至输出缓冲器；从输出缓冲器读取此隐藏层节点数值，并依此产生内容层节点数值输出至输出缓冲器；利用对应前述隐藏层节点数值，产生输出层节点数值并将其写入随机存取存储器；以及在一系列时间步骤中重复前述步骤。

摘要： 本文中所描述的实例包含包含具有用自干扰噪声计算器的全双工补偿的实例的无线装置和系统的系统和方法。所述自干扰噪声计算器可耦合到无线装置的天线，并且被配置成产生补偿自干扰的经调整信号。所述自干扰噪声计算器可包含处理元件网络，其被配置成根据输入数据而将发射信号组合成中间结果以及所述中间结果的延迟版本。每一中间结果集合可在所述自干扰噪声计算器中组合，以产生对应经调整信号。所述经调整信号由对应无线接收器接收，以补偿由在与所述无线接收器正接收的频带相同的频带上发射的无线发射器产生的自干扰噪声。

摘要： 一种神经网络单元，包括随机存取存储器，输出缓冲器与神经处理单元阵列。神经处理单元阵列执行以下步骤：从输出缓冲器读取对应于第一时间步骤的内容层节点数值；从随机存取存储器读取对应于第二时间步骤的输入层节点数值；依据此输入层节点数值以及前述内容层节点数值产生关联于第二时间步骤的隐藏层节点数值并输出至输出缓冲器；从输出缓冲器读取此隐藏层节点数值，并依此产生内容层节点数值输出至输出缓冲器；利用对应前述隐藏层节点数值，产生输出层节点数值并将其写入随机存取存储器；以及在一系列时间步骤中重复前述步骤。

摘要： 本发明公开了基于递归复杂网络和卷积神经网络的房颤检测方法，包括：对心电信号进行降噪处理；采用模板匹配法消除心电信号中的QRS波群；通过递归复杂网络分析消除QRS波群后的心电信号以获取底层特征，具体包括通过时间延迟法对心电信号进行相空间重构、确定嵌入维度d、基于相空间里的任意两个向量点之间距离构造出递归矩阵R；将所述底层特征输入至卷积神经网络，进而判断是否为房颤。本方法与RR间期无关，使房颤检测不与其他心律失常疾病相混淆；可以很好的提取心房活动信号特征。递归复杂网络可以提取鲁棒的底层特征；使用卷积神经网络自动获取高层特征，完全利用了递归矩阵中所蕴含的房颤特征，检测结果正确率高。

摘要： 本实用新型公开了一种递归网络拓扑数模混合神经网络电路，包括呈圆周状排列的n个神经节点、主控制器模块、n个寄存器模块以及n个多路复用器模块，所述每个神经节点都有一个与之对应的多路复用器模块，每个多路复用器模块都有一个与之对应的寄存器，所述主控制器模块的输出端与所述寄存器模块的输入端连接，所述寄存器模块的输出端分别与n个多路复用器模块的控制端连接，每个所述神经节点通过对应的多路复用器模块与其它神经节点实现互连，其中n为大于1的自然数。所述神经网络电路不仅可以实现递归网络拓扑结构，而且可以模仿生物神经突触可塑性实现多种突触可塑机制，并且可以模仿生物体内的蛋白调控神经网络实现多种蛋白调控机制。

摘要： 输出缓冲器装载N个文字分配至N/J个互斥输出缓冲文字群组内。N个处理单元分配至N/J个相对应的互斥处理单元群组。处理单元包括第一与第二多任务缓存器，累加器与算术单元。多任务缓存器包括J+1个输入，其中的第一输入从存储器接收操作数，其它输入接收相对应输出缓冲文字群组的文字。累加器提供其输出至相对应输出缓冲文字群组。算术单元对各个多任务缓存器与累加器输出执行运算以产生结果累加至累加器。输出缓冲器包括屏蔽输入控制其中那些文字维持其原本数值或以其相对应累加器输出更新。处理单元群组作为时间递归神经网络的长短期记忆胞运作。

摘要： 本文所描述的实例包含可针对非线性功率放大器噪声补偿输入数据以产生补偿输入数据的方法、装置和系统。在补偿所述噪声时，在上行链路发射时间间隔(TTI)期间，激活交换路径以将放大输入数据提供到包含递归神经网络(RNN)的接收器级。所述RNN可部分地基于待发射的所述输入信号和反馈信号计算表示所述噪声的误差以产生与所述功率放大器噪声相关联的滤波器系数数据。在通过所述接收器进行处理之后，将所述反馈信号提供到所述RNN。在上行链路TTI期间，所述放大输入数据还可经由RF天线作为RF无线发射来发射。在下行链路TTI期间，所述交换路径可被取消激活，并且所述接收器级可接收待在所述接收器级中处理的额外RF无线发射。

摘要： 本文所描述的实例包含包括具有以递归神经网络进行多频带发射的实例的无线装置和系统的系统和方法，所述递归神经网络补偿由功率放大器在相应无线接收器的谐波频率下产生的自干扰噪声。所述递归神经网络可耦合到无线装置的天线且经配置以产生补偿自干扰的经调整的信号。所述递归神经网络可包含经配置以将发射信号组合为中间结果集合的处理元件的网络。每一中间结果集合可在所述递归神经网络中求和以产生对应经调整信号。所述经调整信号可由对应无线接收器接收，以补偿由在与所述无线接收器进行接收的频带相同或不同的频带上进行发射的无线发射器产生的自干扰噪声。

摘要： 本发明公开了一种结合卷积神经网络和概念机递归神经网络的图像分类方法，包括步骤：1)搭建并训练Resnet50残差神经网络；2)搭建概念机递归神经网络；3)将Resnet50残差神经网络结构和概念机递归神经网络进行融合；4)把图像的训练样本集输入融合后的神经网络；5)对于储备池状态序列x(1),…x(L)，构建代价函数；6)通过训练样本的每类图像得到概念机；7)对于每一类图像计算反向概念机；8)计算出测试样本所属的图像类别。本发明不仅可利用卷积神经网络的迁移学习把已学好的模型参数迁移到新的模型来帮助新模型训练，还可以利用概念机递归神经网络进行增量式的学习识别新的图像而不必对已学习的图像进行重复学习和训练。

摘要： 输出缓冲器装载N个文字分配至N/J个互斥输出缓冲文字群组内。N个处理单元分配至N/J个相对应的互斥处理单元群组。处理单元包括第一与第二多任务缓存器，累加器与算术单元。多任务缓存器包括J+1个输入，其中的第一输入从存储器接收操作数，其它输入接收相对应输出缓冲文字群组的文字。累加器提供其输出至相对应输出缓冲文字群组。算术单元对各个多任务缓存器与累加器输出执行运算以产生结果累加至累加器。输出缓冲器包括屏蔽输入控制其中那些文字维持其原本数值或以其相对应累加器输出更新。处理单元群组作为时间递归神经网络的长短期记忆胞运作。