进化神经网络

摘要： 电力信息网面临着日益严峻的网络攻击风险威胁,传统网络安全态势量化方法仅从网络性能角度进行分析,忽略了各种电力应用业务的重要性对安全态势的影响,导致量化结果难以全方位反映电力信息网络风险状态。文中提出一种基于进化神经网络的电力信息网安全态势量化方法,首先,通过分析电力通信网络应用业务特点,设计面向电力通信网的安全态势体系架构(PIN-NSSQ);其次,从网络可靠性、威胁性、脆弱性3个维度出发,结合电力业务重要性,建立耦合互联的空间要素指标体系,并实现关键要素指标的数学化表征;然后,将遗传进化算法优化的BP神经网络融入要素指标计算过程中,构建基于进化神经网络的电力信息网安全态势量化模型,有效实现对电力信息网络安全态势全面感知过程的高效计算及结果精确量化;最后,根据某电力部门网络拓扑搭建仿真实验环境,验证了所提方法的有效性和鲁棒性。

摘要： 卷积神经网络具有较优的图像特征提取性能,被广泛应用于交通标志识别领域。然而,现有交通标志识别算法通常基于专家经验设计改进的图像特征提取网络,需经历图像预处理和模型调参过程,导致模型的复杂度增大。提出一种基于进化ResNet的交通标志识别算法。将ResNet的构建参数嵌入到进化算法中,在架构搜索空间中以构建块作为基本单位,并将网络深度、卷积层通道数、池化层类型和模块构建顺序作为搜索空间的可变参数,利用交叉、变异等遗传算子执行自适应优化搜索,以确保进化搜索的有效性,同时设计适用于交通标志识别的轻量化网络。在德国交通标志数据集上的实验结果表明,该算法的识别精度达到99.41%,而参数量仅为2.37×10^(6),相比Multi-column DNN、MFC、MFC+ELM等算法,在保证识别精度的同时减少网络参数量。

摘要： 自动化深度学习是目前深度学习领域的研究热点,神经架构搜索算法是实现自动化深度学习的主要方法之一,该类算法可以通过对搜索空间、搜索策略或优化策略进行不同定义来自动设计神经网络结构.阐述进化算法和进化神经网络的发展历程,分类介绍以进化算法为搜索策略实现神经架构搜索的方法和过程,并比较基于进化算法的不同神经架构搜索算法的特点和现状,在此基础上,对神经架构搜索算法的搜索空间、搜索策略以及算法的未来发展方向进行探讨和展望.

摘要： 在马蹄焰窑炉的燃烧过程中,包含了一套复杂的工艺流程,窑炉的热效率会随着工况发生变化.针对影响燃烧的因素复杂、不确定性高,以及传统的梯度下降的优化方法有可能陷入局部最优等问题,提出了基于进化神经网络ES-LSTM的马蹄焰玻璃窑炉热效率预测模型.利用进化策略,将神经网络的连接权值不断变异进化,寻找更优的神经网络连接权值,从而达到优化LSTM的目的.实验结果表明,ES-LSTM模型与传统的BP模型和LSTM模型相比,具有更好的预测精度,证明了其可行性.

摘要： 加工变形的合理分析与精准控制可实现铣削过程的高效化和精密化.因此,首先依据实际的加工工况,建立了薄壁件铣削过程的有限元分析模型,通过薄壁T形件的铣削加工,验证了有限元仿真值与实验数据之间的吻合性.其次,利用正交实验设计方法和有限元方法获得输入样本与训练样本,通过将训练样本的预测误差作为适应度函数,采用遗传算法得到加工变形的进化神经网络模型,利用有限元仿真值比较表明进化神经网络的预测误差不超过6％.最后,以最小的加工变形为目标建立了刀具几何参数的优化模型,并依据加工变形越小染色体越健壮的原则,提出了刀具几何参数的遗传算法解算方法.在提高铣削变形计算效率的基础上,能够实现薄壁件铣削刀具的合理设计与选择.

摘要： 密封圈是液压支架关键零部件之一,性能的稳定性直接影响液压支架的安全使用,液压支架密封圈的老化寿命是评价液压支架密封性的重要指标.通过进化神经网络算法对液压支架密封圈老化寿命试验数据进行学习训练,建立液压支架密封圈老化寿命预测模型,通过检测样本检验了预测模型的精度,证明了所建立的模型有较好的预测能力.

摘要： 露天矿边坡位移的产生和发展对矿山的安全生产至关重要，本文应用进化神经网络算法，对监测得到的边坡位移数据进行建模，分析预测边坡变形发展的规律和趋势，为边坡治理提供可靠依据。

摘要： 研究了进化神经网络技术，并采用进化神经网络模拟结构重要几何尺寸与载荷的分散性对危险应力的影响，考虑疲劳影响因素的随机性，运用Monte-Carlo方法仿真疲劳横向应力的分布，以获得结构的P-Sa-Sm-N曲面方程，并利用MTPMiner准则理论进行疲劳可靠性分析。实例表明该方法可以用于随机载荷下复杂结构的疲劳可靠性分析。

摘要： 分析了含裂结构三维裂纹扩展的主影响因素及其分布形式,建立结构功能函数和可靠性模型。研究进化神经网络技术,将遗传算法和神经网络结合起来,模拟隐性的非线性结构功能方程,通过重抽样方法,进行寿命可靠性分析。以扭力轴表面裂纹为实例,进行可靠性仿真,获得不同可靠度的裂纹扩展寿命,并讨论各种随机因素的影响关系。仿真结果与实际情况比较吻合。

摘要： 研究了进化神经网络技术，并采用进化神经网络模拟结构重要几何尺寸与载荷的分散性对危险应力的影响，考虑疲劳影响因素的随机性，运用Monte-Carlo方法仿真疲劳横向应力的分布，以获得结构的P-Sa-Sm-N曲面方程，并利用MTPMiner准则理论进行疲劳可靠性分析。实例表明该方法可以用于随机载荷下复杂结构的疲劳可靠性分析。

摘要： 在复杂气识别中,单纯使用神经网络存在因输入信息空间维数较大而使网络结构复杂、训练时间长,以及因冗余属性使网络拟合精度不高等缺点,为此提出一种简化的进化神经网络方法,主要包括基于粒度相似度的连续属性离散化算法;基于粗糙集的属性约简算法;基于粒子群进化计算的网络学习训练算法;以及基于黄金分割的隐含层节点数的优选等步骤.通过长庆复杂气层的实际应用表明,这种简化的进化神经网络方法不仅满足识别系统的精度要求,而且起到节省成本、提高处理速度等功效,其效果远优于BP算法、改进BP算法和LM算法。

摘要： 上海地区软土具有高压缩性和易塑流等特性，在盾构机的挤压和不当施工扰动下将会引起较大的土层移动和地表隆陷。以盾构施工实测位移资料为学习样本，通过遗传算法搜索具有最优预测效果的神经网络结构及学习参数。利用获得的进化神经网络在小样本训练情况下建立模型，对下一步施工的地表变形进行合理的预测。对上海市某盾构隧道的施工地表变形预测表明该模型可获得较高预测精度。

摘要： 冲击地压是一种危害很大的矿山灾害之一。理论研究表明，冲击地压实质为一种矿山岩体的动力现象，是矿山开采带来的一种动力学灾害。考虑到冲击地压的动力学特点，采用基于免疫进化规划的进化神经网络，进行了冲击地压非线性系统的建模研究。并采用一个矿山实测得到的震级数列，进行了进化神经网络方法的实用性验证，结果表明，进化神经网络，不但模型拟合精度高，而且，其预测性能也较好，是一种进行冲击地压非线性系统建模的较好方法。

摘要： 针对简单遗传算法收敛速度慢、易早熟的缺点,从编码、初始群体生成及遗传算子等方面对其进行了改进,提出了一个收敛速度快、性能良好的算法,并通过仿真实验证明了该算法的性能.把该算法用于神经网络的结构及学习参数的进化学习,建立了一个进经神经网络模型.最后,用该模型对巷道围岩松动圈厚度进行了预测研究,结果证明,该进化神经网络模型拟合性能及推广预测性能均令人满意.

摘要： 在分析溪沟口滑坡工程地质概况及形成机理的基础上,采用传递系数法和有限元法对其进行了稳定性评价。结果表明,该滑坡稳定性达不到安全标准,必须进行加固治理。根据溪沟口滑坡特点及稳定状况,采用抗滑桩结合地表排水对该滑坡进行综合治理。在传递系数法结合有限单元法计算结果的基础上,构造出一定数量的抗滑桩加固方案,分别计算其治理后的稳定性和工程造价,以此作为进化神经网络的学习样本,建立设计参数与稳定性及治理方案造价之间的非线性映射关系,利用遗传算法在全局范围内快速搜索出最优的设计参数,选择合理的滑坡治理方案。最后利用有限元法对滑坡体治理前后的稳定状况进行分析,对所提出的优化治理方案进行稳定性验算,结果表明,优化方案能够达到滑坡治理的设计要求,治理效果明显。

摘要： 位移预测对岩土工程稳定性具有重要的实用意义,近来软科学方法得到了广泛重视及应用.本文对常用软科学方法-灰色系统、时序分析及神经网络进行了系统分析研究,并提出了一种新型预测方法-进化神经网络法.最后,通过工程实例验证了理论分析的结果.

摘要： 本发明提供一种不需要偏置的神经网络电路装置、神经网络、神经网络处理方法和神经网络的执行程序。二值化神经网络电路(100)具有：输入输入值x1～xn(xi)(二值)的输入节点和输入权重w1～wn(wi)(二值)的输入部(101)；XNOR门电路(102)，其接收输入值x1～xn和权重w1～wn，且进行XNOR逻辑运算；求和电路(103)，其求出各XNOR逻辑值的总和；批归一化电路(41)，其通过扩大归一化范围且使中心位移的处理来修正由二值化导致的分布不平衡；和激活函数电路(35)，其使用激活函数fsgn(B)对信号B进行转换，其中所述信号B是对求出总和之后的信号Y进行批归一化得到的信号。

摘要： 本发明提供一种无需批归一化电路的神经网络电路装置、神经网络、神经网络处理方法及神经网络的执行程序。二值化神经网络电路(100)具备：输入输入值x1～xn(xi)(二值)的输入节点及输入加权w1～wn(wi)的输入部(101)、接收输入值x1～xn及加权w1～wn并采用XNOR逻辑的XNOR门电路(102)、输入多位偏置W'的多位偏置W'输入部(110)、取各XNOR逻辑值和多位偏置W'的总和的求和电路(103)及对于取总和后的信号Y仅输出符号位的激活电路(120)。

摘要： 本发明提供了基于自适应微分进化算法优化小波神经网络的短期网络流量预测方法，包括以下步骤：步骤1：数据预处理，将数据集拆分成训练样本和测试样本；步骤2：初始化小波神经网络WNN结构及自适应微分进化算法ADE种群大小NP、最大进化代数G、初始变异概率F0、交叉因子CR的参数；本发明在小波神经网络修正参数的步骤中增加动量项；同时采用自适应微分进化算法(ADE)生成小波神经网络初始连接权值、小波系数及动量项系数，通过优化调整WNN参数初始化的策略，建立了基于自适应微分进化算法优化小波神经网络(ADE‑WNN)的模型，经过优化改进的小波神经网络模型，收敛速度更快，预测精度也更高且具有很好的稳定性，可以有效地预测未来短期的网络流量数据。

摘要： 本发明提高数据并行型分散学习的吞吐量。神经网络系统具有存储器和访问存储器的多个处理器，多个处理器中的每一个处理器在多次学习中的每一次学习中，基于训练数据的输入和神经网络内的参数执行神经网络的运算来计算神经网络的输出，计算计算出的输出与训练数据的教师数据的差分相对于参数的梯度或者基于梯度的更新量，(1)在梯度或者更新量的累积不小于阈值的第一情况下，执行多个处理器将分别计算出的多个梯度或者更新量的累积发送到多个处理器内的其它的处理器来汇集多个梯度或者更新量的累积，接收汇集后的梯度或者更新量的累积，用汇集后的梯度或者更新量的累积更新参数的第一更新处理，(2)在梯度或者更新量的累积小于阈值的第二情况下，执行多个处理器不进行基于发送的多个梯度或者更新量的累积的汇集，用多个处理器分别计算出的梯度或者更新量更新各自的参数的第二更新处理。

摘要： 本公开涉及训练神经网络的方法、训练神经网络的系统以及神经网络。一种用于训练第一神经网络，以在图像输入到第一神经网络时，检测在该图像上可见并且属于给定对象类别的对象的视点的方法，包括：提供不同视点下的多对图像的数据集，提供被配置成能够得出对象的外观信息的第二神经网络，提供被配置成能够使用外观信息和视点，得出所述类别的对象的合成图像的第三神经网络，联合训练第一神经网络、第二神经网络和第三神经网络。

摘要： 根据本发明的分布式处理用人工神经网络运算加速装置可以具有：外部主存储器，存储针对输入神经元的输入数据和突触权重；内部缓冲存储器，存储构成所述人工神经网络运算的各个循环所需的突触权重和输入数据；DMA模块，用于与所述外部主存储器及内部缓冲存储器直接发送和接收数据；神经网络运算装置，针对构成人工神经网络运算的各个循环重复地处理以下一系列顺序过程：读取存储在所述内部缓冲存储器的突触权重和输入数据、执行人工神经网络运算、将运算结果存储在所述外部主存储器；CPU，用于控制在所述外部主存储器和内部缓冲存储器存储针对输入神经元的输入数据和突触权重的操作和所述神经网络运算装置的运行；及通用通信中介块，可以与无关集成电路的类型地以物理方式连接的其他加速装置发送和接收针对所述输入神经元的输入数据和突触权重以及在所述神经网络运算装置执行的运算结果。

摘要： 本发明公开了一种神经元分支进化的BP神经网络风速预测方法，包括获取风电场的历史气象数据；构建风速影响特征因子；对所述的历史气象数据进行预处理，包括相关性分析，输入变量选取和归一化处理；建立BP神经网络模型，使用所述的预处理后的历史气象数据对所述的BP神经网络模型进行训练，在训练过程中采用分组进化的思想，结合利用差分操作和萤火虫算法进化神经网络模型中的参数种群；获取所述风电场的现实气象数据，将现实气象数据输入神经网络中，计算出预测的风速值。本发明通过以隐含层神经元为分支基准实现分组优化，判断分组效果后以全局优化为补充，故本发明较传统方法计算复杂度相对更低，且预测准确度更高。

摘要： 本发明公开了一种进化神经网络的构建方法，包括：利用卷积层、反射填补层和批归一化层封装创建并初始化，N个网络染色体的网络染色体种群；计算并获得网络染色体种群中任一网络染色体的均方误差，并预设均方误差的阀值；采用两次松弛二进制竞赛选择算法选出两个父代网络染色体个体；对所述两个父代网络染色体个体进行对齐、交叉操作，得到两个子代网络染色体；选取任一子代网络染色体进行变异，直至得到N个网络染色体个体的子代种群；采用精英选择策略在N个网络染色体的网络染色体种群和N个网络染色体个体的子代种群中选出(N‑x)个网络染色体个体，并重复交叉、变异，得到N个优化子代种群，选出最优的网络染色体作为进化神经网络。

摘要： 本发明公开了一种神经元分支进化的BP神经网络风速预测方法，包括获取风电场的历史气象数据；构建风速影响特征因子；对所述的历史气象数据进行预处理，包括相关性分析，输入变量选取和归一化处理；建立BP神经网络模型，使用所述的预处理后的历史气象数据对所述的BP神经网络模型进行训练，在训练过程中采用分组进化的思想，结合利用差分操作和萤火虫算法进化神经网络模型中的参数种群；获取所述风电场的现实气象数据，将现实气象数据输入神经网络中，计算出预测的风速值。本发明通过以隐含层神经元为分支基准实现分组优化，判断分组效果后以全局优化为补充，故本发明较传统方法计算复杂度相对更低，且预测准确度更高。

摘要： 本发明涉及一种改进的基于超网络的进化神经网络架构搜索方法。包括以下步骤：步骤S1，以输入层为第一层，封装五个计算模块；步骤S2，将神经网络内部计算节点的连接二值化；步骤S3，为每个计算节点学习结构权值，步骤S4，采用二元锦标赛选择法，构建父代种群P。步骤S5，组成子代种群Q。步骤S6，对子代种群Q中的个体执行变异操作。步骤S7，子代种群Q中的每个个体解码为对应的神经网络，获得结构权值；步骤S8，将父代种群P和子代种群Q合并为种群R，采用环境选择法选出数个个体作为下一代的原始种群，并反馈至步骤S4，直到到达预定的最大进化代数。进化结束之后，将适应度值最高的个体作为最优的神经网络架构输出。