多层神经网络

摘要： 根据机器学习当中的理论方法,通过输入和输出数据设计,把信息融合领域的航迹关联问题,转换为机器学习领域中的分类识别问题,研究提出了一种深度学习航迹关联方法.仿真结果表明:所提方法在关联性能和自适应能力方面优于对比方法,具有较好的应用前景.

摘要： 针对页岩油藏焖井开发过程中,合理焖井时间难以确定、影响因素多、计算难度大等问题,开展了基于机器学习的页岩油藏合理焖井时间优化研究。基于Y区块268口压裂水平井物性与施工参数,进行了数值模拟合理焖井时间的循环优选计算,并生成机器学习数据集。利用支持向量回归、多变量线性回归以及多层神经网络方法,分别建立了合理焖井时间预测模型,输入参数包括11个主要物性与施工参数。测试结果表明,新模型计算的合理焖井时间具有较高精度,预测准确率最高可达到94%。通过对比可以得知,在该模型条件下,支持向量回归法的准确率明显高于其他两种方法,具有较高适用性。毛管力大小、入地液量以及原油黏度对合理焖井时间影响较大,相关系数分别为0.202,0.170和0.159,在焖井方案设计中应重点考虑。经过机器学习优化后,Y区块X-1生产井累产油增长了约8.5%。

摘要： 安保工作在高校日常管理中占有重要地位,传统视频监控主要进行视频录制,作为数据资料进行保存,一般在校园中无安全事件发生时,视频数据基本不会再使用,数据保存量相当大;当出现异常时,人工进行数据检视与排查,效率也很低。智能安保系统采用多层神经网络算法对视频数据进行分割、训练与预排查,并对人体行为进行分析,根据结果预测是否报警,过程无需人工干预,为高校安保工作带来及大便利。

摘要： 随着风电机组的广泛接入,其低电压穿越期间的响应特性对电网安全稳定运行的影响越来越显著。风电机组的低穿特性由其低穿控制参数决定,因此提出了一种适用于直驱风电机组的多层神经网络低穿控制参数辨识方法。首先,基于经典的M-P神经元模型和Sigmoid激活函数,结合直驱风机低穿控制一般模型,构建多层神经网络;然后,根据实际运行的直驱风机低穿试验数据和对应的低穿控制参数,构造多层神经网络的训练数据集,用标准BP算法训练得到多层神经网络模型;最后,通过对比某型号直驱风电机组的辨识结果曲线和低穿实测曲线,验证了所提多层神经网络低穿控制参数辨识方法的有效性。

摘要： 针对传统机器人关节控制算法跟踪精度低、鲁棒性差的缺点,基于自适应神经网络提出了一种机器人关节轨迹跟踪算法。算法由自适应神经网络和在线学习反馈模块组成,自适应神经网络将自适应函数同神经网络结合,提高了神经网络训练准确性。同时通过在线学习反馈模块实时更新非线性基函数的内部权值,以进一步减小跟踪误差。再采用时间尺度分离减少了神经网络和在线学习的耦合误差,使得内部权重低于输出层权重的更新速度,从而使模型结构能够迅速适应未知的动态变化与干扰。仿真实验表明,所提算法与对比算法相比误差值要低约60%,说明了该算法可以提高机器人轨迹跟踪精度,降低误差。

摘要： 目前收入核算模型无法填补缺失的数据,模型存在核算效率低和核算错误数高的问题。提出基于大数据分析的存在可变对价的收入核算新模型构建方法,采用随机森林回归算法填补缺失的数据,改进了随机森林回归算法,在可变对价条件下填补缺失数据,在多层神经网络中输入完整的数据,实现数据的降噪处理,最后在Alpha计算框架的基础上建立收入核算新模型。实验结果表明,所提方法构建的模型核算效率高、核算错误数少。

摘要： 多工况设备在工况变化时存在特征值跳动问题,给剩余寿命预测带来挑战.本文提出了一种多工况设备剩余寿命预测方法.首先给出了多工况设备健康状态数据的标准化方法,降低工况变化对特征值的波动影响;其次提出了一种设备健康指标多源数据融合方法,将多维健康特征融合成一维健康指标,该指标可以反映设备的退化态势;再利用滑动窗口方法构建了训练和测试时间序列样本.为了降低训练样本不均衡导致的过拟合影响问题,提出了一种KNN样本权重赋值方法;最后建立了多层BLSTM剩余寿命预测网络,为了增强网络的预测精度,加入了改进的Huber损失函数.C-MAPSS数据实验结果表明本文提出的多工况设备剩余寿命预测方法具有很好的预测效果.

摘要： 人工智能技术是当前计算机科学的研究热点,人机通信是人工智能技术的重要组成之一.作为人机通信主要方法之一的语音交互也一直是科学家的研究热点,语音交互技术的关键是语音识别.而目前大多语音识别软件要么功能单一,要么价格昂贵,Kaldi作为新兴的开源语音识别工具,凭借其强大的功能和简单的获取渠道逐渐流行.该文介绍了语音识别技术的发展历程,Kadli软件的基本架构和其所具有的独特优势,语音识别的一般处理流程,多层神经网络的基本结构以及多层神经网络在语音识别当中的应用.对基于Kaldi软件当中的HMM-DNN模型,使用中文数据集训练该模型,搭建一个完整的语音识别系统.通过该系统,不仅能展现出Kaldi软件丰富强大的功能,同时也为语音识别研究人员选择合适的工具提供了新的思路.

摘要： 炼焦生产过程中,配合煤作为主要原料,不仅决定着焦炭的质量,而且决定着炼焦企业的成本与利润.目前炼焦企业主要采用人工经验调整单种煤配比的方式进行配煤,缺乏科学的依据,难以实现高性价比的配煤方案,以优化炼焦配煤结构.文章以焦炭质量为约束条件,以配合煤成本价格为优化目标,采用人工神经网络预测焦炭质量,模拟退火算法优化单种煤配比.达到了降低配合煤成本、提高焦炭质量、降低冶金焦炭成本、提升企业效益的目的.

摘要： 为了解决大坝变形预测模型易陷入局部最优及不适用大规模数据等问题,采用一种快速高效的基于决策树的梯度提升框架LightGBM,并结合全局优化算法——贝叶斯优化进行大坝变形预测.为验证模型适用性,以两座实际混凝土坝工程为例分析,并与多元线性回归、支持向量回归机和多层神经网络等预测结果进行比较.结果表明,该模型均方根误差(RMSE)和平均绝对误差(MAE)等指标均优于其他方法,验证了该模型的可行性及优越性.LightGBM可对输入参数的重要性进行评估,对影响大坝变形的特征进行筛选,从而确定对大坝变形影响更显著的因素,为后续的安全评估工作提供参考.

摘要： 本文提出了一种控制多变量输出概率密度函数形状的模型.该模型首先采用多层神经网络逼近多输入输出系统的输出联合概率密度函数,得到关于输出概率密度函数的高阶静态模型.进而采用多层神经网络的一种结构型式--非线性主元分析法,对高阶模型降阶.在此基础上,考虑低阶系统的动态特性,提出了新的建立低阶模型的完整方法.

摘要： 采用可编程逻辑器件,从硬件上构造出BP算法,实现全硬件的基于频率调制的多层神经网络.该网络的全硬件实现电路主要采用了以下若干单元电路,包括数字频率合成器、计数器、投票电路、线性反馈移位寄存器、误差脉冲发生器和微分器等.此外,BP网络的外围电路有频率数据发生器,权值存储器,训练控制电路等.以上电路在实现技术中是成熟可行的,且均采用数字电路,适合于大规模数字集成实现.

摘要： 该文将多层神经网络的改进型并行递推预报误差（MPRPE）算法，应用于非线性过程的预测控制中。提出了一完整的非线性多步预测控制综合方法，在一典型连续搅拌反应釜（CSTR）对象的仿真研究中，显示了优良的稳定性，很好的跟踪及自适应性能。

摘要： 该文提出了一种神经网络的序贯学习算法（ＳＬＡ），它主要由一种有界自适应权值修正算法和结构自适应调整规则所组成，具有在给定初始知识，并且不对旧知识进行存储和重新处理的条件下，有效地学习新知识，以便不断扩充系统的知识、提高系统的智能和逐渐增强系统对变化环境的适应能力。

摘要： 本发明公开了一种融合图神经网络和多层级对比学习的神经网络序列推荐方法，包括以下步骤：1)基于所有用户的物品点击序列构建用户‑物品图、用户‑用户图和物品‑物品图；2)根据构建的图，采用图编码器初始化得到用户的特征表示矩阵以及物品的特征表示矩阵；3)序列视角下用户的兴趣表示；4)协同视角下用户的兴趣表示；5)兴趣层级的对比学习；6)获取最终特征层级的对比学习损失；8)在从序列视角和对比视角计算得到用户的兴趣表示之后，将它们进行结合得到用户的最终的兴趣表示，根据用户的最终的兴趣表示确定选择用户当前的兴趣；9)根据用户的当前的兴趣表示从所有候选集中选择top‑N个物品。本发明方法能提高序列推荐预测的准确性。

摘要： 在所公开的用于在神经网络系统中进行处理的方法和系统中，主机计算机系统(402)将与神经网络的多个层相关联的多个权重矩阵写入(602)到与神经网络加速器(238)共享的存储器(226)中。主机计算机系统还将多个每层指令组装(610)为指令封装。每个每层指令指定对神经网络的多个层中的相应层的处理以及共享存储器中权重矩阵的相应偏移。主机计算机系统将输入数据和指令封装写入(612，614)到共享存储器。神经网络加速器从共享存储器中读取(702)指令封装，并且处理(702‑712)指令封装的多个每层指令。

摘要： 本发明提供一种不需要偏置的神经网络电路装置、神经网络、神经网络处理方法和神经网络的执行程序。二值化神经网络电路(100)具有：输入输入值x1～xn(xi)(二值)的输入节点和输入权重w1～wn(wi)(二值)的输入部(101)；XNOR门电路(102)，其接收输入值x1～xn和权重w1～wn，且进行XNOR逻辑运算；求和电路(103)，其求出各XNOR逻辑值的总和；批归一化电路(41)，其通过扩大归一化范围且使中心位移的处理来修正由二值化导致的分布不平衡；和激活函数电路(35)，其使用激活函数fsgn(B)对信号B进行转换，其中所述信号B是对求出总和之后的信号Y进行批归一化得到的信号。

摘要： 本发明提供一种无需批归一化电路的神经网络电路装置、神经网络、神经网络处理方法及神经网络的执行程序。二值化神经网络电路(100)具备：输入输入值x1～xn(xi)(二值)的输入节点及输入加权w1～wn(wi)的输入部(101)、接收输入值x1～xn及加权w1～wn并采用XNOR逻辑的XNOR门电路(102)、输入多位偏置W'的多位偏置W'输入部(110)、取各XNOR逻辑值和多位偏置W'的总和的求和电路(103)及对于取总和后的信号Y仅输出符号位的激活电路(120)。

摘要： 本发明提高数据并行型分散学习的吞吐量。神经网络系统具有存储器和访问存储器的多个处理器，多个处理器中的每一个处理器在多次学习中的每一次学习中，基于训练数据的输入和神经网络内的参数执行神经网络的运算来计算神经网络的输出，计算计算出的输出与训练数据的教师数据的差分相对于参数的梯度或者基于梯度的更新量，(1)在梯度或者更新量的累积不小于阈值的第一情况下，执行多个处理器将分别计算出的多个梯度或者更新量的累积发送到多个处理器内的其它的处理器来汇集多个梯度或者更新量的累积，接收汇集后的梯度或者更新量的累积，用汇集后的梯度或者更新量的累积更新参数的第一更新处理，(2)在梯度或者更新量的累积小于阈值的第二情况下，执行多个处理器不进行基于发送的多个梯度或者更新量的累积的汇集，用多个处理器分别计算出的梯度或者更新量更新各自的参数的第二更新处理。

摘要： 本公开涉及训练神经网络的方法、训练神经网络的系统以及神经网络。一种用于训练第一神经网络，以在图像输入到第一神经网络时，检测在该图像上可见并且属于给定对象类别的对象的视点的方法，包括：提供不同视点下的多对图像的数据集，提供被配置成能够得出对象的外观信息的第二神经网络，提供被配置成能够使用外观信息和视点，得出所述类别的对象的合成图像的第三神经网络，联合训练第一神经网络、第二神经网络和第三神经网络。

摘要： 根据本发明的分布式处理用人工神经网络运算加速装置可以具有：外部主存储器，存储针对输入神经元的输入数据和突触权重；内部缓冲存储器，存储构成所述人工神经网络运算的各个循环所需的突触权重和输入数据；DMA模块，用于与所述外部主存储器及内部缓冲存储器直接发送和接收数据；神经网络运算装置，针对构成人工神经网络运算的各个循环重复地处理以下一系列顺序过程：读取存储在所述内部缓冲存储器的突触权重和输入数据、执行人工神经网络运算、将运算结果存储在所述外部主存储器；CPU，用于控制在所述外部主存储器和内部缓冲存储器存储针对输入神经元的输入数据和突触权重的操作和所述神经网络运算装置的运行；及通用通信中介块，可以与无关集成电路的类型地以物理方式连接的其他加速装置发送和接收针对所述输入神经元的输入数据和突触权重以及在所述神经网络运算装置执行的运算结果。

摘要： 一种卷积神经网络(CNN)处理装置(1)，设置有：输入缓冲器(10)，用于存储要对CNN应用的输入信号A；权重缓冲器(11)，用于存储权重U；卷积运算单元(12)，执行包括输入信号A与权重U之间的乘积‑求和运算的卷积运算；存储单元16，存储表(160)，在该表中，转换‑量化处理的输入与输出彼此相关联，其中，转换‑量化处理接受卷积运算的运算结果作为所述输入，基于预定条件来转换输入值，通过降低转换后的数据的比特精度来进行量化，并且输出结果；以及处理单元(14)，参考表(160)以获取转换‑量化处理的与卷积运算的运算结果相对应的输出。

摘要： 本发明提供一种能够通过减少存储器数量而将其配置在芯片上的神经网络电路装置、神经网络处理方法和神经网络的执行程序。三状态神经网络电路(200)具有非零卷积运算电路(21)、求和电路(22)和激活函数电路(23)，其中，所述非零卷积运算电路(21)在中间层中接收用于进行卷积的输入值Xi和权重Wi来进行卷积运算；所述求和电路(22)求取通过卷积运算得到的各运算值和偏置W0的总和；所述激活函数电路(23)用激活函数f(u)对求取总和得到的信号Y进行转换。非零卷积运算电路(21)跳过权重Wi为零的权重，来根据非零权重和与该非零权重对应的输入值Xi进行卷积运算。

摘要： 本发明提供了一种生成训练神经网络的训练数据的方法、训练神经网络的方法和利用神经网络进行自主操作的方法，以及相关设备和系统。一方面，提供了一种训练用于环境中对象的自主操作的神经网络的方法，包括：基于样本数据集生成策略值；基于所述策略值生成近似动作值函数；通过所述近似动作值函数为所述样本数据集中的所有状态以及所有可能动作生成近似策略值集；基于近似策略值计算所述神经网络的训练目标；计算训练误差作为所述训练目标和所述样本数据集中对应的状态动作对的策略值之间的差值；更新所述神经网络的至少一些参数以最小化所述训练误差。