拟牛顿算法

摘要： 在Qt平台上,基于QSSP软件,利用C^(++)进行地震破裂过程反演方法研究。采用按阶段反演的方法,第1阶段反演采用热浴算法进行全局搜索,先按断层区域的构造背景等初始条件对参数范围进行划取,在该范围内随机给定一组初始值开始迭代,使波形初步拟合避开局部最优解;第2阶段反演使用拟牛顿法进行快速收敛,提高波形拟合程度,迭代至目标函数小于误差条件时停止,输出满足误差条件的待解模型参数。为避免模型参数出现病态问题,使用拉普拉斯方程建立平滑矩阵并引入平滑因子对断层模型进行平滑约束。使用棋盘模型验证该方法的稳定性和可靠性。最后,将全国13个台站的重力数据积分后对2013-04-20芦山7.0级地震的破裂过程进行反演,并与其他研究结论进行对比分析。

摘要： 针对水声通信严重多途效应导致的码间干扰,利用神经网络良好的非线性拟合能力,将盲判决反馈均衡器结构与神经网络相结合,同时通过拟牛顿算法提升神经网络的收敛速度,提出了一种拟牛顿优化神经网络的盲判决反馈均衡器。用两个单隐层误差反向传播(Back Propagation,BP)网络替换判决反馈均衡器前馈和反馈滤波器,利用拟牛顿迭代计算神经网络权值,在不计算二阶导数的前提下,使用近似矩阵来近似各层网络权值误差性能函数Hessian矩阵的逆矩阵,通过测量各层权值的梯度变化进行迭代计算。应用自动增益控制和锁相环进行幅度和相位修正。仿真结果表明,拟牛顿优化神经网络的盲判决反馈均衡器在水声信道均衡问题中具有更快的收敛速度及更低的误码率。

摘要： 论文将拟牛顿算法和布谷鸟算结合,建立了一种混合的算法.算法首先利用布谷鸟算法进行寻优,把当代最好解作为拟牛顿法的初始点,再利用拟牛顿法对其进行优化.混合算法发挥了布谷鸟算法的全局搜索性和拟牛顿法的局部强搜索性能,同时也弥补了布谷鸟算法后期搜索效率低和拟牛顿法对初始点敏感的不足.8个测试函数结果表明,混合算法具有很高的求解精度.

摘要： 针对高温作业服各层织物厚度设计问题,建立基于服装舒适度的厚度优化模型.用衣服的重量和松紧度衡量衣服的舒适度,以服装舒适度最大化作为目标函数,以高温工作期间不发生烫伤的情况构建约束条件,根据三层织物、一层空气层以及两层皮肤组织的密度、比热、热传导率和厚度,分别对六层介质建立热传导方程,采用有限差分格式求解人体外表皮温度,再运用拟牛顿算法求解基于服装舒适度的厚度优化模型,最终第Ⅱ层织物的最优厚度为19.8mm,空气层的最优厚度为3.2mm.

摘要： 针对人工神经网络训练需要极强的计算能力和高效的最优解搜寻方法的问题,提出基于GPU的BFGS拟牛顿神经网络训练算法的并行实现.该并行实现将BFGS算法划分为不同的功能模块,针对不同模块特点采用混合的数据并行模式,充分利用GPU的处理和存储资源,取得较好的加速效果.试验结果显示:在复杂的神经网络结构下,基于GPU的并行神经网络的训练速度相比于基于CPU的实现方法最高提升了80倍;在微波器件的建模测试中,基于GPU的并行神经网络的速度相比于NeuroModeler软件提升了430倍,训练误差在1％左右.

摘要： 针对湿度传感器的输出非线性问题,提出了基于L-M算法建立BP神经网络进行补偿校正,实现电阻型湿度传感器的输入与输出非线性补偿,并与共轭梯度算法、拟牛顿算法所建立的神经网路模型进行对比,重点比较了模型迭代性能、标准偏差;最后发现当神经网络用L-M算法进行训练模拟时在迭代性能、标准偏差等方面具有更优异的表现,更适合湿度传感器的非线性特性的补偿校正.%Aiming at the nonlinear output of humidity sensor,a nonlinear compensation scheme based on BP neural network is proposed.BP neural network is established based on L-M algorithm,and the input and output nonlinear compensation correction of the resistance humidity sensor is realized,Compared with the conjugate gradient algorithm and the BP neural network model proposed by the quasi Newton algorithm,the model error performance and convergence speed are compared.The results show that the BP neural network model based on L -M algorithm has more efficient performance in convergence speed,error performance and so on,its compensation correction is more suitable for nonlinear characteristics of humidity sensors.

摘要： 在传统的大规模多输入多输出(MIMO)系统中,预编码在确定大规模MIMO系统下行链路可实现速率方面起重要作用;然而大多只考虑了单小区系统,忽略了小区间干扰.针对大规模MIMO系统在多小区中的问题,提出了一种优化的连续迫零脏纸预编码算法.首先,讨论了一种基于脏纸编码和迫零的低复杂度方法,它结合了简化的QR分解和正交投影.其次,综合考虑了小区内和小区间干扰的下行链路的和速率优化问题;最后,使用凸共轭将问题转化为无约束双重问题,应用具有低复杂度的拟牛顿算法来找到最优迭代解.仿真实验中,在天线数相同时,除了脏纸编码算法外,提出的算法比其他算法拥有更高的吞吐量,而且在性能上比其他传统算法提升了约10％,并且具有更快的收敛性.仿真分析表明,该预编码算法优于其他常规预编码方法.%In traditional massive Multiple Input Multiple Output (MIMO) systems,precoding plays an important role in determining the achievable rate of downlink in massive MIMO systems.However,only the single-cell systems are considered,and inter-cell interference is ignored.To solve the problem of massive MIMO system in multi-cell,an optimized successive zero forcing-dirty paper coding algorithm was proposed.First,a low-complexity method was discussed based on dirty paper coding and zero-forcing,which combines simplified QR decomposition and orthogonal projection.Secondly,the downlink sum rate optimization problems of intra-cell and inter-cell interference were considered.Finally,the convex conjugate was used to convert the problem into an unconstrained dual problem,and the quasi-Newton algorithm with low complexity was used to find the optimal iterative solution.In the simulation experiment,besides the dirty paper coding algorithm,the proposed algorithm has higher throughput than other algorithms when the antennas are equal,but the performance was increased by about 10％ compared to others,and has a faster convergence.Simulation analysis shows that the proposed precoding algorithm is superior to other conventional precoding methods.

摘要： 针对基于递推下降法的多输出支持向量回归算法在模型参数拟合过程中收敛速度慢、预测精度低的情况,使用一种基于秩2校正规则且具有二阶收敛速度的修正拟牛顿算法(BFGS)进行多输出支持向量回归算法的模型参数拟合,同时为了保证模型迭代过程中的下降量和全局收敛性,应用非精确线性搜索技术确定步长因子.通过分析支持向量机(SVM)中核函数的几何结构,构造数据依赖核函数替代传统核函数,生成多输出数据依赖核支持向量回归模型.将模型与基于梯度下降法、修正牛顿法拟合的多输出支持向量回归模型进行对比.实验结果表明,在200个样本下该算法的迭代时间为72.98 s,修正牛顿法的迭代时间为116.34 s,递推下降法的迭代时间为2065.22 s.所提算法能够减少模型迭代时间,具有更快的收敛速度.%For the Multi-output Support Vector Regression (MSVR) algorithm based on gradient descent method in the process of model parameter fitting,the convergence rate is slow and the prediction accuracy is low.A modified version of the Quasi-Newton algorithm (BFGS) with second-order convergence rate based on the rank-2 correction rule was used to fit the model parameters of MSVR algorithm.At the same time,to ensure the decrease of the iterative process and the global convergence,the step size factor was determined by the non-exact linear search technique.Based on the analysis of the geometry structure of kernel function in Support Vector Machine (SVM),a data-dependent kernel function was substituted for the traditional kernel function,and the multi-output data-dependent kernel support vector regression model was generated.The model was compared with the multi-output support vector regression model based on gradient descent method and modified Newton method.The experimental results show that in the case of 200 samples,the iterative time of the proposed algorithm is 72.98 s,the iterative time of modified Newton's algorithm is 116.34 s and the iterative time of gradient descent method is 2 065.22 s.The proposed algorithm can reduce the model iteration time and has faster convergence speed.

摘要： 为克服传统分割方法依赖人工选取阈值的缺陷,提出基于组合向量滤波的膝关节CT图像边缘检测方法.经组合特征向量预处理后,利用拟牛顿算法改进的神经网络算法,实现膝关节CT图像自动分割和处理.仿真实验表明,处理后的图像能够较好地检测到原始膝关节CT图像的边缘,边缘轮廓圆滑清晰,封闭性好.与传统神经网络方法相比,该检测方法可提高边缘特征信息的精度和处理效率.

摘要： 本文将结构正割法应用到拟牛顿算法中,利用目标函数的梯度信息和函数值信息,引入新的拟牛顿方程,采用wolfe线搜索准则,在一定条件下证明了新算法具有全局收敛性.

摘要： 本文假定投资者具有常绝对风险厌恶(CARA)效用函数,采用非参数估计方研究了期望效用最大化的投资组合选择问题。首先,我们基于组合收益率分布密度函数的非参数核(kernel)估计得到了期望效用函数的非参数计算公式;然后给出了求解最大期望效用的拟牛顿算法;最后基于中国股票市场真实数据给出了一个数值算例。

摘要： 针对隐层传递函数为小波函数的神经网络,为了寻找一种高效的网络学习算法,本文在牛顿算法的基础上推导并讨论一种拟牛顿算法,将这种拟牛顿算法与基于一阶梯度的不同算法进行了实验比较.结果证明,采用小波神经网络结合拟牛顿学习算法,可以得到最快的学习收敛速度,并且具有最好的学习效果,即对强非线性函数的拟合精度最高.论文还探讨了小波神经网络在自动送钻事故诊断方面的应用.

摘要： 针对OFDM功率放大器线性化问题,本文采用数字预失真的方法来补偿功率放大器的非线性失真.预失真器采用Volterra序列来逼近,并提出一种重置BFGS算法来训练非线性预失真器.通过设定切换条件,使参数学习在梯度下降法与拟牛顿法之间切换.这既增加了新算法的数值稳定性,又可提高收敛速度.仿真采用数字基带预失真器对OFDM信号的功率放大器进行预失真,结果表明了新算法的高效性.并且,增加数字预失真模块可大大改善OFDM功率放大器的性能.

摘要： 针对OFDM功率放大器线性化问题,本文采用数字预失真的方法来补偿功率放大器的非线性失真.预失真器采用Volterra序列来逼近,并提出一种重置BFGS算法来训练非线性预失真器.通过设定切换条件,使参数学习在梯度下降法与拟牛顿法之间切换.这既增加了新算法的数值稳定性,又可提高收敛速度.仿真采用数字基带预失真器对OFDM信号的功率放大器进行预失真,结果表明了新算法的高效性.并且,增加数字预失真模块可大大改善OFDM功率放大器的性能.

摘要： 针对OFDM功率放大器线性化问题,本文采用数字预失真的方法来补偿功率放大器的非线性失真.预失真器采用Volterra序列来逼近,并提出一种重置BFGS算法来训练非线性预失真器.通过设定切换条件,使参数学习在梯度下降法与拟牛顿法之间切换.这既增加了新算法的数值稳定性,又可提高收敛速度.仿真采用数字基带预失真器对OFDM信号的功率放大器进行预失真,结果表明了新算法的高效性.并且,增加数字预失真模块可大大改善OFDM功率放大器的性能.

摘要： 针对OFDM功率放大器线性化问题,本文采用数字预失真的方法来补偿功率放大器的非线性失真.预失真器采用Volterra序列来逼近,并提出一种重置BFGS算法来训练非线性预失真器.通过设定切换条件,使参数学习在梯度下降法与拟牛顿法之间切换.这既增加了新算法的数值稳定性,又可提高收敛速度.仿真采用数字基带预失真器对OFDM信号的功率放大器进行预失真,结果表明了新算法的高效性.并且,增加数字预失真模块可大大改善OFDM功率放大器的性能.

摘要： 一种基于BFGS拟牛顿‑内点算法的光刻机匹配方法。本方法以空间像关键尺寸作为描述光刻机成像性能的参数，通过BFGS拟牛顿‑内点算法优化参数化描述的光刻机照明光源以及投影物镜数值孔径，实现光刻机高效率匹配。本发明利用障碍函数为优化问题添加约束，有效地利用了迭代信息，改进了非自由照明系统光刻机的匹配方法，提高了现有方法的匹配精度和效率。适用于具有非自由照明系统的浸没式光刻机之间的匹配。

摘要： 本发明公开了基于拟牛顿公式的压缩感知重建算法，首先对原始含有噪声且细节模糊的图像进行稀疏表示，然后通过观测矩阵对稀疏表示后的原始图像进行测量得到结果矩阵，最后采用本发明算法对结果矩阵进行重建，获得比原始图像细节更清晰、低噪声图像。和传统压缩感知重建算法相比，本发明算法具有收敛速度快、计算时间短、重建精度高等优点。

摘要： 一种基于BFGS拟牛顿‑内点算法的光刻机匹配方法。本方法以空间像关键尺寸作为描述光刻机成像性能的参数，通过BFGS拟牛顿‑内点算法优化参数化描述的光刻机照明光源以及投影物镜数值孔径，实现光刻机高效率匹配。本发明利用障碍函数为优化问题添加约束，有效地利用了迭代信息，改进了非自由照明系统光刻机的匹配方法，提高了现有方法的匹配精度和效率。适用于具有非自由照明系统的浸没式光刻机之间的匹配。

摘要： 本发明公开了基于拟牛顿公式的压缩感知重建算法，首先对原始含有噪声且细节模糊的图像进行稀疏表示，然后通过观测矩阵对稀疏表示后的原始图像进行测量得到结果矩阵，最后采用本发明算法对结果矩阵进行重建，获得比原始图像细节更清晰、低噪声图像。和传统压缩感知重建算法相比，本发明算法具有收敛速度快、计算时间短、重建精度高等优点。

摘要： 本发明涉及一种基于多初始点拟牛顿优化的低敏感度三反望远镜设计方法，该方法通过建立包括设计波像差和失调波像差的光学系统制造性能评估模型，将该评估模型用镜间距表示，得到仅以镜间距为变量的评估模型公式，将该评估模型公式作为系统的优化指标，通过将每个镜间距等间隔分为若干个网格，形成若干个计算单元，再采用拟牛顿法对评估模型公式进行优化，以光学系统制造性能的最小值作为全局最优值，最终得到优化后的低失调敏感度的三反望远镜系统。本发明的三反望远镜系统制造性能更好，提高了系统制造性能评估的准确性，而且本发明的设计方法不需要大量的光线追迹，只需要追迹近轴边缘光线和主光线即可完成，计算量小，时间短，优化速度快。

摘要： 本发明公开一种基于拟牛顿算法的飞秒激光测距脉冲峰值检测方法，包括步骤：采用ASPOS技术展宽测距激光脉冲信号，在时间上拉伸超短激光脉冲；使用光电探测器采样时间尺度扩展的信号，使用模数转换器将模拟信号转换为数字信号；采用拟牛顿算法中的BFGS‑QN算法，计算拟合参数，对离散采样点进行高斯拟合并重构飞秒激光脉冲的原始高斯信号包络，以获得峰值时刻。本发明使用BFGS‑QN算法具有更高的拟合精度，可以降低测距系统的精度损失。

摘要： 本发明公开了一种基于异构计算平台的BFGS拟牛顿神经网络训练算法，包括以下步骤：(1)划分任务：(2)划分并行度，完成计算任务所需的work‑item的总数以及将work‑item组织成的work‑group的数量；求出神经网络训练误差；(3)计算搜索方向dir；(4)基于黄金分割法计算步长λ及更新权重w；(5)计算神经网络训练误差评估函数的梯度g；(6)计算海森矩阵H；(7)并行归约。本发明采用CPU和GPU异构计算平台作为神经网络训练计算设备，使用GPU对BFGS拟牛顿算法进行加速，与传统的基于CPU的实现相比运行速度得到巨大提升；与其他优化算法相比具有较高的收敛效率和全局搜索能力。

摘要： 本发明公开一种基于现场可编程门阵列FPGA的高层次综合HLS工具优化加速拟牛顿算法的方法，步骤包括：(1)、分析拟牛顿算法的功能，划分出拟牛顿算法的主要计算模块；(2)、利用高级语言C，C++实现上述步骤(1)中的各个模块，并且验证算法功能的正确性；(3)、将上述步骤(2)功能验证正确的拟牛顿算法作为输入文件，利用高层次综合工具，将高级语言转化为RTL级语言，验证生成的RTL代码；(4)、将生成的RTL代码制作成比特流文件，下载配置到FPGA的可配置逻辑部分。本发明从加速拟牛顿算法出发，利用高层次综合实现拟牛顿算法，通过FPGA实现对拟牛顿算法加速,降低了FPGA的开发难度。

摘要： 本发明涉及网络拥塞控制方法，属于计算机通信技术领域。包括以下基于拟牛顿算法的用户端s、链路l的控制方法；其中用户端s控制方法包括以下步骤（1）更新时间t，用户端s接收到反馈回来的传输时延，用其代替以前的传输时延；（2）在每次更新时间t，用户端s根据其当前的路径估计值

摘要： 本申请涉及点云匹配技术领域，具体而言，涉及一种基于拟牛顿优化的点云匹配方法和装置，一定程度上可以解决现有技术无法使匹配后的实际点云与模板点云对应点之间最大距离偏差足够小的问题。所述点云匹配方法包括：获取模板点云、初始实际点云、以及模板点云与初始实际点云之间的初始变换关系以及构建目标函数；采用拟牛顿算法对目标函数进行迭代优化，得到优化变换关系，优化变换关系用于对初始实际点云进行变换以得到优化实际点云；基于优化实际点云和优化变换关系对目标函数进行更新，得到新目标函数，新目标函数用作下一次迭代时的目标函数；在目标函数达到收敛标准时停止迭代，并基于历次迭代得到的优化变换关系确定目标变换关系。