BFGS算法

摘要： 本文研究了大规模无约束优化问题,利用BFGS逼近搜索方向,提出了两种关于HSDY方法的自适应共轭梯度算法(HSDY1和HSDY2).新算法具有充分下降性和全局收敛性.数值实验表明,新方法比HSDY的计算性能更优.

摘要： 针对一类等式约束下目标函数及其梯度存在一定误差的优化问题,将经典的BFGS公式嵌入误差下的序列二次规划(SQP)框架,采用拉格朗日线搜索(L)步长,给出了该问题的BFGS-SQP-L迭代算法。所采用的延长差分技术,可保证算法的可行性。进一步,如果目标函数及其梯度估值的误差是一致有界的,那么迭代收敛到解的邻域,且解的大小取决于误差。

摘要： 在近净成形类零件自适应加工的过程中,针对传统配准算法无法有效约束零件形位公差的问题,提出一种基于满意度函数和灰关联度的多公差约束配准算法,将公差间平衡关系转化为多目标协同优化问题进行求解。首先,确定零件各公差的评价方法与表征形式,将测量数据与理论模型偏差量视为轮廓度求解裕度。然后,运用满意度函数对各公差偏差量进行评估,依据灰关联度理论计算出各公差间的关联程度。最后,根据Lagrange方法构建带约束非线性最小二乘形式的求解方程,并采用BFGS算法(Broyden,Fletcher,Goldfarb,Shanno拟牛顿迭代算法)进行刚性变换参数求解。采用某型号精锻叶片进行算法验证,结果显示轮廓度公差合格率由96.86%上升为99.40%。

摘要： 由于分布式光伏电站存在场站位置分散、不易管控等特点,其安装质量通常难以保证。因此,对于电站运维方及电站资产管理方而言,运维和管理时采用的分布式光伏电站的信息往往与实际情况存在一定偏差。电站安装方位角作为分布式光伏电站建模时的重要数据之一,其准确性与电站运行分析结果的可靠性息息相关。提出了一种基于BFGS算法及蒙特卡罗法的分布式光伏电站安装方位角识别方法,通过对分布式光伏电站的运行数据进行分析,在应用蒙特卡罗法的基础上对分布式光伏电站安装方位角进行识别,通过BFGS算法不断对电站运行数据曲线进行逼近,从而实现对其实际安装方位角的准确识别。算例验证结果表明:该安装方位角识别方法的识别精度可达到±0.5%,可以从根本上提高分布式光伏电站运行分析的准确性。

摘要： 电液振动台是大型结构件冲击环境模拟的关键设备.受负载特性变化等因素的影响,传统控制方法很难保证参考冲击波形的再现精度.提出基于BFGS拟牛顿优化算法更新系统的广义阻抗,通过对伺服控制系统驱动信号的在线修正,减小响应信号与参考信号之间的偏差.分别利用传统算法和BFGS优化算法进行二自由度冲击波再现仿真分析,仿真结果表明,BFGS算法能够实现系统时变阻抗的跟踪,高精度再现参考冲击波形.

摘要： 为了提高光滑支撑向量机模型的分类性能,文章给出了一种新的光滑函数反比例函数,并利用光滑技术克服了支撑向量机模型的不可微性,通过数学理论上严谨的论证和分析,证明了所给出光滑函数的性质和基于此光滑函数所建立的反比例光滑支撑向量机模型(ISSVM)的收敛性。实验数值表明,反比例光滑支撑向量机比多项式光滑支撑向量机在分类性能上更有优越性。

摘要： 高压复杂电缆线路故障定位过程比较繁琐,定点方法和精度有待提高.本文提出了基于声波到达时间差(time difference of arrival,TDOA)原理的定点方法,建立了多声波到达时间差的数学模型,推导了故障点二维定点非线性方程组最优解的目标函数,并采用收敛速度快、数值效果好的Broyden-Flether-Goldfarb-Shanno(BFGS)拟Newton算法对目标函数进行了优化求解.利用MATLAB仿真分析和定点实验验证了该方法的有效性,为高压复杂电缆线路故障的快速精确定点提供了一种方法.

摘要： 针对高斯牛顿(Gauss-Newton,GN)方法求解光束法平差模型时对初值准确度要求高、应用场景受限的问题,提出基于拟牛顿法BFGS(Broyden-Fletcher-Goldfarb-Shanno)修正的高斯牛顿算法——BFGS-GN法。当高斯牛顿法的信息矩阵失去正定性后,使用BFGS算法对法方程进行补充修正,可从根本上消除高斯牛顿方法对初值敏感的数学缺陷。在数据集上的实验结果表明,BFGS-GN算法对不同类型的初值具有鲁棒性,在初值较好的情况下,所提方法与高斯牛顿法具有相同的精度和迭代效率;在初值较差的情况下,高斯牛顿方法因发散而失效,BFGS-GN算法仍可以收敛到较高的精度。

摘要： 针对特显点选取易受噪声影响这一问题,该文提出一种基于全局图像最大对比度的逆合成孔径雷达(ISAR)方位定标算法,并在实现方位定标的同时完成距离空变相位补偿自聚焦.该方法以图像对比度作为代价函数,利用BFGS算法实现代价函数的最大化高效求解,获得目标信号的距离空变调频率,进而计算目标有效转动角速度,实现方位定标和距离空变相位自聚焦.仿真和实测数据实验对比验证了该算法的有效性和稳健性.

摘要： 针对蝙蝠算法(bat algorithm,BA)在解决高维复杂问题时容易陷入局部最优解和精确度不高的问题,该文结合蝙蝠算法和BFGS算法各自的优缺点,提出了一种BFGS-蝙蝠算法,达到求解非线性方程组的目的.该混合算法不仅发挥了蝙蝠算法强大的广度搜索能力,而且利用了BFGS算法的深度搜索能力,通过仿真实验结果表明:该算法不但以较高精度求出了各种非线性方程组的解,而且鲁棒性强,收敛速度快,是一种有效解决非线性方程组的方法.

摘要： 针对蝙蝠算法(bat algorithm,BA)在解决高维复杂问题时容易陷入局部最优解和精确度不高的问题,该文结合蝙蝠算法和BFGS算法各自的优缺点,提出了一种BFGS-蝙蝠算法,达到求解非线性方程组的目的.该混合算法不仅发挥了蝙蝠算法强大的广度搜索能力,而且利用了BFGS算法的深度搜索能力,通过仿真实验结果表明:该算法不但以较高精度求出了各种非线性方程组的解,而且鲁棒性强,收敛速度快,是一种有效解决非线性方程组的方法.

摘要： 针对蝙蝠算法(bat algorithm,BA)在解决高维复杂问题时容易陷入局部最优解和精确度不高的问题,该文结合蝙蝠算法和BFGS算法各自的优缺点,提出了一种BFGS-蝙蝠算法,达到求解非线性方程组的目的.该混合算法不仅发挥了蝙蝠算法强大的广度搜索能力,而且利用了BFGS算法的深度搜索能力,通过仿真实验结果表明:该算法不但以较高精度求出了各种非线性方程组的解,而且鲁棒性强,收敛速度快,是一种有效解决非线性方程组的方法.

摘要： 针对蝙蝠算法(bat algorithm,BA)在解决高维复杂问题时容易陷入局部最优解和精确度不高的问题,该文结合蝙蝠算法和BFGS算法各自的优缺点,提出了一种BFGS-蝙蝠算法,达到求解非线性方程组的目的.该混合算法不仅发挥了蝙蝠算法强大的广度搜索能力,而且利用了BFGS算法的深度搜索能力,通过仿真实验结果表明:该算法不但以较高精度求出了各种非线性方程组的解,而且鲁棒性强,收敛速度快,是一种有效解决非线性方程组的方法.

摘要： 针对蝙蝠算法(bat algorithm,BA)在解决高维复杂问题时容易陷入局部最优解和精确度不高的问题,该文结合蝙蝠算法和BFGS算法各自的优缺点,提出了一种BFGS-蝙蝠算法,达到求解非线性方程组的目的.该混合算法不仅发挥了蝙蝠算法强大的广度搜索能力,而且利用了BFGS算法的深度搜索能力,通过仿真实验结果表明:该算法不但以较高精度求出了各种非线性方程组的解,而且鲁棒性强,收敛速度快,是一种有效解决非线性方程组的方法.

摘要： 基于某大型汽车发动机厂14台卧式加工中心10个月的现场失效采集数据，首先采用卡普兰-梅尔和威布尔变换等方法，得到数据集的WPP(Weibull Plotting Paper)图；然后根据WPP图的曲线形状，采用二重混合威布尔模型作为拟合方程；为了避免直接求解多维非线性似然方程组，将原问题转化成为有约束非线性最优化问题，并采用BFGS 算法和内点法求解，得到了置信度为95%的模型参数的置信区间；模型的拟合优度检验采用K-S检验方法，结论为在5%的显著性水平下接受这样的寿命分布拟合模型。得到了卧式加工中心失效率函数，为一浴盆曲线，且失效率一直下降，因此设备处于早期故障阶段。计算了卧式加工中心的MTBF值，约为367小时。

摘要： 基于某大型汽车发动机厂14台卧式加工中心10个月的现场失效采集数据，首先采用卡普兰-梅尔和威布尔变换等方法，得到数据集的WPP(Weibull Plotting Paper)图；然后根据WPP图的曲线形状，采用二重混合威布尔模型作为拟合方程；为了避免直接求解多维非线性似然方程组，将原问题转化成为有约束非线性最优化问题，并采用BFGS 算法和内点法求解，得到了置信度为95%的模型参数的置信区间；模型的拟合优度检验采用K-S检验方法，结论为在5%的显著性水平下接受这样的寿命分布拟合模型。得到了卧式加工中心失效率函数，为一浴盆曲线，且失效率一直下降，因此设备处于早期故障阶段。计算了卧式加工中心的MTBF值，约为367小时。

摘要： 基于某大型汽车发动机厂14台卧式加工中心10个月的现场失效采集数据，首先采用卡普兰-梅尔和威布尔变换等方法，得到数据集的WPP(Weibull Plotting Paper)图；然后根据WPP图的曲线形状，采用二重混合威布尔模型作为拟合方程；为了避免直接求解多维非线性似然方程组，将原问题转化成为有约束非线性最优化问题，并采用BFGS 算法和内点法求解，得到了置信度为95%的模型参数的置信区间；模型的拟合优度检验采用K-S检验方法，结论为在5%的显著性水平下接受这样的寿命分布拟合模型。得到了卧式加工中心失效率函数，为一浴盆曲线，且失效率一直下降，因此设备处于早期故障阶段。计算了卧式加工中心的MTBF值，约为367小时。

摘要： 基于某大型汽车发动机厂14台卧式加工中心10个月的现场失效采集数据，首先采用卡普兰-梅尔和威布尔变换等方法，得到数据集的WPP(Weibull Plotting Paper)图；然后根据WPP图的曲线形状，采用二重混合威布尔模型作为拟合方程；为了避免直接求解多维非线性似然方程组，将原问题转化成为有约束非线性最优化问题，并采用BFGS 算法和内点法求解，得到了置信度为95%的模型参数的置信区间；模型的拟合优度检验采用K-S检验方法，结论为在5%的显著性水平下接受这样的寿命分布拟合模型。得到了卧式加工中心失效率函数，为一浴盆曲线，且失效率一直下降，因此设备处于早期故障阶段。计算了卧式加工中心的MTBF值，约为367小时。

摘要： 基于某大型汽车发动机厂14台卧式加工中心10个月的现场失效采集数据，首先采用卡普兰-梅尔和威布尔变换等方法，得到数据集的WPP(Weibull Plotting Paper)图；然后根据WPP图的曲线形状，采用二重混合威布尔模型作为拟合方程；为了避免直接求解多维非线性似然方程组，将原问题转化成为有约束非线性最优化问题，并采用BFGS 算法和内点法求解，得到了置信度为95%的模型参数的置信区间；模型的拟合优度检验采用K-S检验方法，结论为在5%的显著性水平下接受这样的寿命分布拟合模型。得到了卧式加工中心失效率函数，为一浴盆曲线，且失效率一直下降，因此设备处于早期故障阶段。计算了卧式加工中心的MTBF值，约为367小时。

摘要： 本发明公开了一种基于L‑BFGS算法的最小二乘偏移成像方法及装置，方法包括：根据目标勘探区的声波速度模型和声波速度模型的共炮点记录进行逆时偏移成像，得到初始成像结果；根据初始成像结果计算目标勘探区的合成地震记录和原始观测记录的记录残差；根据记录残差计算目标泛函关于初始成像结果的梯度；根据初始成像结果和目标泛函关于初始成像结果的梯度，通过L‑BFGS算法得到第二成像结果；判断记录残差和L‑BFGS算法的计算次数是否满足预设终止条件。本发明通过引入L‑BFGS的最优化求解方法，避免了在非线性最优化问题求解的过程中寻优过程陷入局部最优，使得对在非线性优化方面的寻优过程更加稳健。

摘要： 本发明提出一种基于自适应的L‑BFGS算法的批量学习方法，用于深度神经网络的训练，每次训练时按一定规则选取一部分样本计算更新参数，以减少计算复杂度，同时解决一阶算法(如Mini‑Batch GD)训练时存在的收敛速度慢，易陷入局部最优点等缺点。本发明提出的算法解决了L‑BFGS算法中记忆尺度选择困难的问题。本发明提出的算法引入了多步拟牛顿理论对AL‑BFGS中衡量近似程度的计算公式进行了改进，使得到海塞矩阵逆的近似矩阵与海塞矩阵的逆矩阵之间近似程度更高。本发明提出的算法选取多个记忆尺度，计算出不同的方向进行叠加，得到最终的搜索方向，从而加强对最近曲率信息的使用，加快了收敛速度。

摘要： 一种基于BFGS拟牛顿‑内点算法的光刻机匹配方法。本方法以空间像关键尺寸作为描述光刻机成像性能的参数，通过BFGS拟牛顿‑内点算法优化参数化描述的光刻机照明光源以及投影物镜数值孔径，实现光刻机高效率匹配。本发明利用障碍函数为优化问题添加约束，有效地利用了迭代信息，改进了非自由照明系统光刻机的匹配方法，提高了现有方法的匹配精度和效率。适用于具有非自由照明系统的浸没式光刻机之间的匹配。

摘要： 一种车间生产调度技术领域的基于DE和L‑BFGS‑B混合算法的柔性化车间任务调度优化方法，用于车间生产的排产管理，包括以下步骤：1)建立柔性化车间调度问题的数学规划模型；2)基于高斯函数与罚函数法将原数学规划模型优化为连续可微的无约束广义目标函数；3)基于DE与L‑BFGS‑B混合算法求解无约束广义目标函数得到拖期最小化的最优适应值。本发明以拖期最小化作为优化目标，并考虑了设备与操作员两种资源的多种约束情况，可以指导实际生产，并提高生产效率。

摘要： 本申请提供了一种基于并发L‑BFGS算法的水文模型参数率定方法及系统。该方案应用于异构平台，包括：主处理器生成水文模型的多组模型参数并发送到协处理器；协处理器的不同线程分别获得各自划分的模型参数，计算获得模型参数对应的纳什效率系数并返回主处理器；主处理器判断多组模型参数对应的纳什效率系数是否满足预设条件，当满足时，输出所述更新后的多组模型参数，当不满足时，获得多组模型参数对应的梯度值，并利用并发L‑BFGS算法获得更新后的多组模型参数再次率定，直至满足结束条件。本申请的方案利用协处理的多线程并发机制，提高了水文模型参数率定的效率。

摘要： 一种基于BFGS拟牛顿‑内点算法的光刻机匹配方法。本方法以空间像关键尺寸作为描述光刻机成像性能的参数，通过BFGS拟牛顿‑内点算法优化参数化描述的光刻机照明光源以及投影物镜数值孔径，实现光刻机高效率匹配。本发明利用障碍函数为优化问题添加约束，有效地利用了迭代信息，改进了非自由照明系统光刻机的匹配方法，提高了现有方法的匹配精度和效率。适用于具有非自由照明系统的浸没式光刻机之间的匹配。

摘要： 本发明提出一种基于自适应的L‑BFGS算法的批量学习方法，用于深度神经网络的训练，每次训练时按一定规则选取一部分样本计算更新参数，以减少计算复杂度，同时解决一阶算法(如Mini‑Batch GD)训练时存在的收敛速度慢，易陷入局部最优点等缺点。本发明提出的算法解决了L‑BFGS算法中记忆尺度选择困难的问题。本发明提出的算法引入了多步拟牛顿理论对AL‑BFGS中衡量近似程度的计算公式进行了改进，使得到海塞矩阵逆的近似矩阵与海塞矩阵的逆矩阵之间近似程度更高。本发明提出的算法选取多个记忆尺度，计算出不同的方向进行叠加，得到最终的搜索方向，从而加强对最近曲率信息的使用，加快了收敛速度。

摘要： 本发明公开了一种基于L‑BFGS算法的最小二乘偏移成像方法及装置，方法包括：根据目标勘探区的声波速度模型和声波速度模型的共炮点记录进行逆时偏移成像，得到初始成像结果；根据初始成像结果计算目标勘探区的合成地震记录和原始观测记录的记录残差；根据记录残差计算目标泛函关于初始成像结果的梯度；根据初始成像结果和目标泛函关于初始成像结果的梯度，通过L‑BFGS算法得到第二成像结果；判断记录残差和L‑BFGS算法的计算次数是否满足预设终止条件。本发明通过引入L‑BFGS的最优化求解方法，避免了在非线性最优化问题求解的过程中寻优过程陷入局部最优，使得对在非线性优化方面的寻优过程更加稳健。

摘要： 本发明公开了一种PSO‑BFGS神经网络训练算法，包括以下步骤(1)划分任务：(2)PSO算法负责全局搜索，经过迭代，产生的最优解作为BFGS的输入，之后用BFGS算法做局部精细搜索；(3)对PSO算法和BFGS拟牛顿算法进行并行度划分；(4)通过PSO算法和BFGS算法实现神经网络训练误差评估函数；(5)并行实现PSO算法；(6)并行实现BFGS拟牛顿算法；(7)并行归约。该算法是基于粒子群算法(PSO)和BFGS拟牛顿算法的神经网络训练并行算法，采用GPU作为神经网络训练计算设备，与其他优化算法相比兼具较高的收敛效率和全局搜索能力。使用OpenCL作为编程语言实现，与使用CUDA语言的实现相比具有较高的可移植性，可以在不同厂家的GPU以及FPGA上使用。

摘要： 本发明公开了一种基于异构计算平台的BFGS拟牛顿神经网络训练算法，包括以下步骤：(1)划分任务：(2)划分并行度，完成计算任务所需的work‑item的总数以及将work‑item组织成的work‑group的数量；求出神经网络训练误差；(3)计算搜索方向dir；(4)基于黄金分割法计算步长λ及更新权重w；(5)计算神经网络训练误差评估函数的梯度g；(6)计算海森矩阵H；(7)并行归约。本发明采用CPU和GPU异构计算平台作为神经网络训练计算设备，使用GPU对BFGS拟牛顿算法进行加速，与传统的基于CPU的实现相比运行速度得到巨大提升；与其他优化算法相比具有较高的收敛效率和全局搜索能力。