解无约束优化的非单调信赖域法和Perry-Shanno无记忆拟牛顿法

摘要

本文对求解无约束优化问题min f(x)给出三个算法：(1)不重解子问题的非单调自适应信赖域算法。(2)非单调Perry-Shanno无记忆拟牛顿方法，(3)非单调带参数的Perry-Shanno无记忆拟牛顿法。本文主要工作如下： (1)文[2]给出了一种自适应信赖域算法，其调整信赖域半径的公式是△<,k+1>=R<,c2>(r<,k>)‖d<,k>‖．其中R<,η>(t)称为R-函数。我们给出一个比文[2]简单的新的R-函数R<,η>(t)并采用公式△<,k+1>=R<,c2>(r<,k>)△<,k>调整信赖域半径。在数值试验中我们发现当试探步d<,k>被接受时，有时d<'k>可能是f(x)的一个极好的下降方向。取x<,k>+1>=x<,k>+d<,k>可能并没有充分利用这个好的下降方向d<,k>，对这种情形，我们采用一种不精确线搜索来确定x<,k>+1。另外当试探步d<,k>不被接受时，我们没有重解子问题或向后线搜索，而是采用了一个固定的公式给出新的迭代点x。对采用上述技巧的信赖域算法，在适当条件下，我们证明了它的全局收敛性。数值试验表明该算法是有效的。 (2)对非单调线搜索的Perry-Shanno无记忆拟牛顿法，我们不仅证明了f(x)是凸函数时的全局收敛性，同时在f(x)是非凸函数时的收敛性也作了深入的探讨，并给出了几个收敛的充分条件。初步的数值试验表明了算法的有效性。 (3)在第二个工作的基础上给出了非单调带参数的Perry-Shanno无记忆拟牛顿算法，我们不仅证明了f(x)是凸函数时的全局收敛性，同时在f(x)是非凸函数时的收敛性也作了深入的探讨，并给出了几个收敛的充分条件。并且可以通过参数的选取来控制解的误差，最后给出了几个演示性的算例。

目录

文摘

英文文摘

声明

前言

第1章不重解子问题的非单调自适应信赖域算法

1.1引言

1.2算法及性质

1.3收敛性分析

1.4数值例子

第2章非单调Perry-Shanno无记忆拟牛顿方法

2.1引言

2.2算法

2.3收敛性分析

2.4数值结果

第3章非单调带参数的Perry-Shanno无记忆拟牛顿方法

3.1引言

3.2算法

3.3收敛性分析

3.4数值结果

参考文献

致谢