一类修正的阻尼牛顿法及其加速

摘要

阻尼牛顿法和牛顿法一样具有收敛快、迭代简单等优点，因此备受人们的重视，但它也有一些缺点，比如，每次迭代都要计算二阶导数矩阵（Hessian矩阵）及逆，必须要求▽2f(xk)非奇异和正定，否则，算法不能产生新的迭代点，从而迭代就进行不下去．本文针对阻尼牛顿法的以上缺点，对阻尼牛顿法进行了修正，得到一个新的迭代法(修正的阻尼牛顿法)，即用一个矩阵Q(xk)+αI来代替阻尼牛顿法公式中的▽2f(xk)，迭代公式就变为: xk+1=xk-λk[Q(xk)+αI]-1▽f(xk)，其中Q(xk)为一个矩阵，I为单位矩阵，λk为正常数，迭代方向就变为：pk=-[Q(xk)+αI]-1▽f(xk)．从而任意给定一个初始值，在阻尼牛顿法公式中的二阶导数矩阵的逆不存在或二阶导数矩阵不正定的情况下，用本文修正的阻尼牛顿法能继续往下迭代，直到最优点或最优点附近．
　　本文还从算法的搜索方向入手，说明了新算法的搜索方向pk=-[M(xk)]-1▽f(xk)是下降方向，又根据目标函数f(x)的凸性以及它在点xk处的Taylor展式得到xk的下一个迭代点xk+1是最优点x*的很好的近似点．然后从局部和全局两方面入手对修正阻尼牛顿法的收敛性进行了分析，得知修正阻尼牛顿法在一定的条件下至少是二阶收敛的．第三章的最后还给出了修正阻尼牛顿法的数值实验，计算结果与牛顿法的计算结果进行了比较，结果显示，修正阻尼牛顿法的收敛速度比牛顿法的收敛速度要快．
　　本文第四章对修正阻尼牛顿法进行加速，得到了一种收敛速度更快的新算法——加速后的修正阻尼牛顿法，简称 JS方法，并通过数值例子和数据分析对其收敛性进行分析，结果表明JS方法的收敛速度比修正阻尼牛顿法的收敛速度更快.

目录

封面

声明

中文摘要

英文摘要

目录

引言

1 绪论

1.1 课题的研究背景与意义

1.2 课题的研究现状

1.3 课题的研究内容

1.4 本文的主要结果

2基本理论及相关概念

2.1 基本定义及相关概念

2.2 基本引理

2.3 本章小结

3 修正阻尼牛顿法的导出及其收敛性分析

3.1 修正阻尼牛顿法的导出过程

3.2 算法的迭代步骤

3.3 收敛性分析

3.4 数值实验

3.5 本章小结

4 对修正阻尼牛顿法的加速

4.1 修正阻尼牛顿法的加速过程

4.2 JS方法的迭代步骤

4.3 JS方法的收敛性分析

4.4 本章小结

5 总结与展望

5.1 总结

5.2 展望

致谢

参考文献

攻读学位期间的研究成果