无约束优化问题的对角二阶拟牛顿法

摘要

本文给出-个求解无约束优化问题的“对角二阶拟牛顿法”及其全局收敛性证明.该算法基于二阶拟牛顿方程，用-个对角矩阵逼近Hessian矩阵的逆，以确定搜索方向；再采用Armijo非精确线搜索或非单调线搜索确定步长。二阶拟牛顿方程比经典拟牛顿方程具有更高的逼近阶，其应用有助于提高新算法的计算效率；而以对角矩阵逼近Hessian矩阵的逆，则显著降低了每次迭代所需计算量和存储量，因而新算法适合于大规模稀疏问题的求解。 初步的数值试验结果是令人鼓舞的.与对角稀疏拟牛顿法，FR共轭梯度法，PRP共轭梯度法，HS共轭梯度法和GBB算法相比，对角二阶拟牛顿法有效地减少了迭代次数和所需CPU时间.看来该算法对大规模稀疏问题的求解确有其潜在优势，是一种很有发展前途的新算法。

目录

文摘

英文文摘

声明

第一章引言

§1.1大规模无约束优化问题

§1.2本文的主要工作

第二章基础知识

§2.1二阶拟牛顿方程

§2.2 BB算法和GBB算法

§2.3对角稀疏拟牛顿法

第三章对角二阶拟牛顿法

§3.1基本思想

§3.2使用Armiyo线搜索的对角二阶拟牛顿法

§3.3使用非单调线搜索的对角二阶拟牛顿法

第四章数值试验

§4.1算法3.2.1的数值试验结果及结论

§4.2算法3.3.1的数值试验结果及结论

第五章结束语

§5.1本文的创新点

§5.2进一步的研究方向

致 谢

参考文献