非单调线性搜索及其在共轭梯度法和拟牛顿法中的应用

摘要

最优化问题在经济，管理，工程等许多重要领域有着广泛的应用背景．共轭梯度法和拟Newton法是求解最优化问题的两类最常用的方法。共轭梯度法算法简便，存储量需求小，收敛速度又比最速下降法快，特别适合求解大规模问题．传统的Broyden族拟牛顿算法因为其良好的数值效果和快速收敛速度已成为求解中等规模最优化问题颇受欢迎的一类算法。 已有的研究中通常采用单调线性搜索技术，这种线性搜索方式的一个主要优点是算法产生的函数值序列单调递减．然而，单调线性搜索一般需要较多的试探步才能获得步长．而且，所获得的步长有时会很小．由Grippo等人提出的非单调线性搜索技术可减少线性搜索试探步，并可获得较大步长． 本文，我们将非单调线性搜索技术引入MFR，MPRP，CBFGS和MBFGS算法中，证明相应算法的全局收敛性．且通过数值试验与采用单调线性搜索技术的算法进行比较．结果表明，采用非单调线性搜索技术的算法具有优势． 第二章提出一种非单调MFR算法，证明其全局收敛性．并通过数值试验对所提出的算法进行测试，同时与采用单调线性搜索的相应算法进行比较．结果表明，采用非单调线性搜索技术的算法具有优势． 第三章我们将非单调线性搜索引入MPRP算法，建立算法的全局收敛性定理并进行数值试验．结果表明，采用非单调线性搜索技术的算法具有优势． 第四章研究非单调CBFGS和MBFGS算法，研究相应算法的全局收敛性及数值表现．结果表明，采用非单调线性搜索技术的算法具有优势．

目录

文摘

英文文摘

论文说明：符号表

声明

第1章绪论

1.1最优化问题的概述

1.2求解无约束最优化问题的拟牛顿法

1.3求解无约束最优化问题的共轭梯度法法

1.4求解无约束最优化问题的非单调线性搜索

1.5本文的主要工作

第2章求解无约束最优化问题的非单调MFR方法

2.1引言

2.2算法

2.3全局收敛性

2.4数值结果

第3章求解无约束最优化问题的非单调MPRP方法

3.1引言

3.2算法

3.3全局收敛性

3.4数值结果

第4章求解无约束最优化问题的非单调CBFGS，MBFGS方法

4.1引言

4.2算法

4.3全局收敛性

4.4数值结果

结论

参考文献

附录 攻读学位期间所发表的学术论文目录

致谢