一种新的梯度路径在无约束优化中的应用

摘要

线搜索方法和信赖域方法是解最优化问题的两类最基本的算法框架。求解线搜索方向和信赖域予问题分别是其关键的组成部分之一，另一个关键点自然是算法框架本身了。本文主要讨论了求解无约束最优化问题的非单渊线搜索方法和非单调信赖域方法的相关论题。 在论文的第二章中，将非单调技术、对Hessian阵的近似处理技术用于线搜索中去，形成了一种新的梯度路径线搜索方法。相比传统的线搜索方法，不仅利用了二次模型，而且通过对Hessian阵的近似处理技术，避免计算∫(x)的二阶导数▽<'2>∫(x)，降低了计算量，适用于大规模计算。而非单调技术放宽了接受迭代点的条件，在较大程度上改善了算法的实际计算效果。这种算法是十分容易应用的。我们分析了这种算法的收敛性，数值结果表明了算法是有效的。 第三章，讨论解无约束优化的信赖域方法。信赖域方法关键是在迭代的每一步要解一个信赖域子问题。在解决子问题的众多方法中，文献[1]中的Levellberg- Marqurdt方法是在信赖域内，从x<,k>出发沿着牛顿方向寻找最优解。但是它需要汁算B<,k>及其逆Hessian阵，工作量较大，故只能适用于中小规模问题。本章中，对Hessian阵进行近似处理，形成新的梯度路径，并将此技术与非单调技术结合用于信赖域算法中去，并征明了收敛性。

目录

文摘

英文文摘

声明

致谢

本文的创新点

第1章引言

1.1解优化问题的基本方法

1.2曲线搜索

1.3非单调技术

1.4论文的结构

第二章一种新的非单调梯度路径线搜索方法

2.1引言

2.2一种新的梯度路径

2.3一种新的非单调梯度路径线搜索算法及收敛性

2.3.1算法

2.3.2收敛性证明

2.4数值结果和结论

第3章无约束优化中一种新的非单调梯度路径信赖域方法

3.1引言

3.2一种新的梯度路径

3.3一种新的梯度路径信赖域算法及收敛性

3.3.1算法

3.1.2收敛性证明

参考文献