大规模优化与非线性方程组问题的多元谱梯度算法及其应用

摘要

本文，首先提出一个求解无约束优化问题的非单调梯度类算法，在非单调线搜索条件下，得到了算法的全局收敛性。 进一步，我们将此方法推广到求解边界约束优化问题，提出了一个新的投影梯度算法，并在一定条件下证明了算法的全局收敛性定理。
　　其次，我们在第3章提出了一个求解单调非线性方程组的多元谱梯度算法，在不假设非线性方程组的Jacobian矩阵非退化的条件下建立了算法的全局收敛性。这种方法的一个显著特征是迭代点到解集合的距离单调减少。此外，本文算法的全局收敛性证明不需要方程组的梯度信息，因而可以用于求解非光滑的非线性方程组。与Gauss-Newton型算法相比，本文算法不需要存储矩阵，因此更适合求解大规模非线性方程组。 进一步，考虑到此算法的数值表现，我们提出了一个修正的多元谱梯度算法。 我们对这两个算法进行了数值实验，结果表明它们十分有效。
　　为了求解约束单调非线性方程组，我们在第4章提出了一个多元谱梯度投影算法并证明了算法的全局收敛性定理。本文的方法是求解单调非线性方程组的多元谱梯度方法在求解约束单调非线性方程组中的一种推广。数值实验结果表明该方法是非常有效的。
　　最后我们研究了谱梯度方法在图像去噪问题中的应用。我们将多元谱梯度方法与自适应的谱梯度方法结合起来，提出了一个混合的谱梯度方法，在非单调线搜索条件下证明了算法的全局收敛性。 在两阶段算法中的第一阶段中，应用自适应中值滤波方法来检测图像中的噪声点。 第二个阶段中，我们应用混合的谱梯度方法求解一个极小化问题。这一新算法大大节省了计算时间。特别地，对于噪声污染严重的图像，混合的多元谱梯度算法可以得到非常好的恢复效果。

目录

封面

声明

中文摘要

英文摘要

目录

1 绪论

1.1 求解无约束优化问题的谱梯度方法

1.2 求解约束优化问题的投影梯度方法

1.3 求解非线性方程组的无导数算法

1.4 关于图像去噪问题

1.5 本文的主要工作和贡献

2 基于拟Cauchy方程的非单调谱梯度方法

2.1 引言

2.2 无约束优化问题的非单调谱梯度算法

2.3 边界约束优化问题的非单调谱梯度算法

3 求解单调非线性方程组的多元谱梯度方法

3.1 引言

3.2 多元谱梯度算法

3.3 全局收敛性

3.4 数值结果

4 求解约束单调非线性方程组的多元谱梯度投影方法

4.1 引言

4.2 多元谱梯度投影算法

4.3 全局收敛性

4.4 数值结果

5 谱梯度方法在椒盐噪声去噪中的应用

5.1 引言

5.2 混合的谱梯度算法

5.3 收敛性分析

5.4 实验结果

6 结论

参考文献

攻读硕士学位期间发表的论文

致谢