有界约束非线性方程组概率模型的立方正则项方法

摘要

在生产管理和经济领域中，很多问题都可以归结为非线性方程组问题。非线性方程组在国民经济的许多领域，如国防、交通运输、金融管理、科学研究中都有着广泛的应用。随着近些年来计算机技术的不断发展和各类软件的不断完善，快速、高效的求解非线性方程组问题显得越来越重要。立方正则项方法、信赖域方法及线搜索技术是解非线性方程组，保证算法整体收敛性的基本方法。 立方正则项方法是解非线性方程组问题的一种比较新颖的方法，能够保证算法整体收敛到二阶稳定点。立方正则项方法是利用欧氏范数带参数的立方项来构造目标函数的立方近似模型，这个模型称为立方正则模型。如果方向是该立方正则模型的整体解，目标函数的Hessian矩阵是Lipschitz连续的，那么所构造的算法比最速下降法更快找到最优解。一般的立方正则项算法框架，在较弱的假设条件下能够获得算法的整体收敛性和局部超线性收敛速率，此方法具备很好的收敛性质及简便的构造。立方正则项方法主要研究的是无约束最优化问题以及带有某种凸性约束的最优化问题。线搜索技术通过使用回溯方法选择的步长，很容易满足严格可行性，在确定新的迭代点时计算量较小。 本文给出了求解有界约束非线性方程组概率模型的立方正则项算法，将非线性方程组转化为最小二乘随机优化模型。从理论研究及数值比较结果上分析，有界约束非线性方程组概率模型的立方正则项方法是值得研究以及发展的。随机模型可以使用较少的样本点保持较高的质量，而不需要对样本集进行复杂的维护。应用随机投点的概率模型来处理非线性方程组中出现函数不可导或不确定的情形，使用欧氏范数将非线性方程组转化为随机优化模型，在迭代中将最小二乘随机优化模型重构成线性化最小二乘子问题。在求解子问题的过程中，通过引入仿射变换技巧性的去掉了有界约束，从而将原子问题转换成仿射最小二乘立方正则子问题。通过立方正则项方法获得下一迭代点并保证其具有足够下降量，且利用线搜索技术即得严格位于可行域内部的点。在合理的假设条件下，给出的有界约束非线性方程组概率模型的立方正则项算法具有整体收敛性和局部超线性收敛速率。

目录

摘要

符号和注记

第一章引言

1．1最优化问题提出

1．2线搜索技术与立方正则项方法

1．3非线性方程组系统

1．4本文主要结构

第二章算法

2．1随机投点概率模型

2．2 函数插值

2．3概率模型

2．4最优化问题转化

2．5立方正则项算法

第三章整体收敛性

3．1算法假设性条件

3．2算法引理

3．3算法整体弱收敛性

3．4算法整体强收敛性

第四章局部超线性收敛速率

4．1算法假设性条件

4．2算法局部超线性收敛定理

参考文献

致谢

声明