修改的BFGS方法在非线性对称方程组中的应用

摘要

BFGS方法是一个著名的解无约束最优化问题的拟牛顿方法.它只需利用目标函数值和一阶导数的信息,而不需要明显形成Hesse矩阵,同时具有收敛速度快和数值表现好的优点.Powell(1976)和Werner(1978)分别证明了BFGS方法对一致凸函数的收敛性,Ritter(1981)证明了Bronden族的收敛性;许多线性搜索技术的研究更推动了拟牛顿法的发展,Dennis和More在1974年,以及Ghewank和Toint在1982年分别证明了步长为1的线性搜索的BFGS方法的超线性收敛性;Wolfe(1969),(1971),Stoer(1975),Powell(1976)以及Warth和Werner(1977)都给出了相应的搜索技术;Nocedal(1989)给出了新的分析工具;近年来,许多学者又给出了许多修改的BFGS方法,例如,Fukushima,祁力群,韦增欣,李董辉等,并分析了所给方法的收敛性.著名的Guass-Newton方法最早是用来解非线性最小二乘问题的,许多学者在对其方法的研究中取得了进一步发展.Womersley(1985)在较强的假设条件下证明了高斯-牛顿法的局部二次收敛性.Burke和Hem(1986)研究了用此方法来解决不等式问题;Burke和Ferris(1993)又用此方法研究了其在凸的复合优化问题方面的应用.Li和Fukushima(1999)将Guass-Newton方法与BFGS方法相结合,研究了其在非线性对称方程组中的应用,分析了收敛性,并给出了数值检验结果.该文就是在Li和Fukushima研究的基础上,对Guass-Newton基础的BFGS方法在非线性对称方程组中的应用作了进一步的研究,修改了校正公式,得到了一些较好的性质,新的方法能保持校正矩阵是正定的.该文给出了一个修改的算法,在适当的条件下建立了此算法的全局收敛性和超线性收敛性,并给出了数值检验结果.该文结构安排如下:第一章拟牛顿条件;第二章高斯-牛顿法;第三章一种解非线性对称方程组的BFGS方法;第四章一个修改的解非线性对称方程组的BFGS方法;第五章修改方法的进一步研究.

目录

文摘

英文文摘

第一章拟牛顿法

§1.1引言

§1.2拟牛顿条件

§1.3 BFGS校正

§1.4本章小结

第二章高斯-牛顿法

§2.1引言

§2.2高斯-牛顿公式

§2.3本章小结

第三章一种解非线性对称方程组的BFGS方法

§3.1引言

§3.2 Gauss-Newton基础的BFGS方法

§3.3本章小结

第四章一个修改的解非线性对称方程组的BFGS方法

§4.1引言

§4.2y*k的引入

§4.3全局收敛性分析

§4.4超线性收敛性分析

§4.5数值结果

§4.6本章小结

第五章修改方法的进一步研究

§5.1引言

§5.2算法的进一步研究

§5.3数值结果

§5.4本章小结

结论

References

致谢

攻读硕士学位期间完成和发表的论文

附录：数值检验的MATLAB程序