非线性最小二乘问题的正则化算法研究

摘要

在空间数据处理中，绝大多数的数学模型都是非线性模型，其观测方程均具有很强的非线性性。一般地，在求解非线性测量平差模型时，各类方法的解算思路均基于非线性的最小二乘原理，而其中最传统最常用的方法就是先对非线性问题实行线性化策略，接着按解决线性模型的相关理论和方法来处理。可是在面对非线性强度很强的模型时，这种线性近似法显然已难以满足精度要求，而且其自身对级数展开的初值点也十分敏感。所以，有必要研究一类对初值依赖性较低并能大范围收敛的高效算法。这不仅仅具有重要的理论意义，还为更完善地解决实际工程问题提供实践价值。 本文根据非线性最小二乘原理，结合正则化理论，充分考虑测量实际，对不适定的非线性最小二乘问题进行了深入研究，主要的研究内容有以下几方面： （1）论文首先对非线性的最小二乘参数估计的基本原理及其几何意义进行了概括，再对数值迭代法中较为常用的牛顿法、最速下降法、信赖域法、高斯—牛顿法和高斯—牛顿法的改进算法等方法进行了详细讨论，最后研究了针对非线性最小二乘问题的数值迭代公式的统一模型和矩阵病态性的诊断方法。 （2）研究了非线性最小二乘的Landweber正则迭代算法，该算法不需要迭代矩阵求逆运算，就可避免因矩阵求逆而出现的不适定性现象。通过对数值实验的结果进行分析研究，验证了该方法具有实用性特点。 （3）构建了非线性最小二乘的正则同伦改进算法，论文将正则化方法和同伦延拓思想相结合，通过添加一个稳定泛函使其稳定，再结合最小二乘原理，引入步长因子?以避免迭代过程的波动性，推导出了其迭代格式。该算法对初值的依赖性相对较低，解相对稳定，该算法是适用的。 （4）论文基于Tikhonov正则化理论，结合高斯—牛顿迭代法，构造了一个稳定泛函，建立了非线性最小二乘的Tikhonov正则化高斯—牛顿法，该算法在一定程度上避免了迭代过程中迭代矩阵的病态性。 （5）论文给出路基沉降中泊松预测模型的测量实例，将本文所提及的正则类算法和经典数值迭代法的拟合结果进行对比分析，证明了正则类算法的实用性及有效性。 选择不合适的函数模型或解算方式有可能会导致非线性最小二乘问题求解失败，尤其是数值迭代法中涉及迭代矩阵的求逆运算和初始点的选取问题。所以为了避免秩亏或病态现象的产生，非常有必要深入地对非线性最小二乘的正则化理论及方法进行研究。