最小二乘问题精确罚的光滑牛顿——最速下降算法

摘要

约束非线性最小二乘问题在科学实验、科学计算、预测、仿真、设计和工程技术等领域有重要应用.本文对CNLLS问题采用Coleman等人提出的精确罚方法，通过引入罚项将约束问题转化为非光滑无约束问题.本文的主要贡献有两点.首先证明了Coleman等人提出的一阶稳定点等价于非光滑优化中的Clarke稳定点，在此基础上构造精确罚函数的二次连续可微的光滑函数，提出光滑牛顿-最速下降算法，将光滑化技术与具有局部超线性收敛性的牛顿法与具有全局收敛性的最速下降法结合证明了任何聚点都是无约束问题的Clarke稳定点.在度量回归问题、二阶最小二乘问题进行的数值实验表明精确罚函数光滑牛顿-最速下降方法能够高效的解决约束非线性优化问题，并且数值表现明显优于光滑最速下降法.

目录

声明

摘要

第1章绪论

1．1 引言

1．2精确罚函数

1．3光滑化理论

1．4逼近l1精确罚函数的光滑罚函数

第2章最小二乘问题精确罚的理论分析

2．1 无约束非光滑精确罚的一阶稳定点

2．2稳定点之间的等价性

2．3精确罚函数的二阶连续可微光滑化

第3章光滑牛顿-最速下降法

3．1算法设计

3．2全局收敛性分析

3．3可能的改进及推广

第4章数值实验

4．1线性约束最小二乘问题

4．2非线性约束二阶最小二乘问题

第5章结论

参考文献

作者简历

学位论文数据集