求解一类非光滑凸优化问题的交替方向算法研究

摘要

随着“互联网+”的到来，物联网、云计算、大数据等这些新一代的信息技术逐渐出现人们的面前.虽然这给人们的生活带来了极大的便利，但是面对规模如此庞大的数据信息，特别针对求解实际中的一些优化问题，我们必须要考虑到计算机处理这些问题的时间.然而，计算时间的长短主要取决于处理这些优化问题的规模、结构以及算法的收敛速度.一般来说，传统的优化算法需要了解Hessian矩阵逆的信息，这对于求解具有复杂结构和高维的优化问题可能会耗费大量的时间和精力.而交替方向算法可以将复杂的大规模优化问题分解成多个小问题进行求解，使得其在处理这类优化问题中占有着独特的优势.
　　本文考虑的是一类非光滑无约束凸优化问题，其目标函数是一个光滑凸函数和一个非光滑凸函数的组合.针对求解此类非光滑优化问题的算法研究，本文提出了两种改进的交替方向算法，主要工作如下：
　　基于传统交替方向算法的框架，提出一种求解全变分问题的修正交替方向算法.该算法利用当前点的信息和前两个迭代点的信息得到修正的初始BB步长，并结合非单调线搜索技术，提出了修正的交替方向算法（MADM）.同时在理论上验证了该算法的收敛性，并将该算法分别在小规模、无噪声和大规模、有噪声的情况下应用于全变分图像重构问题.对重构后的结果，从运行时间，迭代次数，相对误差以及图像的重构效果这四个角度进行评价，与交替方向算法（TVAL3）进行对比，其数值实验结果验证了该算法的有效性.
　　基于加速交替线性化算法的框架，提出一种非精确加速交替线性化算法.该算法利用?-近似解代替子问题的精确解，并证明了算法具有较快的收敛速率.其次，通过对惩罚因子进行进一步的修正，得到了一种带有回溯步的非精确加速交替线性化算法，并从理论上对该算法的复杂性进行了详细的描述.最后，将该算法应用于压缩感知问题中，对重构后的结果，从迭代时间、迭代次数等方面与加速迭代算法（FISTA）和加速交替线性化算法（FALM）进行比对，数据结果表明了该算法的有效性.

目录

声明

插图索引

表格索引

符号对照表

缩略语对照表

第一章 绪论

1.1背景介绍

1.2非光滑优化算法

1.3优化的基础知识

1.4本文的主要工作

第二章 全变分模型的修正交替方向算法

2.1 引言

2.2 修正的交替方向算法

2.3 收敛性分析

2.4 数值实验

2.5本章小结

第三章 非精确加速交替线性化算法

3.1引言

3.2非精确加速交替线性化算法

3.3带有回溯步的非精确加速交替线性化算法

3.4数据实验

3.5本章小结

第四章 总结与展望

4.1研究总结

4.2研究展望

参考文献

致谢

作者简介