非光滑凸优化问题的快速迭代收缩阈值算法研究

摘要

快速迭代收缩阈值算法（FISTA）是一种求解无约束稀疏优化问题的有效算法.因其易于实现、要求储存量小以及实际计算效果好等优点，FISTA吸引了很多学者的关注. FISTA已经被推广到约束优化和非光滑优化，并且在图像处理和压缩感知等领域有广泛的应用.针对不同的问题设计高效的 FISTA是近年来的研究热点之一.然而，很多优化问题的目标函数都是非凸、非光滑甚至非Lipschitz连续的.目前，求解这些问题的FISTA还很少.本文研究一类非光滑凸优化问题，其目标函数是一个光滑凸函数和一个非光滑凸函数的和.针对这类问题，分别给出了一种改进 FISTA和重启FISTA.主要内容概括如下： 针对一类非光滑凸优化问题，结合Beck和Teboulle给出的FISTA，提出了一种改进 FISTA.该算法在第k次迭代开始时选取步长1/Lk为1/L0，这样选取的步长可以避免该算法在迭代初期遇到较大的Lipschitz常数，从而得到较好的迭代步长.该算法是一种非单调的算法，并从理论上证明了该算法的收敛速度.将该算法应用于求解Lasso问题，从运行时间、迭代次数、相对误差等方面进行比较，数值实验结果表明该算法是有效的. 针对改进FISTA是一种非单调的算法，结合Giselsson等人给出的重启技术，提出了一种求解非光滑凸优化问题的重启FISTA，并且证明了该算法的收敛速度，同时分析了该算法中的重启条件.将该算法和FISTA应用于求解Lasso问题，数值实验结果表明该算法在收敛速度上优于FISTA，同时将不同重启条件下的该算法应用于求解Lasso问题，数值实验结果表明重启条件为 T2的该算法在收敛速度上优于重启条件为T1的该算法.

目录

第一个书签之前