基于Polyak步长的快速临近随机方差缩减算法

摘要

针对信号和图像处理、统计学和机器学习中的正则化风险最小化问题,把快速临近随机方差缩减梯度算法(FISTA-Prox-SVRG)和Polyak步长方法相结合,得到一种新的快速临近随机方差缩减梯度算法.通过数值实验将新算法FISTA-Prox-SVRG-Polyak与已有的两种算法FISTA-Prox-SVRG-BB、FISTA-Prox-SVRG进行比较,结果表明新算法是可行有效的.