稀疏编码的有效算法

摘要

稀疏编码是对信息进行稀疏表示的一种方法，其目的是用少量的基函数线性组合来逼近输入信息，要求基函数含有数据的主要特征。在实际应用中，由于稀疏编码具有存储量大，联想记忆能力等优点，而广泛应用于图像处理、语音信号分离、模式识别等领域，是当前研究的热点。同时，由于稀疏编码存在计算量大，计算速度慢等问题，也是当前研究的难点。
　　本文首先介绍了稀疏编码算法的研究背景和意义，接着给出稀疏编码算法的相关理论知识，并且概述了三种经典的稀疏编码模型，然后详细介绍了Honglaklee提出的稀疏编码算法。通过分析指出lee提出的FS算法存在对零初始值的依赖性，对此我们提出了一种初始值改进的有效算法。用迭代最小二乘和迭代重加权分别对初始值进行预处理，使lee方法的初始值接近稀疏最优解，并且将改进的算法应用于图像处理中。数值实验结果表明，改进的算法增强了FS算法对初始值的鲁棒性，在求解优化问题时，有效地减少了迭代次数，提高了计算速度。