含有L_(21)范数正则化的在线顺序RVFL算法

摘要

单隐层前馈神经网络(SLFN)以其量级轻、参数量少、训练成本低等优点,目前被广泛地运用于函数逼近处理、模式识别和控制领域中。随机向量函数连接网络(RVFL)作为SLFN的一种,能够将输入层与输出层做直接相连,加强输出层与输入层的关联。然而目前的预测任务中,已经训练好的网络在面对批量数据会随时间不断变化的情况时,则容易显露出泛化能力不足问题。为了提升网络的泛化能力,并防止重复训练,本文提出了一种在线顺序的RVFL算法,使用L_(21)范数实现正则化。在UCI数据集上经过对多种相关参数的最佳选择后,与同类型的RVFL算法和LR_(21)-RVFL算法相比,本文提出的LR_(21)-OSRVFL算法在多种评价指标下均有更优表现。