GPU上基于改进精英策略差分演化的神经网络学习算法

摘要

神经网络在诸多领域中取得了极为成功的应用,然而传统基于梯度下降的神经网络学习算法容易陷入局部最优,导致欠拟合,影响了神经网络模型的学习效果.针对该问题,提出GPU上基于改进精英策略差分演化的神经网络学习算法,利用损失函数梯度信息初始化一部分种群个体,同时利用变异种群精英信息指导搜索,并且在GPU上并行演化,在机器学习算法基准测试数据集上与传统基于误差反向传播的神经网络学习算法以及传统基于差分演化的神经网络学习算法进行了对比.同时,也与CPU上改进精英策略差分演化的神经网络学习算法的性能进行了比较,结果表明本文提出的算法训练时间更短,预测精度更高.