一种渐进式的深度学习模型的超参数寻优方法

摘要

本发明涉及一种渐进式的深度学习模型的超参数寻优方法，包括：步骤一：生成多个不同的深度学习模型，并从超参数空间中为每一个模型选取一组超参数；步骤二：在训练集上训练每一个模型一定的代数，步骤三：对模型按照性能的高低从高到低进行排序；采用逐次减半的方法，保留性能排名50％之前的模型；步骤四：在保留的模型中选取部分模型对模型的超参数进行扰动；步骤五：继续在训练集上训练每一个模型一定的代数，步骤六：判断是否满足最大迭代次数，如是则保存最优的模型并终止训练至结束。采用这种逐次减半的方式训练的超参数寻优方法,有利于使用更多的资源寻优表现优异的超参数，减少了相似模型的重复训练，使模型得到更优的性能。