一种新的基于Agent的神经网络隐层节点数的优化算法

摘要

本文提出了一种新的基于Agent的神经网络隐层结构的优化算法(OHA).该方法包括两个部分,分别由RL Agent 和NN Agent合作完成.RL Agent根据强化学习算法找到一个比当前节点数更优的解,并反馈给NN Agent.NN Agent据此构建相应的网络,并采用分层训练的算法对该网络进行优化,训练结果再发给RL Agent.在多次循环后,OHA算法就可以找到一个训练误差最小的全局最优解(权值及隐层节点数).本文讨论了有关的算法、测试和结果分析.Iris数据集和危险评估数据集的测试结果表明,算法避免了盲目搜索造成的计算开销,明显改善了优化性能.