基于遗传算法的混合学习和集成学习研究

摘要

智能学习领域中,混合智能学习是目前研究的热点,倍受人们的关注.目前这方面的研究已经取得了很多成果并得到了广泛应用.对于复杂系统,已经推广到应用三种智能技术或更多混合来进行求解.此外,集成学习这一新提出的学习思想,由于学习应用效果明显,引起了国内外广大学者的兴趣.该文正是围绕这两种学习思想进行了一系列的研究.该文基于混合学习和集成学习的思想,将两种学习理论应用于遗传算法,分别来解决组合优化问题、遗传算法参数选择问题;基于遗传算法对集成学习权重进行优化.该文的主要工作包括:(1)受混合学习的思想启发,提出了基于单亲遗传算法和模拟退火的混合优化算法.针对单亲遗传算法解决序号编码问题提出了一种新的编码方案,大大避免了不可行解的出现,缩小了搜索空间;同时在单亲遗传算法中加入了模拟退火思想,增强了遗传算法的局部搜索能力,解决遗传算法群体退化的问题;最后,对于一个物流运输过程中的车辆路径问题进行了仿真实验,验证了该算法的有效性.(2)针对遗传算法参数难于选择的问题,我们将集成学习思想应用于求解遗传算法的参数选择问题.该文主要是将不同的交叉概率、变异概率组合,形成不同的遗传算法,最后将单个算法的预测准确度作为学习权重来进行集成.最后,在UCI数据库上进行了仿真实验.特别地通过对带噪声数据的模拟分类实验说明了遗传算法在分类问题中的高预测准确度;并给出了一个度量算法差异性的概率指标,通过该指标的分析,可以得出单个遗传算法之间差异性很小等特征.(3)对于集成学习的代表性算法Boosting、Bagging进行了研究,并通过将两种算法应用于神经网络对其有效性进行了验证.同时,为了进一步提高集成学习的性能,我们在神经网络集成学习中引入了基于遗传算法的权重优化混合方法,对神经网络集成学习的权重进行进化调整,以提高集成学习的预测精度.最后在UCI数据库上进行了仿真实验,验证了该方法的有效性.