基于改进遗传算法的神经网络输入约简

摘要

基于神经网络的分类器是模式识别领域中广为使用的一种分类方法。为了得到精度很好的神经网络分类器模型，需要对神经网络的训练数据进行特征约简，删除冗余特征和无关特征。约简后的训练数据不仅可以优化神经网络的结构，减少冗杂的隐含层节点，更重要的是，它可以大大提高神经网络的训练速度，并降低神经网络的分类误差。
　　 特征最优组合问题是一个NP问题，会随着特征个数的增加而出现组合爆炸，其时间以指数级别增长，传统的优化方法难以胜任。为此，设计了一种通用的基于遗传算法的特征组合优化方法。该方法将特征组合视为一个个体，由多个个体组成一个群体，通过种群的选择、交叉、变异，逐代演化从而得到较优的组合。
　　 为了解决初始种群远离最优个体，导致的收敛速度慢、易陷入局部极少的问题，在种群初始化时，计算各个特征的信息增益，作为各个特征对类别的区分度，对于信息增益值大的特征，给予更大的被选入初始个体的概率。为了节省个体适应度值计算时间，采用Hash表保存每代具有不同基因序列的个体，以便进一步加快遗传进化的速度。
　　 采用机器学习公共数据库—UCI(UCI Machine Learning Repository)中的14个数据集，对每个数据集进行了10次实验，每次实验都以十次交叉验证方式得到结果，10次实验结果均值作为每个数据集的最终结果。
　　 实验表明，信息增益启发下的初始化种群方式，能够有效改进遗传算法的性能，提高初始种群适应度的整体水平，并加快遗传算法的收敛速度，快速得到较优的特征组合，从而优化了神经网络的结构，提高了神经网络的训练速度，降低了神经网络的预测误差。

目录

文摘

英文文摘

声明

1 绪 论

2 系统架构及总体设计

3 特征约简方案及详细设计

4 实验和结论

5 总结和展望

致谢

参考文献