基于Fisher Score及遗传算法的特征选择方法研究

摘要

特征选择是机器学习领域研究的热点之一。本文通过介绍特征选择的相关背景及研究意义，分析一些特征选择方法的优缺点，利用过滤式和封装式这两类特征选择算法的互补性，提出一种基于Fisher Score及遗传算法的混合式特征选择方法。该方法先对所有特征的Fisher Score作一个线性变换，再利用变换后的Fisher Score生成遗传算法的初始种群，接着借鉴精英保留策略，用遗传算法的后续运算选出特征。以 Sonar，WDBC，Arrhythmia，Hepatitis这四个数据集作为实验数据，用该方法分别选出它们的特征子集，再依据所选特征子集对原数据集降维，用1-最近邻分类器对降维后的样本分类，通过10重交叉验证法分别获得72.36％，95.64%，72.04%和87.83%的分类准确率，并且所需的迭代次数较少，特征选择的综合效果基本优于Fisher Score法（FS）、遗传算法（GA）和Fisher Score+遗传算法（FSGA）这3种对比方法，同时该方法能很好地剔除冗余特征，选出具有较高鉴别力的特征，是一种有效的特征选择方法。

目录

封面

声明

中文摘要

英文摘要

目录

第一章 绪论

1.1特征选择的研究背景及意义

1.2本文的主要研究工作

1.3本文的组织结构

第二章 特征选择方法概述

2.1基于过滤的特征选择方法

2.2 基于封装的特征选择方法

第三章 基于Fisher Score及遗传算法的混合式特征选择

3.1 初始种群的产生

3.2 适值函数

3.3精英保留

3.4选择策略

3.5遗传运算与停止准则

第四章 特征选择及数据分类实验

4.1 实验数据

4.2 对比实验及参数设置

4.3 实验结果分析

4.4讨论

第五章 总结与展望

5.1总结

5.2展望

参考文献

硕士在读期间发表的论文

致谢