一种改进的基于信息熵的半监督特征选择算法

摘要

随着数据量的爆炸式增长和数据维度的不断增加,如何从这些数据中快速地分析和挖掘出有用信息,是传统机器学习算法面临的巨大挑战。由于高维数据存在大量冗余信息,极大地降低了模型的预测性能和精度,因此降维就变成了数据预处理过程中十分重要的一个步骤。在研究了基于信息熵的半监督特征选择算法(Semi-supervised Feature Selection based on Entropy, SFSE)后,针对其时间复杂度较高的问题,文章优化了特征选择的过程,通过判断其信息熵的增加量是否大于给定阈值决定是否将其加入特征子集,并判断是否从特征子集中剔除该特征,降低了时间复杂度。实验结果表明,改进的SFSE算法能够在实现数据降维的同时提高算法的性能。