基于遗传算法的维权重支持向量机的研究

摘要

支持向量机的提出是基于二分类问题，它具有全局最优、结构简单、推广能力强等优点。经典的支持向量机使用均等的方式对各维属性进行处理(属性权重值均为1)，而在一个实际的分类问题中，各维属性对分类结果所贡献的力量是不一样的，是有主次之分的。
　　 所以，给每维属性赋予一个合理的权重值更符合实际的做法，使用智能优化算法——遗传算法优化维属性的权重值是有其研究意义的。
　　 论文的主要研究工作是，在借鉴现有的采用梯度递减算法为支持向量机属性加权的方法和采用信息增益为支持向量机维属性设置权重的方法基础之上，提出了采用遗传算法为样本属性加权，同时优化支持向量机的参数以此形成基于遗传算法的维权重支持向量机方法。该方法可以有效地解决传统支持向量机分类中每维属性在分类过程中作用均等这一不合理现象，使得支持向量机理论与客观问题的求解更加吻合，并有效地避免了梯度递减方法给属性加权易于陷入局部最优的情况。
　　 论文对基于遗传算法的支持向量机、基于遗传算法的信息增益维权重支持向量机和基于遗传算法的维权重支持向量机方法在两个UCI数据集合上分别做了测试，同时与梯度递减算法为属性加权的支持向量机做性能对比。从实验结果可以看出，基于遗传算法的维权重支持向量机无论在学习精度还是推广能力上均为最好。实验结果验证了为每维属性赋予一个合理的权重值的思想将有助于提高支持向量机的学习和泛化能力。