模糊孪生支持向量机的改进及其求解方法研究

摘要

支持向量机是在统计学习理论的基础上发展起来的一种机器学习方法，其理论基础是统计学习理论的VC维和结构风险最小化原理。目前，研究人员对支持向量机进行了广泛的研究，并且提出了许多改进算法，比如模糊支持向量机、孪生支持向量机和模糊孪生支持向量机，这些方法不仅提高了算法的正确率，而且也减少了运行时间。为了进一步提高支持向量机的性能，本文对模糊孪生支持向量机进行了研究，提出了一种改进的模糊孪生支持向量机，即模糊孪生有界支持向量机，同时对模糊孪生有界支持向量机中的拉格朗日乘子的求解方法进行了研究。　　本研究主要内容包括：⑴提出了一种模糊孪生支持向量机的改进算法，即模糊孪生有界支持向量机。通过深入研究模糊支持向量机、孪生支持向量机和模糊孪生支持向量机，进一步秉承结构风险最小化原理，在模糊孪生支持向量机基础上对其进行了改进，提出了模糊孪生有界支持向量机，该方法不仅考虑了支持向量机的经验风险和结构风险，而且考虑了样本的重要性和噪声对超平面的影响，并且在分类正确率方面优于模糊孪生支持向量机FTSVM。⑵提出了模糊孪生有界支持向量机与模糊孪生支持向量机中拉格朗日乘子的迭代求解方法。为了获得模糊孪生支持向量机和模糊孪生有界支持向量机，通常采用求解一个凸二次规划问题来获得拉格朗日乘子，对于此种方法的求解，其计算时间较长，代价较高。为了进一步提高模糊孪生有界支持向量机与模糊孪生支持向量机的性能，本文采用逐次超松弛迭代方法求解模糊孪生支持向量机和模糊孪生有界支持向量机中的拉格朗日乘子，获得了求解拉格朗日乘子的迭代公式，表明了逐次超松弛迭代方法的收敛性。⑶实验研究了模糊孪生有界支持向量机与使用逐次超松弛方法求解拉格朗日乘子的支持向量机的性能。通过选取UCI数据库中的标准数据集，利用十重交叉验证方法研究了模糊孪生有界支持向量机和模糊孪生支持向量机的性能，且分别与使用传统求解拉格朗日乘子的支持向量机进行了实验比较。

目录