光滑支持向量机模型及算法比较

摘要

光滑支持向量机(SSVM)可以用牛顿法等快速算法求解,典型的光滑函数有sigmoid函数的积分函数、多项式函数、插值函数和样条函数。本文从理论和数值实验两个方面比较研究了这些光滑函数逼近正号函数的精度及SSVM模型的常用求解算法Newton-Armijo法、BFGS-Armijo法和Newton-PCG法的收敛速度。研究表明,光滑函数越逼近正号函数,解的精度越高,而训练时间也明显增加;Newton-Armijo法的收敛速度慢于后两种方法,而Newton-PCG法收敛速度最快。