基于神经正切核的多核学习方法

摘要

多核学习方法是一类重要的核学习方法,但大多数多核学习方法存在如下问题:多核学习方法中的基核函数大多选择传统的具有浅层结构的核函数,在处理数据规模大且分布不平坦的问题时表示能力较弱;现有的多核学习方法的泛化误差收敛率大多为O(1/√n),收敛速度较慢.为此,提出了一种基于神经正切核(NTK)的多核学习方法.首先,将具有深层次结构的NTK作为多核学习方法的基核函数,从而增强多核学习方法的表示能力.然后,根据主特征值比例度量证明了一种收敛速率可达O(1/√n)的泛化误差界;在此基础上,结合核对齐度量设计了一种全新的多核学习算法.最后,在多个数据集上进行了实验,实验结果表明,相比Adaboost和K近邻(KNN)等分类算法,新提出的多核学习算法具有更高的准确率和更好的表示能力,也验证了所提方法的可行性与有效性.