基于ℓ_(0)约束的稀疏线性判别分析

摘要

研究了在高维环境下的可解释分类问题,即特征的数量p非常大,而观测的数量是有限的。这种高维情况广泛存在于生物学、工程学和社会科学等领域。线性判别分析(LDA)是解决这一可解释分类问题的典型方法。然而,在高维情况下,LDA是不适合的,原因有二。首先,组内协方差矩阵的标准估计是奇异的;因此,不能使用传统的判别规则。第二,当p很大时,由于涉及p个特征,从LDA得到的分类规则是很难解释的。在这种情况下,受最优子集选择的原始-对偶活跃集算法的启发,我们提出了一种基于ℓ_(0)约束的稀疏线性判别分析方法,该方法在进行线性判别分析时施加了一个稀疏性标准,使分类和特征选择同时进行。在模拟和真实数据上的数值结果表明,与现有的替代方法相比,我们的方法取得了有竞争力的结果。