基于局部有效性的选择性决策树集成

摘要

集成学习通过为同一个问题训练出多个个体学习器并将结论进行合成，可以显著地提高学习系统的泛化能力。本文对此进行了研究，并通过在局部样本空间上选择学习器，提出了一种基于局部有效性的选择性集成算法Lovsen。该算法使用k近邻来确定个体学习器在局部样本空间的有效性，从而为待预测的样本选择合适的个体学习器进行集成。实验结果表明，Lovsen可以较为稳定地生成泛化能力较强的决策树集成。