一种结合Focal Loss的不平衡数据集提升树分类算法

摘要

针对不平衡数据集分类问题中存在的难易样本不平衡问题,提出在提升树算法的基础上结合Focal Loss的不平衡数据集分类算法.分别在HTRU3、Yeast3、Test的不平衡数据集上对该算法与Borderline-SMOTE结合梯度提升树算法进行比较.实验结果表明,在HTRU2数据集上,该算法F1-score最高为0.970,而Border?line-SMOTE结合梯度提升树算法为0.972,虽然分类性能没有得到明显提升,但该算法仅需13次迭代便可收敛,而传统梯度提升树算法则需20次以上迭代才能收敛.在提升树模型中引入Focal Loss损失函数可有效提升模型收敛速度,且在一定程度上保持了模型分类性能.