基于层次聚类的集成学习方法及应用研究

摘要

集成学习是机器学习领域四个主要研究方向之一，集成是指构建一个分类器的集合，并通过基分类器进行(权重)投票给出新数据的分类结果。随着数据采集和数据存储技术的飞跃发展，用于机器学习的数据集规模越来越大，利用单个学习器不一定能很好地解决某些学习问题，因此需要使用集成学习技术。集成学习最早被用来提高模型性能，或者减小选择到一个差分类器的可能性。现今，集成学习技术已经广泛地应用于传感器故障容错、手写字符识别、生物认证、辐射源识别、语言学、交通、医学、管理学等各个领域。　　论文对Boosting集成学习技术及应用进行了较深入研究，主要研究工作如下：　　(1)对集成学习进行了简单的说明，并针对集成学习中的数据量问题、计算量问题和分类函数的描述问题进行了详细的分析，最后用实验验证了分析的结论。　　(2)提出了一种基于层次聚类的集成学习算法。对于集成学习，长久以来人们一直关注的是希望通过提高基分类器之间的差异性来提高最终的性能。在分析了集成的整体性能与成员分类器性能及它们之间多样性关系的基础上，以成对多样性作为聚类距离，通过层次聚类对Boosting中弱分类器进行聚类选择，以准确性作为聚类选择标准，以提高原集成学习的多样性及分类性能。　　(3)利用haar特征和改进的Boosting算法，实现了一个用于人脸检测的多层级联分类器，实验表明该分类器能达到较好的识别性能。最后利用改进的人脸检测算法设计并实现了一个人脸检测应用系统。

目录

封面

声明

中文摘要

英文摘要

目录

第一章 绪论

1.1研究背景及意义

1.2国内外研究现状

1.3存在的主要问题

1.4本文主要工作及组织结构

第二章 集成学习相关技术

2.1 集成学习概述

2.2 构造单个基分类器方法

2.3 常用的集成方法

2.4 不同集成方法的比较

2.5 本章小结

第三章 基于层次聚类的集成学习算法

3.1 选择性聚类集成的相关研究

3.2 改进的基于层次聚类的集成学习

3.3 实验及分析

3.4 本章小结

第四章 基于CBoosting算法的人脸检测

4.1 人脸检测算法预备知识

4.2 基于CBoosting的多层级联分类器

4.3检测过程

4.4 实验分析及系统实现????

4.5本章小结

第五章 总结展望

5.1 总结

5.2 展望

参考文献

攻读学位期间主要的研究成果

致谢