基于多分类器动态组合的手写体数字识别

摘要

该文实现了基于分类器判决可靠度估计的最优线性集成方法.此方法提出了用于衡量分类器对单个样本识别性能的判决可靠度,在训练阶段根据各分类器的判决可靠度把训练样本分成不同的区域,从而可以在不同的区域里应用最优线性集成方法得出各区域的分类器组合权值.不同区域的样本所使用的组合权值是不同的,随着区域的细化,就更能体现出各分类器对于样本的性能差异.对于测试样本,同样计算出其各分类器的判决可靠度,得到测试样本所属的区域以及组合权值,就可以进行动态组合.与传统的最优线性集成方法相比,这种动态组合方法不再对所有的测试样本使用同一个权值,而是根据样本自身的特征使用最佳的组合方法.把这种方法应用到手写体数字识别中,识别正确率较静态最优线性集成方法有了显著的提高.讨论过基于分类器判决可靠度估计的最优线性集成方法之后,该文对分类器置信度理论进行了进一步的研究,并提出各类别置信度的概念.

目录

文摘

英文文摘

第一章绪论

1.1分类器组合概述

1.2分类器动态组合概述

1.3 OCR技术

1.4手写体数字识别系统的研究现状

1.5本文研究工作概述

1.6本文内容安排

第二章基于分类器判决可靠度估计的最优线性集成方法

2.1引言

2.2分类器组合的几种传统方法

2.3最优线性集成方法

2.3.1线性集成原理

2.3.2距离向后验概率的转换方法[19]

2.3.3应用模型Ⅰ

2.3.4应用模型Ⅱ

2.4分类器的判决可靠度

2.5判决可靠度与最优线性集成方法相结合

2.5.1概述

2.5.2权重W的定义形式

2.5.3最优权重W*的训练

2.5.4 Widrow-Hoff算法

2.6本文方法的应用步骤

2.7本章小结

第三章基于各类别置信度的多分类器组合方法

3.1引言

3.2分类器置信度

3.2.1广义置信度与置信度概念

3.2.2基于距离的分类器的广义置信度估计

3.2.3多层前向神经网络分类器广义置信度估计

3.2.4从广义置信度求置信度的方法

3.3分类器各类别置信度

3.3.1各类别广义置信度估计

3.3.2各类别置信度估计

3.3.3各类别置信度的实验结果

3.4各类别置信度的应用

3.4.1应用1

3.4.2应用2

3.5小结

第四章实验

4.1单分类器概述

4.1.1分类器理论

4.1.2单分类器实验数据

4.2基于分类器判决可靠度估计的最优线性集成方法实验

4.3基于各类别置信度的多分类器组合方法

4.4小结

结束语

致谢

参考文献

附录研究生期间发表的论文