一种基于分类器集成的手写维文字符识别方法

摘要

本发明公开了一种基于分类器集成的手写维文字符识别方法，属于模式识别领域，该方法首先对手写维文字符进行预处理，接着利用方向线素提取维文字符的特征向量，然后分别使用MQDF分类器和BP神经网络分类器对维文字符特征向量分类，对分类识别的结果即MQDF置信值集和BP神经网络置信值集进行集成，具体是通过两个置信值的加权和实现集成，得到最终置信值集，选择最大的置信值作为识别结果。本发明使用了两种分类器，并将结果集成，提高了识别率，本发明具有算法性能好、实时性强、可靠性高、识别率高的优点，主要应用于移动平台即手机上实现手写维文识别，为维文的信息化处理奠定了基础，为维文的文化交流开辟了新的方法和应用途径。

说明书

技术领域

本发明属于模式识别中的文字识别技术领域，主要涉及手写体识别领域，特别是 涉及手写维文字符识别领域，具体是一种基于分类器集成的手写维文字符识别方法， 用于在移动平台即手机上实现维文字符的手写输入。

背景技术

维吾尔文是新疆维吾尔民族交际和工作的主要文字之一，属阿尔泰语系突厥语 族，是一种粘连的拼音文字。现行的维吾尔文共有32个字母，其中有8个元音字母， 24个辅音字母，根据在单词中的位置不同，每个字母有前连式、后连式、双连式、单 立式等2～8种书写形式，总共有128个字符。从形体上看，维吾尔文字符采用自右 向左、自上向下的手写方式，沿着一条水平线即基线书写的部分称为主体部分，在维 文识别过程中用主体部分来辨别字符的主要形态，除基线以外的符号、点等称为附加 部分，附加部分是区分相似字符的依据。

维吾尔文由维吾尔单词组成，每个单词由几个到十几个维吾尔字符组成，字符沿 着基线相连书写。研究维吾尔文字符的处理和识别有助于提升新疆少数民族地区的文 化交流、信息交流和科技经济的发展。在市场上，维吾尔文印刷体文字识别系统已经 广泛的应用于维吾尔文信息处理的各个领域，如办公自动化、出版印刷业等多种方面。 但是，维吾尔文手写技术的研究还处于初步探索阶段。目前，手写维文识别方面的研 究和成果均较少，在中国申请的专利也较少，中国专利申请号2010102041177.5的发 明申请是西安电子科技大学卢朝阳等提出的一种手写体维吾尔文字符识别方法，该申 请提出了128类的手写体维文字符识别的方法，其首先提出了一种识别手写维文字符 的方法，奠定了手写维文字符识别的基础，该方法针对128类维文字符先建立维文字 符部件库和部件字典，是维文字符特征提取和识别的基础，然后对单个部件提取时分 方向特征，最后以加权距离融合函数综合各部件特征，用以识别整个字符。该发明申 请首先完整的建立了一种手写维文字符识别的方法，开创了手写维文字符识别的领 域，但其手写维文字符识别算法的最高识别率为84.23％，识别率不高。

目前，128类的维文单字符识别的研究还较少，识别率普遍较低。如何将维吾尔 文字符特定的书写规则与分类识别算法有效结合起来，以及将不同分类器集成，是手 写体维文识别一个亟待解决的问题。

发明内容

本发明的目的是克服现有技术存在的识别率较低的技术问题，提供一种识别率较 高和识别时间较短的基于分类器集成的手写维文字符识别方法，该方法采用不同的分 类器进行分类，并对不同的分类器进行集成，与使用单分类器的方法相比，其平均识 别率有了显著的提高。

为实现发明目的，本发明采用的技术方案说明如下：

本发明是一种基于分类器集成的手写维文字符识别方法：对手写维文字符的识别 过程包括：

步骤1对采集到的手写维文字符进行预处理，去除采集维文字符过程中附加的噪 声，得到规范化的维文字符；

步骤2提取维文字符的特征向量，将规范化的维文字符从对象空间映射到特征空 间，得到维文字符的方向线素，即维文字符的特征向量；

步骤3分别使用MQDF(Modified Quadratic Discriminant Function，修正的二次分 类函数)分类器和BP(Back Propagation，后向传播)神经网络分类器对维文字符特征向 量分类识别，得到分类识别结果，MQDF分类器的分类结果是置信值集1和BP神经 网络分类器的分类结果是置信值集2；

步骤4对两种分类识别的结果置信值集1和置信值集2进行集成，计算128个维 文字符中每个候选字符的两个置信值的加权和，确定最大的加权和值，得到最终的分 类识别结果。

本发明采用一种统计的方法，首先对维文字符进行预处理，去除由于手写所带 来的噪声，接着提取维文字符的特征向量，并将特征向量分别输入MQDF分类器和 BP神经网络分类器进行分类，最后对分类识别的结果集成，得到最终的识别结果并 给出候选集。

本发明的实现还在于：手写维文字符预处理过程包括：

1.1裁剪手写维文字符图像，去除维文字符图像中不包含文字轨迹点的区域，留 下包含文字轨迹点的区域；

1.2对裁剪后的维文字符进行归一化处理，将大小不同的维文字符图像归一化为 大小相同的图像；

1.3对归一化后的维文字符图像进行轨迹点重采样，每隔几个点进行采样，若原 图像中存在象素点比较紧密而归一化处理后象素点比较稀疏的地方则补象素点；

1.4对重采样后的维文字符图像进行滤波，得到规范化的维文字符。

本发明首先对维文字符图像进行裁剪，以图像中的文字为边界，将其中不包括文 字信息的部分去除，只保留包含文字的矩形区域。接着将裁剪后的图像进行归一化处 理，将裁剪后大小不一样的维文字符图像转换为大小一样的维文字符图像。然后将归 一化后的图像进行轨迹点重采样，减少由于归一化带来的字符拉伸、延展的畸变。最 后将重采样后的维文图像进行滤波，降低图像的噪声。

本发明的实现还在于：维文字符特征向量提取的过程包括：

2.1使用弹性网格对规范化的维文字符图像进行划分；

2.2计算每个网格内的象素点的方向线素，并计算出每个网格的方向象素；

2.3将维文字符的网格降维，并计算出降维后的维文字符每个网格的方向象素；

2.4对所有网格的方向线素进行合并，用合并后的方向线素表示维文字符的方向 线素，即维文字符的特征向量。

本发明特征提取过程中首先使用弹性网格分割维文图像。又计算网格内的每个象 素的方向线素，并计算每个网格的方向线素。将所有网格的方向线素合并，得到维文 字符的方向线素。

本发明的实现还在于：使用MQDF分类器和BP神经网络分类器进行分类的过程 包括：

3.1对115套的128类维文字符库进行划分，将其中的60套作为训练样本库，剩 余的55套作为识别样本库，115套128类手写维文字符库是基于移动终端即手机平台 采集的由维吾尔族人手写的字符库；

3.2使用MQDF分类器对60套训练样本库训练，得到128类维文字符的平均 MQDF确信度；

3.3将待识别维文字符的特征向量应用于MQDF分类器，得到对应的候选字符集 1，候选字符集1有128个候选字符；

3.4对待识别维文字符的MQDF候选字符集1进行概率处理，转化为候选字符集 1对应的后验概率，就是候选的置信值集1，置信值集1有128个置信值；

3.5使用BP神经网络分类器对115套的128类维文字符库进行划分，对其中的 60套训练样本库训练，得到神经网络分类器的系数；

3.6将待识别维文字的特征向量应用于BP神经网络分类器，得到对应的候选字 符集2，候选字符集2有128个候选字符；

3.7对待识别维文字符的BP神经网络候选字符集2进行概率处理，转化为候选 集对应的后验概率，就是候选的置信值集2，置信值集2有128个置信值。

本发明采用了不同的分类器分别对手写维文字符的特征向量进行分类，采用的 MQDF分类器和BP神经网络分类器复杂度低，易于实现。分类过程能充分考虑特征 向量在特征空间中分布的特点，具有较好的鲁棒性和较高的识别率。

本发明的实现还在于：对分类识别结果集成的过程包括：

4.1通过实验确定128个维文字符中每个候选字符的两个置信值(即MQDF的置 信值和BP神经网络的置信值)的加权和的权重系数γ_k；

4.2根据得到的加权和的权重系数γ_k，计算128个维文字符中每个候选字符的两 个置信值(MQDF的置信值和BP神经网络的置信值)的加权和 g_i(x)＝γ₁p₁(w_i/x)+γ₂p₂(w_i/x)，得到每个字符最终的置信值，128个维文字符的置信 值形成最终的置信值集，式中p₁(w_i/x)表示MQDF分类器对特征向量x所属类别w_i的 概率估计，p₂(w_i/x)表示BP神经网络对特征向量x所属类别w_i的概率估计；

4.3根据最终置信值集中128个置信值大小，选定最大的置信值对应的字符，确 定为待识别字符的识别结果。

本发明采用的分类器集成方法复杂度低，易于实现。相对于独立分类器，分类器 的集成可以充分利用各个独立分类器的优点，能有效提高维文字符的识别率。

与现有技术相比，本发明具有如下的优点：

(1)本发明复杂度低，实现较简单，具有较好的鲁棒性。

(2)本发明有效利用了不同分类器的优点，对不同分类器的集成就是集合不同 分类器的优点，提高了手写维文字符识别的平均识别率。

(3)本发明平均识别时间较短，达到了实用价值。

附图说明：

图1为本发明的算法示意图；

图2为BP神经网络的结构示意图；

图3为128个维文字符示意图；

图4为手写维文字符的部分样本；

图5为权值矩阵采样过程示意图；

图6为三种算法的平均识别率曲线图。

具体实施方式：

为了使本发明的技术方案更加清楚，下面结合附图对本发明作进一步的说明。

本发明是使用移动终端即手机平台采集的由维吾尔族人手写的字符库，在个人电 脑上(处理器Intel酷睿2双核T6400，内存2GB，主频2GHZ)进行了维文字符识别的 实验。本发明手写维吾尔文字符识别方法是基于128类维文字符，128类维文字符参 照图3。

实施例1

本发明一种基于分类器集成的手写维文字符识别方法，参见图1：对手写维文字 符识别过程包括：

步骤1对采集到的手写维文字符进行预处理，去除采集维文字符过程中附加的噪 声，得到规范化的维文字符。维文字符预处理过程包括：

1.1裁剪手写维文字符图像，去除维文字符图像中不包含文字轨迹点的区域，留 下包含文字轨迹点的区域。

1.2对裁剪后的维文字符进行归一化处理，将大小不同的维文字符图像归一化为 大小相同的图像。

1.3对归一化后的维文字符图像进行轨迹点重采样，每隔几个点进行采样，本例 中每隔3点采样，若原图像中存在象素点比较紧密而归一化处理后象素点比较稀疏的 地方则补象素点。

1.4对重采样后的维文字符图像进行滤波，得到规范化的维文字符。

步骤2提取维文字符的特征向量，将规范化的维文字符从对象空间映射到特征空 间，得到维文字符的方向线素，即维文字符的特征向量。维文字符特征向量提取的过 程包括：

2.1使用弹性网格对规范化的维文字符图像进行划分；

2.2计算每个网格内的象素点的方向线素，并计算出每个网格的方向象素；

2.3将维文字符的网格降维，并计算出降维后的每个网格的方向象素；

2.4对所有网格的方向线素进行合并，用合并后的方向线素表示维文字符的方向 线素，即维文字符的特征向量。

步骤3分别使用MQDF分类器和BP神经网络分类器对维文字符特征向量分类识 别，得到分类识别结果，MQDF分类器的分类结果是置信值集1，BP神经网络分类 器的分类结果是置信值集2。使用MQDF分类器和BP神经网络分类器进行分类的过 程包括：

3.1对115套的128类维文字符库进行划分，将其中的60套作为训练样本库，剩 余的55套作为识别样本库，115套128类手写维文字符库是基于移动终端即手机平台 采集的由维吾尔族人手写的字符库。

3.2使用MQDF分类器对60套训练样本库训练，得到128类维文字符的平均 MQDF确信度。

3.3将待识别维文字符的特征向量应用于MQDF分类器，得到对应的候选字符集 1，候选字符集1有128个候选字符。

3.4对待识别维文字符的MQDF候选字符集1进行概率处理，转化为候选字符集 1对应的后验概率，就是候选的置信值集1，置信值集1有128个置信值。

本发明采用的MQDF分类器易于实现，分类过程能充分考虑特征向量在特征空 间中分布的特点。

3.5使用BP神经网络分类器对115套的128类维文字符库进行划分，对其中的 60套训练样本库训练，得到神经网络分类器的系数。

3.6将待识别维文字的特征向量应用于BP神经网络分类器，得到对应的候选字 符集2，候选字符集2有128个候选字符。

3.7对待识别维文字符的BP神经网络候选字符集2进行概率处理，转化为候选 集对应的后验概率，就是候选的置信值集2，置信值集2有128个置信值。

本发明采用的BP神经网络分类器结构简单，具有较好的鲁棒性和较高的识别率。

步骤4对两种分类识别的结果置信值集1和置信值集2进行集成，计算128个维 文字符中每个候选字符的两个置信值的加权和，选择最大的加权和值作为最终的分类 识别结果。对分类识别结果集成的过程包括：

4.1通过实验确定128个维文字符中每个候选字符的两个置信值(即MQDF的置 信值和BP神经网络的置信值)的加权和的权重系数γ_k，取γ₁＝0.1，γ₂＝0.9。

4.2根据得到的加权和的权重系数γ_k，计算128个维文字符中每个候选字符的两 个置信值的加权和g_i(x)＝γ₁p₁(w_i/x)+γ₂p₂(w_i/x)，得到每个字符最终的置信值，128 个维文字符的置信值形成最终的置信值集。因为本发明采用了两个分类器，所以128 个维文字符中每个候选字符均有两个置信值，其中有MQDF的置信值和BP神经网络 的置信值，式中p₁(w_i/x)表示MQDF分类器对特征向量x所属类别w_i的概率估计， p₂(w_i/x)表示BP神经网络对特征向量x所属类别w_i的概率估计。

4.3根据最终置信值集中128个置信值大小，选定最大的置信值的字符，确定为 待识别字符的识别结果。

本发明使用了两种分类器，并将结果集成，提高了识别率。

实施例2

基于分类器集成的手写维文字符识别方法同实施例1，结合具体识别过程对本发 明做更详细的说明。本发明的算法如图1所示，主要包括5个部分：预处理、特征提 取、MQDF分类器、BP神经网络分类器、分类器集成。

第一部分，预处理。维文字符的预处理由四个部分组成，分别是裁剪、归一化、 轨迹点重采样、滤波。

(1)将手机上采集的手写维文字符的轨迹点保存下来，形成维文字符图像，如 图4所示，图4中前三行均为手写维文字符，第四行为该维文字符的对应印刷体。

对采集的维文字符图像进行裁剪，将图像中不包含文字信息的区域去除掉，只保 留图像中包含文字信息的矩形区域。

(2)对裁剪后的图像做归一化处理，将大小不同的p×Q的字符图像归一化为大 小相同的N×N的字符图像，其中P、Q为图像的行列数，P、Q取值由于手写的随意 性具有不确定性，N为图像归一化后的行列数，本例中N＝64，其实质就是对图像平 移和缩放。

(3)将大小相同的64×64的字符图像进行轨迹点重采样，即在图像中每隔几个 点进行采样，本例中每隔4点采样，若原图像中存在象素点比较紧密而归一化处理后 象素点比较稀疏的地方则补象素点，若图像中无上述现象，则不作补象素点处理。

(4)将重采样后的字符图像进行滤波，滤波采用字符象素点的前后3点加权平 均的方法，以减少了由于书写抖动等原因带来的噪声。

第二部分，特征提取。本发明提取的特征向量是方向线素特征向量，其过程如下：

(1)使用8×8的弹性网格将维文字符图像划分成8×8的网格，根据笔画密度函 数来划分，笔画密度大的区域网格密，笔画密度小的区域网格疏。

(2)计算每个网格内的象素点的方向线素。给定一个轨迹点P_j，它的方向特征 其向坐标中的每隔45度的8个方向上进行垂直投影，只有两个方向上有 投影值，其余方向上都是0，则8个方向上的值组成的向量就是轨迹点P_j的方向线素， 方向线素特征向量的维数为8。对网格内的所有点的方向线素求平均，得到每个网格 的方向线素。

(3)将维文字符的网格降维，并计算出降维后的维文字符网格的方向象素。将8×8 的网格扩展为9×9的网格，对8×8网格分别补充一行和一列，将原来网格的最后一 行和最后一列的特征向量赋给其后面新增加的行和列。使用权值采样矩阵$\left(\begin{array}{ccc}1& 2& 1\\ 2& 4& 2\\ 1& 2& 1\end{array}\right)$对9×9网格的特征向量进行加权和，将其变为4×4的网格，并得到4×4网格的每个网 格的特征向量，采样过程如图5所示。将4×4＝16个网格的特征向量相连合并成一个 16×8＝128维的方向线素特征向量，即为维文字符的特征向量。

第三部分，MQDF分类器。MQDF分类器使用修正的二次判别函数

其中，x为待识别维文字符的特征向量，μ_M是整个维文字符样本集的均值向量， λ_i(λ_i≥λ_i+1)和是特征向量x的协方差矩阵∑_M的第i个特征值和其对应的特征向 量，h²＝80，k＝5。

(1)对于采集到的115套的128类的维文字符库，将其中的60套作为训练样本， 剩余的55套作为识别样本。115套128类手写维文字符库是基于移动终端即手机平台 采集的由维吾尔族人手写的字符库，是西安电子科技大学维文字符识别研究的基础。

(2)训练样本训练的过程是：分别对60套的128类字符中的待识别字符的特征 向量求MQDF的值g(x)，对于每个类就有60个g(x)值，对其求平均得到每个类的平 均g(x)值，即平均MQDF确信值，对于维文有128类字符，则也有128个平均MQDF 确信值。

(3)识别样本识别的过程是：分别对55套的128类字符的特征向量求MQDF的 值g(x)，将这个值与128类字符的平均MQDF确信值进行比较，得到待识别字符相 对于128个字符中的每个字符的距离值d₁(i)，i＝1，…，128，距离最小的为最佳识别结 果。

(4)使用后验概率公式i＝1，…，128，其中x为待识 别维文字符的特征向量，d₁(i)为对于MQDF分类器，x到类w_i，i＝1，…，128中心的距 离，p₁(w_i/x)表示MQDF分类器对x所属类别的概率估计，求得待识别字符相对于 128个字符中的每个字符的后验概率值，就是相对应的置信值，所有128个置信值组 成的集合就是置信值集1。

第四部分，BP神经网络分类器。BP神经网络如图2所示，其通过输入训练样本 x对神经网络进行训练，即通过权值修正函数对神经网络权值系数w进行修正，使神 经网络得到确定的权值系数w。

(1)对于采集到的115套的128类的维文字符库，将其中的60套作为训练样本， 剩余的55套作为识别样本。

(2)训练样本训练的过程是：分别对60套的128类字符的特征向量x输入到BP 神经网络的输入端，得到输出值y，输出值y与已知的期望值d的误差为e＝d-y，已 知的期望值d有128个，通过权值修正函数w＝w+□w，□w为权值系数修正量，调 整神经网络的权值系数w，这是一次训练过程，经过反复的多次训练多次调整权值系 数w，最终确定神经网络的权值系数w，如图2所示。

(3)识别样本识别的过程是：分别将55套的128类字符中的待识别字符的特征 向量x输入到权值系数w已确定的神经网络，得到神经杨洛的输出值y，计算神经网 络的输出值y与已知的128个字符中的每个字符的期望输出值d的距离，得到待识别 字符相对于128个字符中的每个字符的距离值d₂(i)，i＝1，…，128，距离值最小的为最 佳识别结果。

(4)使用后验概率公式i＝1，…，128，其中x为待识 别维文字符的特征向量，d₂(i)为对于BP神经网络分类器，x到类w_i，i＝1，…128中心 的距离，p₂(w_i/x)表示BP神经网络对x所属类别的概率估计，求得待识别字符相对 于128个字符中的每个字符的后验概率值，就是相对应的置信值，所有128个置信值 组成的集合就是置信值集2。

第五部分，分类器集成。分类器的集成就是综合考虑使用不同分类器得到的置信 值集，对MQDF分类器和BP神经网络分类器的置信值进行集成，得到集成的置信值， 置信值最大的为最佳识别结果。

(1)计算待识别字符的128个维文字符中的每个字符的两个置信值(MQDF的置 信值和BP神经网络的置信值)的加权和g_i(x)＝γ₁p₁(w_i/x)+γ₂p₂(w_i/x)，γ₁为MQDF 的置信值的权重系数，γ₂为BP神经网络的置信值的权重系数，且γ₁＝0.2，γ₂＝0.8， 得到待识别字符最终的置信值集，最终的置信值集有128个置信值。

(2)根据待识别字符的最终的置信值集中的128个置信值大小，确定待识别字 符的识别结果，置信值最大的为最佳识别结果，同时也是第1候选，置信值大小为前 两个的为第2候选，置信值大小为前十个的为第10候选，以此类推。

实施例3

基于分类器集成的手写维文字符识别方法同实施例1-2，本发明所述的手写维吾 尔文字符识别系统的性能，可通过如下实验测试进一步说明。

本实验测试是在处理器为Intel酷睿2双核T6400，内存2GB，主频2GHZ的个人 电脑上完成的。实验采用西安电子科技大学智能信号处理与模式识别实验室的手写维 吾尔文字符集，字符集数据的采集是使用移动终端手机平台，由维吾尔族人书写，没 有任何书写限制，保证了样本的准确性和实用价值，该字符集含有128个字符类，每 个字符类有115套，选取其中的60套作为训练样本，剩下的55套作为识别样本，部 分样本参照图示4。。

实验采用三种算法，每种算法的特征向量均为方向线素特征向量，方向线素特征 提取方法参考文献A Study On the Use of 8-Directional Features For Online Handwritten  Chinese Character Recognition(Zhen-Long Bai and Qiang Huo，Proceedings Of The 2005 Eight International Conference On Document Analysis And Recognition，2005)，第一种算 法采用MQDF分类器，MQDF参考文献Modified Quadratic Discriminant Functions And  The Application To Chinese Character Recognition(Fumitaka Kimura，IEEE Transactions  On PatternAnalysis And Machine Intelligence，1987)，第二种算法采用BP神经网络分类 器，BP神经网络参考文献Neural Networks(Simon Haykin)，第三种算法采用本发明所 提出的MQDF分类器与BP神经网络分类器集成的算法。三种算法对所有识别样本的 平均识别率如图6所示，MQDF分类器的平均识别率为86.76％，BP神经网络分类器 的平均识别率为84.73％，MQDF和BP神经网络分类器集成的平均识别率为90.81％。

根据本发明基于分类器集成的维文字符识别方法，已成功实现了维文字符识别系 统，正如图6所示，对比算法一，算法二和算法三的平均识别率可知，在相同的提取 特征的方法下，本发明使用基于分类器集成的算法三比使用单分类器的算法一提高了 4.05％，比算法二提高了6.08％。本发明所采用的分类器集成的方法平均识别率较高， 识别结果比较可靠，同时也为维文字符的单词识别奠定了坚实的基础。

实施例4

基于分类器集成的手写维文字符识别方法同实施例1-2

表1列出了本发明基于分类器集成的手写维文字符识别方法的候选平均识别率， 手写维文字符的平均识别时间为15.6ms/字符。

表1本发明算法的候选平均识别率

  第1候选   第3候选   第5候选   第10候选   平均识别率   90.81％   94.43％   97.35％   99.22％

上述实验可知，本发明手写维吾尔文字符识别系统的第1候选平均识别率为 90.81％，第10候选平均识别率为99.22％，平均识别时间为15.6ms/字符，算法性能 达到了实用要求。

综上，本发明的基于分类器集成的手写维文字符识别方法，首先通过裁剪、归一 化、轨迹点重采样、滤波方法对手写维文字符预处理，接着利用方向线素提取维文字 符的特征向量，然后分别使用MQDF分类器和BP神经网络分类器对维文字符特征向 量进行分类，对分类识别的结果即MQDF置信值集和BP神经网络置信值集进行集成， 具体是通过两个置信值的加权和实现集成，得到最终置信值集，选择最大的置信值作 为识别结果。其过程如图1所示。本发明具有算法性能好、实时性强、可靠性高、识 别率高等优点，主要应用于移动平台即手机上实现手写维文识别，为维文的信息化处 理提供了一种新的方法，开辟了新的应用途径。