统计形状分析及混合建模理论研究

摘要

模式识别是一门以应用数学为理论基础，利用计算机应用技术，解决实际分类及识别问题的学问。统计和微分几何规范理论和技术在模式识别中有着广泛的应用，尤其是在形状分析以及混合模型的无监督学习问题中。 本文以统计理论和微分几何为理论基础，重点研究两方面的内容：(a)对基于微分流形的形状分析相关问题进行了较为系统的研究；(b)对于混合模型的无监督学习的理论和方法进行研究，尤其是模型分支数目的选择问题。 在基于微分流形的形状分析方面，以平面上的简单闭合形状为研究对象，深入研究基于该理论框架下的形状分析。在传统的方法中，统计形状分析主要是使用地标点(landmark)来建立形状特征关键点的数学模型，通过主成分分析来学习其关键点的参数，或水平集的方法来建立形状模型。但是这些方法都存在需要人工干预、不能实现拓扑变形等缺陷。因而，针对这些缺陷，我们需要构建一个统一的、具有拓扑不变性的形状空间。在此空间下，借助合适的概率模型，通过从训练集中学习到的关键参数，推导和演绎出其他未知形状，进而对形状进行识别。 本文以微分几何为分析工具，利用弧长为参数的函数去描述平面简单闭合形状，建立了一个无限维的微分流形。形状之间的变化被表示为这些流形上的李群作用。旋转，平移，缩放的不变性通过低维的群作用实现；形状平滑的连续变化模型可以通过高维的微分同胚群来建立，即借用微分几何中直线沿曲面上的曲线平行移动的方法，在形状空间中给出两个形状连续变化的测地线路径。 混合模型作为统计形状分析有力工具而备受关注，本文对混合模型的无监督学习理论和方法进行了深入研究。混合模型中一个关键的问题是模型中分支数目k的估计，一些经典的混合模型拟合方法(比如极大似然方法、Bayes方法)都是在固定k的情况下进行的。而实际应用中k的值多数是未知的，一般从数据集对其进行估计。估计k的值是期望最大化算法拟合有限混合模型的主要困难，只有获得正确的k后才能对模型其它参数进行估计。传统的模型选择方法是在原有的参数估计算法后加入一个准则函数，尝试多个可能的k(kmin-kmax)，并比较不同k下基于似然函数的某种准则函数的值，再根据某一检验准则对它们进行检验，选择检验结论好的那一个k作为最优分支数。这种方法需要估计多个k值下的参数，当混合模型的密度函数为t分布时，计算复杂度会变得异常的高。为了解决这个问题，本文提出了t混合模型的次胜者受罚的期望值最大化(RPEM)算法，其思路是在期望最大化算法中加入惩罚项，在似然函数里设计出特殊的加权项，使EM算法在初始类中心的位置参数更新时，分成获胜点和次胜点分别更新，获胜者取正的学习率，次胜者取负的学习率，将初始的部分种子点逐渐收敛到数据集的实际类中心，其余的种子点则被“推到”远离数据集的位置。该算法能够在一次参数估计中就实现对t混合模型的分支数的估计，具有良好的性能。

目录

文摘

英文文摘

论文说明：图表目录

声明

第一章绪论

1.1引言

1.2统计模式识别

1.3统计形状分析在模式识别中的作用

1.4模式识别中的无监督学习

1.5本文的研究内容与章节安排

第二章统计形状分析的理论和方法

2.1引言

2.2国内外研究现状

2.3主动轮廓线模型

2.4主动形状模型

2.4.1地标点

2.4.2主动形状模型的建立

2.5形状描述与特征提取

2.5.1形状的描述

2.5.2形状描述的傅立叶方法

2.5.3保持相位信息的傅立叶函数归一化

2.5.4基于概率模型的形状编辑距离

2.6小结

第三章微分流形形状分析的理论和方法

3.1引言

3.2流形的概念

3.2.1带参数的轮廓描述

3.2.2切线，方向函数和曲率函数

3.3基于微分流形的形状空间构建

3.3.1基于方向函数形状空间构建

3.3.2基于曲率函数的形状空间构建

3.4形状之间的测地线路径

3.5小结

第四章有限线性混合模型的无监督学习

4.1引言

4.2无监督学习已有算法

4.2.1分层的方法

4.2.2分割的方法

4.2.3图论的方法

4.3混合模型的无监督学习

4.3.1混合模型定义

4.3.2混合模型的可辨识性

4.4有限混合模型密度的参数估计方法

4.4.1参数估计的相关方法

4.4.2有限线性混合模型密度参数估计的极大似然方法

4.5有限线性混合模型参数估计的期望最大化算法

4.5.1混合模型参数估计的期望最大化算法

4.5.2基于多维高斯混合模型的期望最大化算法

4.5.3基于多维t混合模型的期望最大化算法

4.6实验结果

第五章混合模型分支数的选择

5.1引言

5.2解决模型分支数的研究现状

5.2.1似然函数法

5.2.2其他方法

5.3基于次胜者受罚的混合模型分支数的选择

5.3.1传统的竞争学习

5.3.2次胜者受罚的竞争学习

5.3.3次胜者受罚的有约束竞争学习算法

5.3.4随机的次胜者受罚的竞争学习算法

5.4基于次胜者受罚的混合模型分支数选择的算法

5.4.1加权极大似然估计

5.4.2基于加权极大似然估计的次胜者受罚期望最大化算法

5.5基于高斯混合模型的次胜者受罚期望最大化算法

5.5.1多维高斯混合模型的加权似然函数

5.5.2多维高斯混合模型的次胜者受罚期望最大化算法

5.6基于t混合模型分支数估计的次胜者受罚期望最大化算法

5.6.1多维t混合模型的加权似然函数

5.6.2多维t混合模型的次胜者受罚期望最大化算法

5.7实验结果

第六章总结

参考文献

攻读博士学位期间发表的论文

攻读博士学位期间所参加的科研项目

致谢