超声图像胎儿颜面部标准切面自动识别方法及系统

摘要

本发明涉及一种超声图像胎儿颜面部标准切面自动识别方法，包括如下步骤：对原始超声图像进行预处理；对预处理后的超声图像采用RootSIFT进行特征提取；对上述提取的特征利用混合高斯模型进行变换，对变换后的混合高斯模型进行Fisher向量编码，并获得向量编码的直方图的值；对直方图进行归一化以得到特征向量；根据所述特征向量采用基于随机双协调机制的SVM分类器对标准切面进行学习和识别。本发明还涉及一种超声图像胎儿颜面部标准切面自动识别系统。本发明能够提高医生诊断结果的准确性，减少工作量及缩短诊断时间。

说明书

技术领域

本发明涉及一种超声图像胎儿颜面部标准切面自动识别方法及系 统。

背景技术

超声成像由于低消耗、实时成像及无辐射广泛应用于妊娠诊断中。 在超声成像检查中，标准切面的获取是生物测量和诊断的先决条件。在 超声诊断的过程中，临床医生最先标注标准切面，通过标准切面检查主 要解剖结构，然后再进行进一步的诊断和检查，根据胎儿生长情况做出 分析和诊断。

在目前的超声诊断过程中，标准切面的获取过度地依赖于医生的临 床经验以及解剖结构知识，标准切面的获取不仅对新手极具挑战性，对 有经验的医生也很耗费时间。而且在欠发达国家，有经验和专业知识的 医生非常稀缺。因此，精确自动的识别标准切面不仅非常有用，而且适 用于有经验和无经验的操作者，这项技术对贫困国家非常有利。

近年来，从超声图像中自动识别标准切面获得了广泛的关注和发展。 由于标准切面与非标准切面之间的差异很小，标准切面很高的类内变化 主要由于各种妊娠年龄、不同的胎儿姿势和各种扫描方向以及超声图像 中斑纹和噪声的存在。目前，标准切面的自动识别仍然非常具有挑战性， 也是一个难题。

发明内容

有鉴于此，有必要提供一种超声图像胎儿颜面部标准切面自动识别 方法及系统。

本发明提供一种超声图像胎儿颜面部标准切面自动识别方法，该方 法包括如下步骤：a.对原始超声图像进行预处理；b.对预处理后的超声图 像采用RootSIFT进行特征提取；c.对上述提取的特征利用混合高斯模型 进行变换，对变换后的混合高斯模型进行Fisher向量编码，并获得所述 向量编码的直方图的值；d.对直方图进行归一化以得到特征向量；e.根据 所述特征向量采用基于随机双协调机制的SVM分类器对标准切面进行 学习和识别。

其中，所述的预处理包括图像降噪和图像增强。

所述的步骤b包括：对于预处理后的超声图像，手动选择感兴趣区 域；对所述感兴趣区域密集采样；用RootSIFT对密集采样后的感兴趣 区域进行特征提取。

所述的混合高斯模型基于对角协方差矩阵假设产生K个高斯分布， 对一组局部描述符用Fisher向量编码成一个独立的矢量。

所述的标准切面包括矢状面、冠状面和柱状面。

本发明还提供一种超声图像胎儿颜面部标准切面自动识别系统，包 括相互电性连接的预处理模块、特征提取模块、编码模块、归一化模块 及识别模块。其中，所述预处理模块用于对原始超声图像进行预处理； 所述特征提取模块用于对预处理后的超声图像采用RootSIFT进行特征 提取；所述编码模块用于对上述提取的特征利用混合高斯模型进行变换， 对变换后的混合高斯模型进行Fisher向量编码，并获得所述向量编码的 直方图的值；所述归一化模块用于对直方图进行归一化以得到特征向量； 所述识别模块用于根据所述特征向量采用基于随机双协调机制的SVM 分类器对标准切面进行学习和识别。

其中，所述的预处理包括图像降噪和图像增强。

所述的特征提取模块具体用于：对于预处理后的超声图像，手动选 择感兴趣区域；对所述感兴趣区域密集采样；用RootSIFT对密集采样 后的感兴趣区域进行特征提取。

所述的混合高斯模型基于对角协方差矩阵假设产生K个高斯分布， 对一组局部描述符用Fisher向量编码成一个独立的矢量。

所述的标准切面包括矢状面、冠状面和柱状面。

本发明超声图像胎儿颜面部标准切面自动识别方法及系统，能够实 现超声图像中胎儿颜面部标准切面的成功识别。在超声图像中，标准切 面的自动识别是提高医生诊断效果，减少繁琐工作量以及诊断过程时间 的有效方式。此外，本发明也可应用到其他领域的分类和检测中，也可 以用于其他器官的标准切面（如：腹部，心脏，前列腺，肺和肝脏）的 分类，以及预测和识别癌细胞。

附图说明

图1为本发明超声图像胎儿颜面部标准切面自动识别方法的流程图；

图2为本发明超声图像胎儿颜面部标准切面自动识别系统的硬件架 构图。

具体实施方式

下面结合附图及具体实施例对本发明作进一步详细的说明。

参阅图1所示，是本发明超声图像胎儿颜面部标准切面自动识别方 法较佳实施例的作业流程图。

步骤S401，对原始超声图像进行预处理。具体而言，在识别标准切 面之前对原始超声图像进行预处理，所述预处理包括图像降噪和图像增 强。

步骤S402，对预处理后的超声图像采用RootSIFT进行特征提取。 对于预处理后的超声图像，可以手动选择感兴趣区域（Regionof Interest， ROI），以减少搜索范围。所述感兴趣区域包括矢状面区域、冠状面区 域和柱状面区域。对所述感兴趣区域密集采样，而后用RootSIFT进行 特征提取。将所述超声图像划分成小块，用RootSIFT块述符来代表每 个小块。具体步骤如下：

本实施例中，所述特征提取是基于RootSIFT并利用SIFT （Scale-invariant feature transform，利用尺度不变特征转换）的非线性变 换，表示如下：

RootSIFT＝sqrt(SIFT/sum(SIFT)).

利用RootSIFT的特征提取类似于在原始的SIFT特征中运用 Hellinger（即Hel.）核。RootSIFT优于SIFT，因为欧式距离在RootSIFT 向量相当于最初SIFT中用到的Hel.核，或者Chi2距离证明在识别性能 上优于欧式距离。

由于欧式距离对距离远的特别敏感，而Hel.距离经常受小距离控制。 Hel.距离表示为l₁的规一化x和y(n-矢量数)计算如下：

$H(x,y)=\underset{i=1}{\overset{n}{\Sigma }}\sqrt{x_i{y}_i}.$

假设||x||₂＝||y||₂＝1，欧式距离定义为：

$d_E(x,y)={\left|\right|x-y\left|\right|}_2^2={\left|\right|x\left|\right|}_2^2+{\left|\right|y\left|\right|}_2^2-{2x}^{T}y=2(1-x^{T}y).$

将x用x'替换（x'是元素的平方根），x'是l₂的规一化，在特征图 谱空间的欧式距离就相当于原始空间的Hel.距离。

x'^Ty'＝H(x,y).

使用RootSIFT描述符，基于SIFT的欧式距离每一步都可以很容易 的进行转换，没有额外的成本、存储和处理空间。

步骤S403，对上述提取的特征利用混合高斯模型（Gaussian Mixture  Model，GMM）进行变换，对变换后的混合高斯模型进行Fisher向量（FV） 编码，并获得所述向量编码的直方图的值。所述GMM基于对角协方差 矩阵假设产生K个高斯分布，对一组局部描述符用FV编码成一个独立 的矢量。具体而言：

本实施例中采用GMM模型，以提高识别性能。用K-means学习得 到编码{μ_k,k＝1,...,K}，一组局部描述符：{x_m,m＝1,...,N}。提取特征向量的 步骤如下：

邻近分配：

$\mathrm{NN}\left(x_m\right)=\underset{{\mu }_k}{\arg \min }\left|\right|x_m-{\mu }_k\left|\right|.$

计算v_k：

$v_k=\underset{x_m:\mathrm{NN}\left(x_m\right)={\mu }_k}{\Sigma }{x}_m-{\mu }_k.$

关联v_k和规一化所有的特征向量。

在图形表示中，一个固定长度向量v_k的维数依赖于参数的数量。为 了选择最合适数据的参数，需要关联到更多的数据统计。总之，特征向 量对应混合高斯（GMM）模型。

用FV对混合高斯模型的衍生对数概度进行编码。高斯均值和方差 的一次和二次求导，密集特征与混合高斯模型（GMM）中心之间的计 算如下：

${\Phi }_k^{\left(1\right)}=\frac{1}{N\sqrt{w_k}}\underset{m=1}{\overset{N}{\Sigma }}{\gamma }_m\left(k\right)\left(\frac{x_m-{\mu }_k}{{\sigma }_k}\right),$

${\Phi }_k^{\left(2\right)}=\frac{1}{N\sqrt{2w_k}}\underset{m=1}{\overset{N}{\Sigma }}{\gamma }_m\left(k\right)(\frac{{(x_m-{\mu }_k)}^2}{{\sigma }_k}-1),$

其中，{w_k,μ_k,σ_k}是GMM的混合权重、均值和对角斜方差，γ_m(k)是 第K个高斯分布的第m个特征的软分配权重。通过将不向的向量的关 联到一起：得到FVφ。编码主要的目的， 区分一个特定测试图像与所训练图像之间的分布差异。FV是软分布 VLAD的高阶统计和BoVW的重要扩展。对于D维特征向量，所述BoVW 和FV的主要区别可以表示为：

φ_BoVW(x_m)＝[0,...,0,1,0,...,0],

FV的维数比传统的BoVW方法要高，因此用PCA（主成分分析） 来降低特征向量的维数以及处理时间。由于不相关特征和GMM协方差 对角矩阵假设是一致的，PCA降维的之后也是满足协方差对角矩阵假设 的。在本实施例中，每个图像像素共生成128个特征向量。通过PCA， 特征维数由128降到64。

步骤S404，对直方图进行归一化以得到特征向量，也即，用直方图 表示FV聚类的K-means算法。具体步骤如下：

考虑到训练数据集的多样性，对特征值进行归一化以提高识别是非 常有效的。选取合适的l_p归一化特征值对提高分类结果非常有帮助，这 样可以有效地去除背景信息。每个矩阵除以相应的规一化值，l_p归一化 后特征矩阵分布在半径为1的球面上。l_p幅值用实数表示，当p≥1时定 义如下：

${\left|\right|x\left|\right|}_p={\left(\underset{i=1}{\overset{n}{\Sigma }}{\left|x_i\right|}^p\right)}^{1/p},$

其中，p=1为l₁归一化，p=2是l₂也就是欧式距离归一化。

假设一个数据集，u_i～U(p,n)遵循p分布，在n维空间的单位球面上 使用i.i.d.模型和特征矩阵的分布，封闭形式来解规范化坐标：表示为：

${\psi }_{p,n}\left(u_i\right)=\frac{\mathrm{p\Gamma }(n/p)}{2\Gamma (1/p)\Gamma ((n-1)/p)}{(1-{\left|u_i\right|}^p)}^{(n-1)/p-1},u_i\in [-\mathrm{1,1}],$

其中，Γ(·)是伽马函数，上式中当p=2时符合高斯分布。

如果数据是一个广义的高斯分布，用l_p归一化是有效方法。l_p幅值 可以定义为寻求一个最大熵的pdf.

$f_p\left(x\right)=\frac{p(1-1/p)}{2\Gamma {(1/p)\left({\sigma }_p\right)}^p}\exp (1-\frac{{|x-x_0|}^p}{p{\left({\sigma }_p\right)}^p}),$

其中，(σ_p)^p＝constant常量和(σ_p)^p＝1.为了减少交叉空间维数的差异， 特征缩放比例非高斯级用类似高斯的特征来表示。l₂可以消除与内容无 关的背景信息。

一般来说，一些突发的能量值会影响由SVM分类器的相似性得分， 所述突发的能量值可能导致次优相似性得分。因此，在特征矩阵中的较 大值相应应该得到抑制。一个简单而有效的方法，如功率归一化定义 为：

z←sign(z)|z|^ρ,0≤ρ≤1.

在本实施例中，ρ设置为：ρ＝0.5，它表示平方根或者更简单的平 方根，进行功率规一化可以减少稀疏化数据的突发性特征的影响。除以 之外，功率规一化被认为是Hel.核的明显数据显示。值得注意的是，由 平方根变换的功率归一化是不特定并对标准切面的识别有利。

步骤S405，采用随机双协调（SDCA）机制对标准切面进行学习和 识别，以提升SVM分类器进行分类。一对多的SVM分类器基于SDCA， 根据余弦相似性度量对超声图像进行分类。具体步骤如下：

支持向量机已应用广泛的识别算法，使用统计学习理论和结构风险 最小化原则找到全局最优解。SVM最主要的优势是可以处理大尺寸数据， 用于解决识别问题。一对多的评分方案来识别超声图像中的不同切面。 评分函数在SVM分类超平面H定义为：

H:w^Tx_i+b＝0,i＝1,2,...,n,

其中，x₁,x₂,...,x_n是输入的向量RD维内，b∈R是偏置参数，w₁,w₂,...,w_n是向量的权重，T表示转置运算符。支持向量机的主要目的是获取最优 w₁,w₂,...,w_n值，SDCA是探索，因为其能够通过高精确度双重目标获得这 些最佳值。同时，SVM中的目标函数通过不用损失函数的SDCA进行 最小化。标签y₁,...,y_n属于{±1}，支持向量机问题的线性内核和无偏差项 定义为：

Ψ_i(α)＝max{0,1-y_iα}.

这个问题可以转化为解决最小其中：

$P\left(w\right)=[\frac{1}{n}\underset{i=1}{\overset{n}{\Sigma }}{\Psi }_i\left(w^T{x}_i\right)+\frac{\lambda }{2}{\left|\right|w\left|\right|}^2].$

上述Ψ_i(α)＝max{0,1-y_iα}.的对偶问题的由SDCA解决：

其中$\Omega \left(\alpha \right)=[\frac{1}{n}\underset{i=1}{\overset{n}{\Sigma }}-{\Psi }_i^{*}(-{\alpha }_i)-\frac{\lambda }{2}{\left|\right|\frac{1}{\mathrm{\lambda n}}\underset{i=1}{\overset{n}{\Sigma }}{\alpha }_i{x}_i\left|\right|}^2].$

令初始化w⁽⁰⁾＝w(α⁽⁰⁾)，目标函数每次迭代t获得：

$-{\Psi }_i^{*}(-({\alpha }_i^{(t-1)}+\Delta {\alpha }_i))-\frac{\mathrm{\lambda n}}{2}{\left|\right|w^{(t-1)}+\frac{1}{\mathrm{\lambda n}}\Delta {\alpha }_i{x}_i\left|\right|}^2.$

更新规则如下：

α^(t)←α^(t-1)+Δα_ie_i.

w^(t)←w^(t-1)+(λn)^-1Δα_ix_i.

最后，输出结果通过SDCA方法输出的α和w的平均值获得。

本实施例中，PCA首先应用于学习线性投影：W∈R^D'×D,D'＜＜D，从 高维到低维：PCA映射后，如果i和j来自相同的图像， 则两幅图像之间的欧式距离的平方值或者学习后的阈值： 会变小；反之，则会变大。SVM问题可通过下面 的约束解决：

公式1

其中，当且仅当图像来自同一类时，y_i,j=1。这种投影可以被视为一 个在原始空间中的低秩度量：

公式2

其中，W^TW是马氏矩阵。由于分解，这个矩阵的秩等于D'，小于满 秩D。因此，学习映射矩阵W就和学习低秩矩阵W^TW一样。将公式1 中的约束方程结合，化简后的方程可表示为：

公式3

初始化后，映射矩阵将满足如下条件：

其中，是不同向量的外积，μ是学习比例参数。 公式3中的目标函数在W中不是一个凸矩阵，初始化W是非常关键的。 一个实际的案例就是提取D'的最大PCA维数。此外，如果不使用PCA 标准，主特征值的明显度将被降低，因为多样性越差的模型越容易被忽 略。

参阅图2所示，是本发明超声图像胎儿颜面部标准切面自动识别系 统的硬件架构图。该系统包括相互电性连接的预处理模块、特征提取模 块、编码模块、归一化模块及识别模块。

所述预处理模块用于对原始超声图像进行预处理。具体而言，在识 别标准切面之前对原始超声图像进行预处理，所述预处理包括图像降噪 和图像增强。

所述特征提取模块用于对预处理后的超声图像采用RootSIFT进行 特征提取。对于预处理后的超声图像，可以手动选择感兴趣区域 （Regionof Interest，ROI），以减少搜索范围。所述感兴趣区域包括矢 状面区域、冠状面区域和柱状面区域。对所述感兴趣区域密集采样，而 后用RootSIFT进行特征提取。将所述超声图像划分成小块，用RootSIFT 块述符来代表每个小块。具体如下：

本实施例中，所述特征提取是基于RootSIFT并利用SIFT （Scale-invariant feature transform，利用尺度不变特征转换）的非线性变 换，表示如下：

RootSIFT＝sqrt(SIFT/sum(SIFT)).

利用RootSIFT的特征提取类似于在原始的SIFT特征中运用 Hellinger（即Hel.）核。RootSIFT优于SIFT，因为欧式距离在RootSIFT 向量相当于最初SIFT中用到的Hel.核，或者Chi2距离证明在识别性能 上优于欧式距离。

由于欧式距离对距离远的特别敏感，而Hel.距离经常受小距离控制。 Hel.距离表示为l₁的规一化x和y(n-矢量数)计算如下：

$H(x,y)=\underset{i=1}{\overset{n}{\Sigma }}\sqrt{x_i{y}_i}.$

假设||x||₂＝||y||₂＝1，欧式距离定义为：

$d_E(x,y)={\left|\right|x-y\left|\right|}_2^2={\left|\right|x\left|\right|}_2^2+{\left|\right|y\left|\right|}_2^2-{2x}^{T}y=2(1-x^{T}y).$

将x用x'替换（x'是元素的平方根），x'是l₂的规一化，在特征图 谱空间的欧式距离就相当于原始空间的Hel.距离。

x'^Ty'＝H(x,y).

使用RootSIFT描述符，基于SIFT的欧式距离每一步都可以很容易 的进行转换，没有额外的成本、存储和处理空间。

所述编码模块用于对上述提取的特征利用混合高斯模型（Gaussian  Mixture Model，GMM）进行变换，对变换后的混合高斯模型进行Fisher 向量（FV）编码，并获得所述向量编码的直方图的值。所述GMM基于 对角协方差矩阵假设产生K个高斯分布，对一组局部描述符用FV编码 成一个独立的矢量。具体而言：

本实施例中采用GMM模型，以提高识别性能。用K-means学习得 到编码{μ_k,k＝1,...,K}，一组局部描述符：{x_m,m＝1,...,N}。提取特征向量的 步骤如下：

邻近分配：

$\mathrm{NN}\left(x_m\right)=\underset{{\mu }_k}{\arg \min }\left|\right|x_m-{\mu }_k\left|\right|.$

计算v_k：

$v_k=\underset{x_m:\mathrm{NN}\left(x_m\right)={\mu }_k}{\Sigma }{x}_m-{\mu }_k.$

关联v_k和规一化所有的特征向量。

在图形表示中，一个固定长度向量v_k的维数依赖于参数的数量。为 了选择最合适数据的参数，需要关联到更多的数据统计。总之，特征向 量对应混合高斯（GMM）模型。

用FV对混合高斯模型的衍生对数概度进行编码。高斯均值和方差 的一次和二次求导，密集特征与混合高斯模型（GMM）中心之间的计 算如下：

${\Phi }_k^{\left(1\right)}=\frac{1}{N\sqrt{w_k}}\underset{m=1}{\overset{N}{\Sigma }}{\gamma }_m\left(k\right)\left(\frac{x_m-{\mu }_k}{{\sigma }_k}\right),$

${\Phi }_k^{\left(2\right)}=\frac{1}{N\sqrt{2w_k}}\underset{m=1}{\overset{N}{\Sigma }}{\gamma }_m\left(k\right)(\frac{{(x_m-{\mu }_k)}^2}{{\sigma }_k}-1),$

其中，{w_k,μ_k,σ_k}是GMM的混合权重、均值和对角斜方差，γ_m(k)是 第K个高斯分布的第m个特征的软分配权重。通过将不向的向量的关 联到一起：得到FVφ。编码主要的目的， 区分一个特定测试图像与所训练图像之间的分布差异。FV是软分布 VLAD的高阶统计和BoVW的重要扩展。对于D维特征向量，所述BoVW 和FV的主要区别可以表示为：

φ_BoVW(x_m)＝[0,...,0,1,0,...,0],

FV的维数比传统的BoVW方法要高，因此用PCA（主成分分析） 来降低特征向量的维数以及处理时间。由于不相关特征和GMM协方差 对角矩阵假设是一致的，PCA降维的之后也是满足协方差对角矩阵假设 的。在本实施例中，每个图像像素共生成128个特征向量。通过PCA， 特征维数由128降到64。

所述归一化模块用于对直方图进行归一化以得到特征向量，也即， 用直方图表示FV聚类的K-means算法。具体步骤如下：

考虑到训练数据集的多样性，对特征值进行归一化以提高识别是非 常有效的。选取合适的l_p归一化特征值对提高分类结果非常有帮助，这 样可以有效地去除背景信息。每个矩阵除以相应的规一化值，l_p归一化 后特征矩阵分布在半径为1的球面上。l_p幅值用实数表示，当p≥1时定 义如下：

${\left|\right|x\left|\right|}_p={\left(\underset{i=1}{\overset{n}{\Sigma }}{\left|x_i\right|}^p\right)}^{1/p},$

其中，p=1为l₁归一化，p=2是l₂也就是欧式距离归一化。

假设一个数据集，u_i～U(p,n)遵循p分布，在n维空间的单位球面上 使用i.i.d.模型和特征矩阵的分布，封闭形式来解规范化坐标：表示为：

${\psi }_{p,n}\left(u_i\right)=\frac{\mathrm{p\Gamma }(n/p)}{2\Gamma (1/p)\Gamma ((n-1)/p)}{(1-{\left|u_i\right|}^p)}^{(n-1)/p-1},u_i\in [-\mathrm{1,1}],$

其中，Γ(·)是伽马函数，上式中当p=2时符合高斯分布。

如果数据是一个广义的高斯分布，用l_p归一化是有效方法。l_p幅值 可以定义为寻求一个最大熵的pdf.

$f_p\left(x\right)=\frac{p(1-1/p)}{2\Gamma {(1/p)\left({\sigma }_p\right)}^p}\exp (1-\frac{{|x-x_0|}^p}{p{\left({\sigma }_p\right)}^p}),$

其中，(σ_p)^p＝constant常量和(σ_p)^p＝1.为了减少交叉空间维数的差异， 特征缩放比例非高斯级用类似高斯的特征来表示。l₂可以消除与内容无 关的背景信息。

一般来说，一些突发的能量值会影响由SVM分类器的相似性得分， 所述突发的能量值可能导致次优相似性得分。因此，在特征矩阵中的较 大值相应应该得到抑制。一个简单而有效的方法，如功率归一化定义 为：

z←sign(z)|z|^ρ,0≤ρ≤1.

在本实施例中，ρ设置为：ρ＝0.5，它表示平方根或者更简单的平 方根，进行功率规一化可以减少稀疏化数据的突发性特征的影响。除以 之外，功率规一化被认为是Hel.核的明显数据显示。值得注意的是，由 平方根变换的功率归一化是不特定并对标准切面的识别有利。

所述识别模块用于采用随机双协调（SDCA）机制对标准切面进行 学习和识别，以提升SVM分类器进行分类。一对多的SVM分类器基于 SDCA，根据余弦相似性度量对超声图像进行分类。具体步骤如下：

支持向量机已应用广泛的识别算法，使用统计学习理论和结构风险 最小化原则找到全局最优解。SVM最主要的优势是可以处理大尺寸数据， 用于解决识别问题。一对多的评分方案来识别超声图像中的不同切面。 评分函数在SVM分类超平面H定义为：

H:w^Tx_i+b＝0,i＝1,2,...,n,

其中，x₁,x₂,...,x_n是输入的向量R^D维内，b∈R是偏置参数，w₁,w₂,...,w_n 是向量的权重，T表示转置运算符。支持向量机的主要目的是获取最优 w₁,w₂,...,w_n值，SDCA是探索，因为其能够通过高精确度双重目标获得这 些最佳值。同时，SVM中的目标函数通过不用损失函数的SDCA进行 最小化。标签y₁,...,y_n属于{±1}，支持向量机问题的线性内核和无偏差项 定义为：

Ψ_i(α)＝max{0,1-y_iα}.

这个问题可以转化为解决最小其中：

$P\left(w\right)=[\frac{1}{n}\underset{i=1}{\overset{n}{\Sigma }}{\Psi }_i\left(w^T{x}_i\right)+\frac{\lambda }{2}{\left|\right|w\left|\right|}^2].$

上述Ψ_i(α)＝max{0,1-_yiα}.的对偶问题的由SDCA解决：

其中$\Omega \left(\alpha \right)=[\frac{1}{n}\underset{i=1}{\overset{n}{\Sigma }}-{\Psi }_i^{*}(-{\alpha }_i)-\frac{\lambda }{2}{\left|\right|\frac{1}{\mathrm{\lambda n}}\underset{i=1}{\overset{n}{\Sigma }}{\alpha }_i{x}_i\left|\right|}^2].$

令初始化w⁽⁰⁾＝w(α⁽⁰⁾)，目标函数每次迭代t获得：

$-{\Psi }_i^{*}(-({\alpha }_i^{(t-1)}+\Delta {\alpha }_i))-\frac{\mathrm{\lambda n}}{2}{\left|\right|w^{(t-1)}+\frac{1}{\mathrm{\lambda n}}\Delta {\alpha }_i{x}_i\left|\right|}^2.$

更新规则如下：

α^(t)←α^(t-1)+Δα_ie_i.

w^(t)←w^(t-1)+(λn)^-1Δα_ix_i.

最后，输出结果通过SDCA方法输出的α和w的平均值获得。

本实施例中，PCA首先应用于学习线性投影：W∈R^D'×D,D'＜＜D，从 高维到低维：PCA映射后，如果i和j来自相同的图像， 则两幅图像之间的欧式距离的平方值或者学习后的阈值： 会变小；反之，则会变大。SVM问题可通过下面 的约束解决：

公式1

其中，当且仅当图像来自同一类时，y_i,j=1。这种投影可以被视为一 个在原始空间中的低秩度量：

公式2

其中，W^TW是马氏矩阵。由于分解，这个矩阵的秩等于D'，小于满 秩D。因此，学习映射矩阵W就和学习低秩矩阵W^TW一样。将公式1 中的约束方程结合，化简后的方程可表示为：

公式3

初始化后，映射矩阵将满足如下条件：

其中，是不同向量的外积，μ是学习比例参数。 公式3中的目标函数在W中不是一个凸矩阵，初始化W是非常关键的。 一个实际的案例就是提取D'的最大PCA维数。此外，如果不使用PCA 标准，主特征值的明显度将被降低，因为多样性越差的模型越容易被忽 略。

虽然本发明参照当前的较佳实施方式进行了描述，但本领域的技术 人员应能理解，上述较佳实施方式仅用来说明本发明，并非用来限定本 发明的保护范围，任何在本发明的精神和原则范围之内，所做的任何修 饰、等效替换、改进等，均应包含在本发明的权利保护范围之内。