一种基于局部保持非负矩阵分解的增量学习人脸识别方法

摘要

本发明公开一种基于局部保持非负矩阵分解(LPNMF)的增量学习人脸识别方法，其涉及模式识别技术领域，本质是一种基于在线学习的人脸识别方法，实现步骤如下：a)人脸图像的预处理；b)初始样本训练；c)增量学习；d)人脸识别。该方法不仅可以适用于线性和非线性的人脸识别系统，而且保持了人脸图像原空间的局部结构，大大提高了识别率，可在线实际应用。

说明书

技术领域

本发明涉及一种模式识别技术领域，具体涉及一种基于局部保持非负矩阵分 解(LPNMF)的增量学习人脸识别方法。

背景技术

近二十年来，人脸识别技术作为一种高效的生物特征识别技术，日益受到学 术界以及工业界的重视。人脸识别研究的关键是特征提取，有基于全局特征的提 取，也有基于局部特征的提取。

特征脸方法也称为主元分析法(PCA)，是一种基于全局特征提取的人脸识别 方法。PCA将主成分提取出来，减少了样本间的冗余信息，达到了降维的目的。 然而，特征脸方法有几个缺点：a)如何选取主元仍然是个问题；b)当训练样本线 性不可分时，特征脸方法的识别率很低；c)基于全局特征的PCA无法提取到局 部特征。

非负矩阵分解(NMF)是在矩阵元素均为非负数的约束条件下的一种矩阵分 解方法。NMF是一种局部特征提取方法，其将人脸表示成基图像的线性组合， 而基图像代表了眼、鼻子、嘴等人脸的局部特征，符合人类思维局部构成整体的 概念。这种方法最早由Lee等人提出并成功应用于基于物体局部特征的识别，之 后研究人员对NMF方法进行了更深入的研究。研究者们提出了几种改进算法如 局部非负矩阵分解(LNMF)、Fisher非负矩阵分解(FNMF)、稀疏非负矩阵分解 (SNMF)、加权非负矩阵分解(WNMF)等，这些方法能在一定程度上提高识别率， 但在迭代得到基矩阵时需要更大的计算量。

目前基于NMF的所有算法大多存在两方面的缺点，即分解速度慢以及对训 练样本或类别的增加都必须重复学习，这大大限制了NMF在实际中的应用。

发明内容

本发明的目的在于：为了克服已有技术的不足，提出了一种基于局部保持非 负矩阵分解的增量学习人脸识别方法，该方法保持了样本空间的局部结构，明显 提高了算法效率，更好地应用于人脸识别的在线学习。

本发明解决其技术问题所采用的技术方案是：

一种基于局部保持非负矩阵分解的增量学习人脸识别方法，包括以下步骤：

a) 人脸图像的预处理：将每张人脸图像规范化成一个同一规格的样本；

b) 初始样本训练：运用LPNMF算法计算初始样本的基矩阵W和系数矩阵H；

c) 增量学习：对新来样本运用增量的LPNMF算法更新基矩阵和系数矩阵

d) 人脸识别：采用最近邻分类器进行识别检测。

具体来讲，在本发明的人脸识别方法中，所述增量学习过程具体包括下述步 骤：

a1 对于新来的样本已给出初始样本训练矩阵V=[v₁,v₂,…,v_n]，确定更新 样本矩阵为$\tilde{V}=[v_1,v_2,...,v_n,\tilde{v}];$

a2 初始化基矩阵和随机初始化系数矩阵

a3 设定最大迭代次数t，相互迭代更新和使得

a4 步骤a3中的按如下迭代规则更新：

${\left(\tilde{W}\right)}_{\mathrm{ia}}\leftarrow {\left(\tilde{W}\right)}_{\mathrm{ia}}\frac{\alpha {\left(V{H}^T\right)}_{\mathrm{ia}}+\beta {\left(\tilde{v}{\tilde{h}}^T\right)}_{\mathrm{ia}}}{\alpha {\left(\tilde{W}H{H}^T\right)}_{\mathrm{ia}}+\beta {\left(\tilde{W}\tilde{h}{\tilde{h}}^T\right)}_{\mathrm{ia}}}$

其中α和β是权重系数，α代表初始样本的比重，β代表新来样本的比重 取β=1-α；

a5步骤a3中的不更新前n个样本所对应的的系数矩阵H，只更新新来样 本所对应的的更新迭代规则如下：

${\left(\tilde{h}\right)}_a^{t+1}\leftarrow P[{\left(\tilde{h}\right)}_a^t-{\lambda }_t{\left(\frac{\partial f_{\tilde{W}}\left({\tilde{H}}^t\right)}{\partial \tilde{h}}\right)}_a]$

其中$P\left[z_i\right]=\left(\begin{array}{cc}{z}_i& z_i\ge 0\\ 0& z_i<0\end{array}\right),$${\lambda }_t={\phi }^{g_t}(0<\phi <1)$和g_t是第一个非负整数满足如 下公式：

$(1-\sigma )<▿f_{\tilde{W}}\left({\tilde{H}}^t\right),{\tilde{H}}^{t+1}-{\tilde{H}}^t>+\frac{1}{2}<{\tilde{H}}^{t+1}-{\tilde{H}}^t,{▿}^2{f}_{\tilde{W}}\left({\tilde{H}}^t\right)>\le 0$

其中0<σ<1和符号<.,.>代表两个矩阵的点积；

a6步骤a5中计算如下：

$▿f_{\tilde{W}}\left(\tilde{H}\right)=\frac{\partial f_{\tilde{W}}\left(\tilde{H}\right)}{\partial \tilde{h}}=\beta \left({\tilde{W}}^T\tilde{W}\tilde{h}-{\tilde{W}}^T\tilde{v}\right)+\beta \left(2\tilde{L}\tilde{h}\right)$

${▿}^2{f}_{\tilde{W}}\left(\tilde{H}\right)=\frac{{\partial }^2{f}_{\tilde{W}}\left(\tilde{H}\right)}{{\partial }^2\tilde{h}}=\beta {\tilde{W}}^T\tilde{W}+2\beta \tilde{L}$

上式中得采用块优化策略计算，初始化更新规则如下：

其中i从1取到N。N代表样本分块的总数，为 第i块的拉普拉斯算子。Sⁱ定义为：

其中代表第i块索引集。

本发明的技术构思：本发明是对最近由郑建炜等提出的一种新的降维分析方 法，称为增量的局部保持非负矩阵分解（incremental locality preserving nonnegative  matrix factorization，ILPNMF）进行改进的。LPNMF是在Lee等提出的非负矩 阵分解（nonnegative matrix factorization，NMF）的基础上引入局部保持投影 (locality preserving projections，LPP)算法进行改进。改进算法有效地保持了样本 空间的局部结构，但应对在线学习相关应用存在计算冗余问题。本发明利用增量 学习的思想提出一种基于局部保持非负矩阵分解的增量学习人脸识别方法，很好 地克服了LPNMF的缺陷。

本发明具有以下优点：1、有效地保持了样本空间的局部结构，使算法具有 较高的识别准确率；2、实现了增量学习，在识别过程中能够充分利用已接触的 信息，对识别结果进行改进；3、在进行增量学习时能够充分利用原有的计算结 果，避免了重复计算，提高了时间效率；4、在进行增量学习时大大节约了存储 空间。

附图说明

图1是本发明的ILPNMF和LPNMF在ORL人脸库识别率比较图；

图2是本发明的ILPNMF和LPNMF在ORL人脸库训练时间比较图；

图3是本发明的ILPNMF和LPNMF在COIL人脸库识别率比较图；

图4是本发明的ILPNMF和LPNMF在COIL人脸库训练时间比较图；

图5是本发明的流程图。

具体实施方式

下面对本发明作进一步描述。参照附图：

一种基于局部保持非负矩阵分解的增量学习人脸识别方法，包括以下步骤：

a) 人脸图像的预处理：将每张人脸图像规范化成一个同一规格的样本；

b) 初始样本训练：运用LPNMF算法计算初始样本的基矩阵W和系数矩阵 H：

1) 将每个样本v_i构造成初始样本训练矩阵V=[v₁,v₂,…,v_n]；

2) 设定最大迭代次数t，相互迭代更新W和H，使得WH≈V；

3) 步骤2中W和H按如下规则更新：

$W_{\mathrm{ia}}\leftarrow W_{\mathrm{ia}}\frac{{\left(V{H}^T\right)}_{\mathrm{ia}}}{{\left(\mathrm{WH}{H}^T\right)}_{\mathrm{ia}}}$

$H^{t+1}\leftarrow P[H^t-{\lambda }_t▿f_w\left(H^t\right)]$

其中$P\left[z_i\right]=\left(\begin{array}{cc}{z}_i& z_i\ge 0\\ 0& z_i<0\end{array}\right),$${\lambda }_t={\phi }^{g_t}(0<\phi <1)$和g_t是第一个非负整数满 足如下公式：

$(1-\sigma )<▿f_W\left(H^t\right),H^{t+1}-H^t>+\frac{1}{2}<H^{t+1}-H^t,{▿}^2{f}_W\left(H^t\right)>\le 0$

其中0<σ<1和符号<.,.>代表两个矩阵的点积，

$▿f_W\left(H\right)=\frac{\partial f_W\left(H\right)}{\partial H}=(W^T\mathrm{WH}-W^{T}V)+\left(2\mathrm{LH}\right)$

${▿}^2{f}_W\left(H\right)=\frac{{\partial }^2{f}_W\left(H\right)}{{\partial }^{2}H}=W^{T}W+L$

c) 增量学习：对新来样本运用增量的LPNMF算法更新基矩阵和系数矩 阵

1) 对于新来的人脸图像样本已给出初始样本训练矩阵 V=[v₁,v₂,…,v_n]，确定更新样本矩阵为

2) 初始化基矩阵和随机初始化系数矩阵

3) 设定最大迭代次数t，相互迭代更新和使得

4) 步骤3中的按如下迭代规则更新：

${\left(\tilde{W}\right)}_{\mathrm{ia}}\leftarrow {\left(\tilde{W}\right)}_{\mathrm{ia}}\frac{\alpha {\left(V{H}^T\right)}_{\mathrm{ia}}+\beta {\left(\tilde{v}{\tilde{h}}^T\right)}_{\mathrm{ia}}}{\alpha {\left(\tilde{W}H{H}^T\right)}_{\mathrm{ia}}+\beta {\left(\tilde{W}\tilde{h}{\tilde{h}}^T\right)}_{\mathrm{ia}}}$

其中α和β是权重系数，α代表初始样本的比重，β代表新来样本的比 重，取β=1-α；

5) 步骤3中的不更新前n个样本所对应的的系数矩阵H，只更新新 来样本所对应的的更新迭代规则如下：

${\left(\tilde{h}\right)}_a^{t+1}\leftarrow P[{\left(\tilde{h}\right)}_a^t-{\lambda }_t{\left(\frac{\partial f_{\tilde{W}}\left({\tilde{H}}^t\right)}{\partial \tilde{h}}\right)}_a]$

其中$P\left[z_i\right]=\left(\begin{array}{cc}{z}_i& z_i\ge 0\\ 0& z_i<0\end{array}\right),$${\lambda }_t={\phi }^{g_t}(0<\phi <1)$和g_t是第一个非负整数满 足如下公式：

$(1-\sigma )<▿f_{\tilde{W}}\left({\tilde{H}}^t\right),{\tilde{H}}^{t+1}-{\tilde{H}}^t>+\frac{1}{2}<{\tilde{H}}^{t+1}-{\tilde{H}}^t,{▿}^2{f}_{\tilde{W}}\left({\tilde{H}}^t\right)>\le 0$

其中0<σ<1和符号<.,.>代表两个矩阵的点积；

6) 步骤5中计算如下：

$▿f_{\tilde{W}}\left(\tilde{H}\right)=\frac{\partial f_{\tilde{W}}\left(\tilde{H}\right)}{\partial \tilde{h}}=\beta \left({\tilde{W}}^T\tilde{W}\tilde{h}-{\tilde{W}}^T\tilde{v}\right)+\beta \left(2\tilde{L}\tilde{h}\right)$

${▿}^2{f}_{\tilde{W}}\left(\tilde{H}\right)=\frac{{\partial }^2{f}_{\tilde{W}}\left(\tilde{H}\right)}{{\partial }^2\tilde{h}}=\beta {\tilde{W}}^T\tilde{W}+2\beta \tilde{L}$

上式中得采用块优化策略计算，初始化更新规则如下：

其中i从1取到N。N代表样本分块的总数，为第i块的拉普拉斯算子。Sⁱ定义为：

其中$F_i=\{i,i^1,...,i^{n_i-1},i_1,...,i_k\}$代表第i块索引集；

d) 人脸识别：采用最近邻分类器进行识别检测。

采用ORL和COIL两个经典的人脸数据库进行识别率和效率上的检测。首 先选择本发明的增量的LPNMF算法和普通的增量的NMF算法做性能上的比较。 在ORL人脸数据库上，我们随机选择每个人的5张图像作为训练，剩下的用于 测试。在COIL人脸数据库上，我们随机选择每个对象的10个样品作为训练， 剩下的随机10个样品用于测试。

表1和表2分别给出了不同降维维度和比重系数下两种算法在ORL数据库 和COIL数据库上的识别率比较，其中r表示降维维度和β表示比重系数。由表 可知，增量的NMF和增量的LPNMF在ORL数据库上的最佳识别率分别是 87.03%和91.35%。同样增量的NMF和增量的LPNMF在COIL数据库上的最佳 识别率分别是87.57%和92.67%。结果表明，本发明的增量的LPNMF算法比普 通的增量的NMF有较高的识别率，更好地保持了空间的局部结构。

然后选择本发明的增量的LPNMF算法和原先的LPNMF算法在识别率和时 耗上做比较。在ORL数据库上，先随机选择每个人的3张图像运用LPNMF算 法做初始训练，然后每次每个人添加1张图像作为增量学习。实验结果如图1、 图2。结果表明，增量的LPNMF算法识别率与原先的LPNMF算法接近，而时 耗上远低于LPNMF算法。

在COIL数据库上，最初随机选择每个对象的5个样本进行初始训练，然后 每次每个对象插入5个样本作为增量学习。实验结果如图3、图4。结果表明， 增量的LPNMF算法在识别率上稍微低于LPNMF算法但计算量远小于LPNMF 算法。LPNMF算法训练30个样品需要5分钟，而增量的LPNMF算法只需要 19秒。因此，增量的LPNMF算法在效率上得到了很大的提高。

表1不同降维维度和比重系数下INMF和ILPNMF在ORL数据库上的识别率比较

表2不同降维维度和比重系数下INMF和ILPNMF在COIL数据库上的识别率比较