基于对称非负矩阵分解的信息融合方法与应用研究

摘要

信息技术的发展，使得互联网上的数据呈现出大数据特性，主要表现为体量大和多源异构，这些问题对科学管理和计算方法提出了严峻的挑战，迫切需要我们整合多个来源的数据表示形式以获得比任何单个来源的信息都要准确、可靠的知识。鉴于此，针对现有信息融合方法中的不足，本文分别研究了基于对称非负矩阵分解的信息融合模型、考虑图正则化的对称非负矩阵分解融合模型和基于对称非负矩阵分解的预测模型，并将其首次应用到跨模态信息检索任务中。具体工作如下:
　　1.针对多个视角间可能存在一个“一致”聚类模式的假设，建立了一种基于对称非负矩阵分解的信息融合模型(Multi-view SNMF)。通过对不同视角获得的聚类指示矩阵进行标准化，将其与“一致”聚类模式的距离作为约束项引入到对称非负矩阵分解目标函数中并进行优化求解，解决了固定同一个聚类模式带来的多个视角间的数据不一致问题;而现有文献中并没有考虑将对称非负矩阵分解与该“一致性”假设结合起来进行建模的做法。实验结果表明:Multi-viewSNMF模型在精度和标准互信息两个指标上有更好的表现。
　　2.针对信息融合中聚类准确度不高、稳定性不强等问题，提出了一种考虑图正则化的对称非负矩阵分解融合模型:LJ-SNMF。在LJ-SNMF模型中，通过构建鲁棒的Laplacian图来保持流形一致性，并结合“不同视角的聚类结构都趋于一致的聚类结构”的思想，使最后获得的聚类一致矩阵既保持了原始数据之间的潜在关系，又充分利用了各视角携带的互补和兼容性信息。实验表明:引入图正则化能显著提高对称非负矩阵分解融合模型的性能，也可在一定程度上解决各视角信息不兼容的问题。
　　3.针对Laplacian图正则化不能有效推理的问题，提出了一种基于Hessian图正则化的对称非负矩阵分解融合模型:HJ-SNMF。这种方法利用原始数据的二阶信息来刻画样本之间的关系，允许测地函数对数据进行线性推理，避免了Laplacian在对未知数据预测时偏向常数的情形发生。结果表明，HJ-SNMF具有良好的性能表现。
　　利用以上两种融合模型可做到对目标类型较为精准的判别，在信息推荐、用户管理等任务中将起到重要的支撑作用。
　　4.针对实时样本的分类和表示问题，在前述研究的基础上，提出了一种基于“一致”聚类模式的实时样本预测方法。当给出样本在一个模态空间中的表示时，可由此预测模型判定该样本在另一个模态中的近似表示;也可藉此判断其所属的类别。这一预测方法可以对实时样本进行增量识别，而不用重复利用历史数据进行建模，避免了繁琐的迭代计算过程，极大地提高了运算效率，在文本分类、信息推送等领域有很大的应用前景。
　　最后，研究了对称非负矩阵分解在跨模态信息检索任务上（“以图搜文”与“以文搜图”）的应用。这种方法将多视角聚类和不同模态之间的关联结合起来，一定程度上提高了跨模态检索系统的性能，进一步验证了所提出的方法的有效性和实用价值。

目录

声明

摘要

1 绪论

1．1 选题背景与研究意义

1．1．1 研究背景

1．1．2 研究意义

1．2 国内外研究进展

1．2．1 信息融合研究现状述评

1．2．2 基于机器学习的信息融合研究现状述评

1．2．3 存在的主要问题

1．3 研究内容与论文框架

1．3．1 主要研究内容

1．3．2 论文结构

1．4 论文主要创新点

2 信息融合相关理论

2．1 信息融合概念与原理

2．1．1 信息融合概念

2．1．2 信息融合原理

2．2 信息融合策略

2．2．1 早期融合

2．2．2 中期融合

2．2．3 后期融合

2．3 子空间学习理论

2．3．1 多视角谱聚类

2．3．2 联接的多视角非负矩阵分解

2．3．3 一致的多视角非负矩阵分解

2．3．4 基于多图的信息融合

2．4 本章小结

3 基于对称非负矩阵分解的信息融合模型

3．1 对称非负矩阵分解

3．1．1 相似性度量

3．1．2 目标函数与优化

3．2 SNMF与核K均值聚类、谱聚类的等效性

3．2．1 核K均值聚类

3．2．2 谱聚类

3．2．3 实例

3．3 基于对称非负矩阵分解的聚类融合模型

3．3．1 建模思想

3．3．2 基本假设和一致性矩阵表述

3．3．3 基于对称非负矩阵分解的聚类融合模型的建立

3．3．4 算法优化

3．4 实例分析与讨论

3．4．1 数据集描述与预处理

3．4．2 实验结果

3．4．3 分析与讨论

3．5 本章小结

4 考虑图正则化的对称非负矩阵分解信息融合模型

4．1 正则化思想

4．1．1 正则化理论

4．1．2 图正则化框架

4．2 基于Laplaeian正则化的对称非负矩阵分解融合模型

4．2．1 建模思想概述

4．2．2 基本假设

4．2．3 基于Laplacian正则化的对称非负矩阵分解融合模型

4．2．4 算法优化

4．2．5 实例分析与讨论

4．3 基于Hessian正则化的对称非负矩阵分解融合模型

4．3．1 建模思想概述

4．3．2 基本假设和定义

4．3．2 基于Hessian正则化的对称非负矩阵分解融合模型

4．3．4 算法优化

4．3．5 实例分析与讨论

4．4 基于对称非负矩阵分解的预测模型

4．4．1 基于对称非负矩阵分解的实时样本预测模型

4．4．2 实验分析与讨论

4．5 本章小结

5 SNMF融合模型在跨模态信息检索中的应用

5．1 跨模态信息检索

5．1．1 相关研究

5．1．2 基于SNMF融合模型的跨模态检索框架

5．2 数据集描述与预处理

5．2．1 数据集描述

5．2．2 预处理与标准化

5．2．3 评价指标

5．3 结果验证与分析

5．3．1 MAP指标上的性能表现

5．3．2 PR指标上的表现

5．3．3 其它指标上的表现

5．4 现实问题与对策

5．4．1 最优的聚类结构与最优的关联

5．4．2 较小的重构误差与较好的关联

5．4．3 低层的关联与抽象层的关联

5．4．4 流形学习与实时样本上的泛化

5．5 本章小结

6．1 本文工作总结

6．2 下一步研究展望

参考文献

在校期间发表的论文、科研成果等

致谢