基于变分自编码、融合归一化流模型的网络表征学习方法

摘要

在真实社会中，许多数据可以表现成网络的形式。例如：社交网络中人与人之间的关系可以表现为网络的形式，电商中用户和商品的行为关系可以表现为商品网络的形式。随着现代互联网的发展，海量的数据在互联网中产生，通过这些数据的内在联系将他们构建成网络数据可以充分的挖掘出其中包含的知识。在工业场景这些网络数据的具体应用场景包括：风控场景下的用户分类、电商场景中的用户对商品的购买点击的行为预测等。　　深度生成模型是表征学习的重要的方法，现有的生成模型通常允许隐变量遵循固定分布。但是，实际网络通常具有许多复杂的结构特性，它们表达了多峰特征，因此无法通过某些固定分布很好地描述。与单一固定分布相比，灵活多模的分布更适合于表示由节点之间的链接形成的各种规则和不规则因素。为了获得更好的节点表征，我们需要一种更灵活和多模的分布，作为变分自编码（VAE）框架中隐变量的先验，这使我们能够更好地描述现实世界中的复杂网络。　　为了解决这个问题我们提出了一种新方法，该方法将归一化流（NF）融入到变分自编码器（VAE）中以进行网络嵌入。我们构建了基于归一化流模型的先验生成模块为隐变量生成合适的先验。为了更好地描述网络节点之间的耦合关系，我们进一步引入了拉普拉斯特征映射的思想，这使得先前的生验过程更适用于网络。最后，我们导出了VAE的新的证据下界（ELBO）并通过将其最小化来优化模型。为了实现这个的方法适用于大规模的图，我们进一步提出了一个基于子图挖掘的方式来优化这个过程。

目录