基于深度学习的张量填充算法

摘要

监控大型网络的性能对于网络状态跟踪、性能优化、流量工程、异常检测、故障分析等至关重要。然而，要想获得全网性能视图，存在测量代价高的挑战。为了降低测量代价，可以测量网络的路径或时间间隔子集，同时利用它们的时空相关性推断剩余的网络性能数据。缺失数据恢复的质量很大程度上依赖于推测算法。张量填充以其利用多维数据结构进行更精确的缺失数据推测的能力引起了人们的关注。然而，传统的张量填充算法仅通过内积建模数据特征之间的三阶相互作用，不足以捕获不同特征维度之间的高阶非线性关系。近年来，深度学习在语音识别、计算机视觉和自然语言处理方面取得了巨大的成功。因此，在本文工作中，努力开发基于深度学习的技术来解决基于内积交互的张量填充的缺陷问题。该文的主要研究工作和成果如下：　　1)为了解决现有张量填充算法的局限性，本文提出了一种新的神经张量填充(NTC)模型。NTC模型通过外积操作有效地建模数据特征之间的三阶相互作用，并创建了三阶相互作用映射张量。在此基础上，应用3D卷积神经网络从局部到全局范围学习特征映射之间的高阶相互作用。本文从理论上证明了这种操作具有更好的学习能力。进一步在两个真实的网络监控数据集(Abilene和WS-DREAM)上进行了大量的实验，以证明NTC模型可以显著降低丢失数据恢复的错误率。当采样率较低为1%时，使用NTC模型时，测试数据的恢复误差率约为0.05(Abilene)和0.13(WS-DREAM)，而使用目前最佳的张量填充算法时，恢复误差率约为0.99(Abilene)和0.99(WS-DREAM)，分别是NTC模型的21倍和8倍。　　2)本文提出了另一种融合型神经张量填充(FuNTC)模型来解决NTC模型只能提取潜在特征维度之间非线性复杂结构信息的缺点。在神经网络的框架下，NTC模型与张量分解模型共享相同的潜在特征嵌入，能够同时高效提取非线性特征信息和线性特征信息，实现更高精度的数据恢复。FuNTC模型继承了NTC模型的优点同时弥补了其不能捕获高阶线性特征的缺点。在两个真实的网络监控数据集(Abilene和WS-DREAM)的实验中表明，使用FuNTC模型比NTC模型具有更好的恢复性能。当采样率为1%时，目前最佳的张量填充算法其恢复误差分别是FuNTC的24倍(Abilene)和8倍(WS-DREAM)。

目录

声明

第1章 绪论

1.1 研究背景及研究意义

1.2 相关技术国内外研究现状

1.2.1 相关技术国外研究现状

1.2.2 相关技术国内研究现状

1.3 论文的主要研究工作与组织架构

1.3.1 论文的主要研究工作

1.3.2 论文的组织结构

第2章 相关技术概述

2.1 张量的基本概述

2.2 张量的基本数学定义

2.3 张量分解算法

2.3.1 CP分解算法

2.3.2 Tucker分解算法

2.4 张量填充概述

2.5 小结

第3章 用于精准网络监控的神经张量填充模型

3.1 问题描述

3.2 解决方案概述

3.3 NTC模型详述

3.3.1 输入和嵌入层

3.3.2 交互映射层

3.3.3 特征提取层

3.3.4 预测层

3.4 理论分析

3.4.1 NTC模型捕获高阶特征的能力

3.4.2 传统张量填充算法是NTC模型的特例

3.5 真实数据集实验仿真

3.5.1 仿真设置

3.5.2 模型分析与讨论

3.5.3 性能对比

3.6 真实网络平台实验

3.7 小结

第4章 用于更全面特征提取的融合型神经张量填充模型

4.1 问题与挑战

4.2 解决方案概述

4.3 FuNTC模型详述

4.3.1 输入和嵌入层

4.3.2 特征提取层

4.3.3 特征融合层

4.3.4 预测层

4.4 真实数据集实验仿真

4.4.1 仿真设置

4.4.2 模型分析与讨论

4.4.3 性能对比

4.5 真实网络平台实验

4.6 小结

结论

参考文献

致谢

附录A 发表论文和参加科研情况说明