面向物联网时序数据分析与应用的深度学习框架研究

摘要

随着物联网技术的发展,越来越多的传感器出现在日常生活和工业领域中，海量传感器产生的时间序列数据具有动态性、异构性、大规模性以及时间依赖性等特点，增加了在不同物联网应用中的决策的艰难性。对物联网时序数据进行分析时，需要综合考虑多种类型的传感器数据来提升时序数据预测性能。同时，对物联网中传感器产生的大量数据存在的异常进行检测，也是亟需解决的问题，通过对物联网时序数据进行异常检测，可以降低异常造成的损失。　　针对上述问题，本文首先提出了基于增强型的长短时记忆网络的注意力预测模型。通过对长短时记忆网络(long short-term memory, LSTM)进行改造，使其更加有效的捕捉时序数据之间的依赖性。同时，为了充分发挥注意力机制提取多维特征的优势，该预测模型在编码阶段对物联网时序数据多维特征进行权重分配来提取最相关特征，在解码阶段对一个时间窗口内的隐藏单元状态进行权重分配来提取最相关的隐藏单元状态。本文使用SML2010数据集、土壤数据集以及电力数据集来验证模型的回归性能，使用均方根误差、平均绝对值误差和确定系数三个回归评估指标来分析结果。实验结果显示，本文提出的预测模型在三种数据集上的各项指标结果都是优于现有的基本模型的，表明该模型是真实有效的。　　为了解决物联网时序数据异常检测的问题，本文提出了一种基于多元高斯分布的投票法异常检测模型。该模型主要是在第一部分的基础上进行的结构扩展，利用第一部分的预测结果和真实值来构建残差数据集，使用验证集残差数据集来构建多元高斯分布模型，然后使用多元高斯分布模型来计算测试集残差数据集中的每个数据的异常得分情况。本文为了避免单模型出现误判的现象，使用集成学习中的投票法来综合考虑多个多元高斯分布模型的结果，修正单模型出现的预测偏差。本文使用土壤数据集和电力数据集来验证异常检测模型的分类性能，使用精准率、召回率和Fβ分数三个分类指标来对检测性能进行评估。实验结果显示，本文提出的异常检测模型在两个数据集上的各项指标结果都是优于现有的基本模型，表明异常检测模型是真实有效的。最后，为了更好的解决上述提到的问题以及促进网络边缘的物联网计算，本文将上述两部分以及对数据的处理部分整合在一起，提出了一种面向物联网时序数据分析与处理的增强型LSTM框架。

目录

第 1 章 绪 论

1.1 研究背景及意义

1.2 国内外研究现状

1.2.1 时序数据分析研究现状

1.2.2异常检测研究现状

1.3 本文工作

1.4 本文组织结构

第 2 章 相关技术研究与分析

2.1 引言

2.2 时序数据

2.2.1 时间序列数据的定义及特征

2.2.2 时间序列数据的成分

2.2.3 时间序列数据的分类

2.2.4 预测时间序列数据的回归评估指标

2.3 神经网络

2.4 LSTM 神经网络

2.5 注意力机制

2.5.1 注意力机制综述

2.5.2 注意力机制原理

2.5.3 注意力机制应用场景

2.6 深度学习平台 TensorFlow 和 Scikit learn 库的介绍

2.6.1 TensorFlow 平台介绍

2.6.2 Scikit learn 库的介绍

2.7 本章小结

第 3 章 基于 Enhanced LSTM 的注意力预测模型

3.1 引言

3.2 问题描述

3.3面向物联网时序数据分析与处理的增强型LSTM框架

3.4 基于 Enhanced LSTM 的注意力预测模型介绍

3.4.1 Enhanced LSTM 结构

3.4.2 预测模型详细过程描述

3.4.3算法伪代码实现

3.5实验环境搭建与结果分析

3.5.1 实验环境

3.5.2 对比实验模型设置

3.5.3 数据集与预处理

3.5.4 评估指标

3.5.5 实验结果与分析

3.6 本章小结

第 4 章 基于多元高斯分布的投票法异常检测研究

4.1 引言

4.2 问题描述

4.3 异常检测模型结构

4.4 异常检测模型的具体实现

4.4.1 基于 Enhanced LSTM 的注意力预测模型获得残差数据集

4.4.2 利用残差数据集构建多元高斯分布检测模型

4.4.3 对不同预测结果进行投票

4.4.4 算法伪代码实现

4.5 数据集的划分

4.6 实验环境搭建与结果分析

4.6.1 实验环境

4.6.2 对比实验模型设置

4.6.3 数据集描述

4.6.4 评估指标

4.6.5 实验结果与分析

4.7 本章小结

结 论

参考文献

附录 A 攻读学位期间所发表的学术论文目录

附录 B 攻读学位期间所参与的研究项目

致谢