基于小波变换与深度卷积神经网络的多尺度时序数据分类

摘要

在绝大多数的科学和生产领域，数据的测量都是基于时间的，这些数据在时间维度上有很强的关联。时间序列分类问题作为数据挖掘和机器学习领域中的经典问题始终是研究的热点。然而，它仍然具有挑战性并且分类精度和分类效率亟待提高。 传统方法通常使用动态时间规整或shapelets进行特征提取，然后基于现成的分类器进行分类。这些方法将特征提取和分类分开处理影响了分类的精度。此外，只有少数方法认识到时序数据在不同尺度上有不同特征，应该在不同尺度上进行特征提取，但是现有的时序数据尺度化方法并不能解决信息丢失和噪声问题。为了解决上述问题，本文提出了一个新颖的、合并多尺度特征提取与分类的神经网络模型。 该模型整体上可以分为两部分：基于小波变换的多分支特征提取层和基于残差网络的深度卷积神经网络分类器。小波变换提取的尺度特征不仅能完全地保留原数据所有的特征，更能够在粗尺度下体现数据的整体特征，在细尺度下体现数据的细节特征。小波变换生成的各尺度数据经过可学习的卷积层提取特征后形成各个分支，使得该模型能够自动在不同尺度上提取特征从而实现卓越的特征表示。将各个分支的特征结合后，残差网络会进一步地从中提取特征与分类。残差网络将多个卷积单元替换为一个残差单元减小了深层网络的训练难度，并且能够提高网络深度去适应具有复杂特征的数据集。此外，本文还解释了模型的激活函数与代价函数的选择依据，通过使用Leak ReLU函数和交叉熵函数以及进行批标准化，尽可能地避免了使用反向传播算法进行训练时可能出现的梯度消失问题。最后本文在TensorFlow平台上实现了该网络模型，利用GPU的并行计算特性实现了时序数据快速高效地分类。和各种现存的分类算法进行的对比试验表明，本算法显著地提高了时序数据分类问题的精度。

目录

第一个书签之前