基于DRNet的常微分方程模型逼近和序列预测方法

摘要

针对残差网络预测精度偏低的问题,基于系统观测数据和相轨线的关系,提出密集残差网络的方法实现对自治系统的拟合逼近和序列的高精度预测。首先,为强化对数据内含“特征信息”的提取和流通使用,将神经网络各隐藏层的输入与之前各层输出拼接后作为本层的输入,形成密集连接模块;其次,为避免加大网络深度时出现的“退化”现象,引入残差机制,将密集连接模块的输入层与输出层相连,形成密集残差网络。最后,将密集残差网络应用于线性的单自由度系统振动模型和非线性的SEIRS模型、Logistic-Volterra模型。结果表明,在规模为5000和10000的数据集上,密集残差网络对模型的拟合逼近效果和预测精度优于残差网络、反向传播神经网络和密集网络,特别是在非线性系统上的4项定量评价指标均优于对照模型,表现出密集残差网络对自治系统模型逼近和序列预测的高有效性;同时,在观测数据中加入5%的噪声后,密集残差网络表现出较好的抗干扰性。