基于高斯过程回归的时序预测算法研究与应用

摘要

时间序列分析在工程、气象、经济、金融等领域均有广泛应用，其建模和预测方法的研究一直是各领域关注的热点。以自回归模型为代表的线性回归模型是过去几十年来时间序列预测的主要方法，近年来以高斯过程回归(GPR)为代表的非线性回归方法受到广泛的关注，但同时基于GPR的时序预测方法仍存在一些关键问题有待解决:比如核函数的选择，自回归阶次的自动确定以及模型的过拟合等问题，本文即针对GPR时序建模的上述相关问题开展研究。本文的研究得到了浙江省自然科学基金的资助，主要的研究内容和成果总结如下:　　(1)提出一种基于最大信息系数(MIC)的自回归项自动选择方法。在传统方法中，自回归阶次主要通过自相关函数和偏自相关函数法进行筛选或者通过包裹式特征选择方法获得，前者只能对线性关系进行评价，不适用于高斯过程回归等非线性模型，后者虽然能够取得较好的结果，但需要多次的测试和验证，效率较低。本文提出一种基于MIC的自回归项选择方法，该方法不仅能够对复杂非线性相关关系进行度量，而且能够快速完成过滤。测试验证结果也表明所提方法能够高效完成过滤筛选，并且能够帮助高斯过程回归模型取得更高的预测精度。　　(2)提出一种基于引导聚集算法的集成高斯过程回归模型。集成模型的提出一方面能够缓解基于MIC的特征选择方法容易收敛到局部最优解的问题，另一方面可以引入随机因素，降低过拟合的风险。本文以高斯过程回归模型为基模型，并引入列采样方法，针对每一个采样的样本子集进行回归项过滤之后分别用于基模型的训练，得到多组预测结果，同时由于高斯过程回归模型能够得到预测的后验方差，可以作为天然的模型评价准则，所以本文基于每个基模型的后验方差对各个模型的预测结果进行加权融合，这样能够丰富搜索空间，降低过拟合风险，提高模型预测效果。　　(3)构建了数据分析平台，实现数据的存储、管理、可视化以及时序分析算法的嵌入。首先构建了软件平台与OneNET云端的通信渠道，实现数据的传输和保护;其次开发了本地数据库用于数据的存储和分析，通过对数据来源进行归纳存储，建立了嵌入式百度地图的地理位置可视化界面和数据查询界面;最后针对本地数据库存储的时间序列数据，使用本文所提出的预测算法进行分析预测，并以图表的方式对预测结果进行可视化展示。

目录

声明

摘要

第1章绪论

1．2时序预测国内外研究现状

1．3高斯过程回归(GPR)研究综述

1．4论文主要研究内容及结构安排

第2章基于高斯过程回归的时间序列建模

2．2．1高斯过程回归原理

2．2．2权重空间

2．2．3参数优化

2．3函数映射方法

2．3．1时间序列嵌入

2．3．2多步预测

2．4曲线拟合方法

2．5本章小结

第3章基于最大信息系数的自回归项选择方法

3．1引言

3．2算法预备知识

3．2．1常用阶次确定方法

3．2．2最大信息系数

3．3算法实现

3．4算法验证

3．5本章小结

4．1引言

4．2引导聚集算法

4．3采样与集成策略

4．4集成高斯过程回归模型

4．5数值实验

4．6本章小结

5．1引言

5．2 OneNET物联网开放平台

5．3交互界面设计

5．4数据库设计

5．5预测算法嵌入

5．6本章小结

6．1研究工作总结

6．2研究工作展望

参考文献

攻读硕士学位期间参与的科研项目及取得的成果

致谢