支持向量回归在预测控制中的应用研究

摘要

统计学在解决机器学习问题中起着基础性的作用，传统统计学主要研究渐近理论，即当训练样本数目趋向无穷大时的统计性质。但实际问题中可用样本数目通常是有限的，因此一些理论上很优秀的学习方法实际中表现得却可能不尽人意。统计学习理论系统地研究了机器学习问题，尤其是有限样本下的统计学习问题。在该理论的框架下产生了“支持向量机”这一新的通用机器学习方法。它植根于统计学习理论的vC维理论和结构风险最小化原则，根据有限的样本信息在模型的复杂性和学习能力之间寻求最佳折衷，以获得最好的推广能力。 本文首先将支持向量回归算法应用于时间序列预测，通过仿真验证了支持向量回归具有很好的非线性逼近能力和泛化能力，并分析得出支持向量回归之所以能更好地实现对时间序列拟合及其预测的原因，同时指出支持向量回归算法存在的不足。针对支持向量机二次规划(OP)算法处理大规模数据计算复杂度高的问题，介绍了适宜处理大规模数据的序列最小优化(SMO)算法，并对该算法在算法和程序设计上进行改进，使运算速度和预测精度得到了较大提高。 基于支持向量回归的辨识研究基本上都为离线辨识，其原因在于支持向量回归处理大批数据时存在耗时长及内存开销大的问题，不能满足实时计算的要求。针对这个问题提出了基于支持向量回归的限定记忆在线辨识算法，该算法有效地避免了内存开销大的问题，满足了在线辨识实时性的要求，为将支持向量回归应用于控制研究奠定了基础。 本文分析了内模控制的工作原理和特点，利用支持向量回归具有很好的非线性逼近能力的特性，将支持向量回归理论应用于内模控制。提出了一种支持向量回归内模控制(SVR-IMC)的设计方法：采用支持向量回归在线辨识算法建立被控对象的正模型，并利用先离线再在线辨识的方法建立被控对象的逆模型，即内模控制器。SVR-IMC具有较好的鲁棒性和抗干扰能力。 动态矩阵控制是预测控制算法中的一种，采用工程上易于测取的对象阶跃响应建立预测模型，由于干扰和噪声等因素的影响，预测模型与真实系统往往存在偏差影响控制性能。针对系统的建模误差，本文提出一种基于支持向量回归的误差补偿动态矩阵控制算法，即用支持向量回归在线建立误差模型，并进行单步预测得到当前误差的预测值，对预测模型进行补偿，从而实现对建模误差的校正，提高算法的鲁棒性。

目录

文摘

英文文摘

声明

第一章绪论

1.1选题背景及其意义

1.1.1统计学习理论与支持向量机

1.1.2控制理论的发展及其面临的问题

1.1.3选题的意义

1.2国内外研究动态

1.2.1机器学习的研究

1.2.2统计学习理论及其支持向量机的研究概况

1.2.3支持向量回归的研究现状及其存在的问题

1.3智能预测控制的研究现状

1.3.1神经网络预测控制

1.3.2模糊预测控制

1.4本文的研究内容和结构安排

第二章统计学习理论与支持向量回归原理

2.1前言

2.2机器学习的基本问题

2.2.1问题的表示

2.2.2经验风险最小化

2.2.3复杂性与推广能力

2.3统计学习理论—支持向量机的理论背景

2.3.1学习过程一致性的条件

2.3.2 VC维

2.3.3泛化能力的界

2.3.4结构风险最小化

2.4支持向量机

2.4.1支持向量分类问题

2.4.2核函数

2.4.4支持向量机参数选择方法

2.4.3支持向量回归

2.5 小结

第三章时间序列预测的建模与分析研究

3.1前言

3.2时间序列的研究现状

3.2.1时间序列线性预测方法

3.2.2时间序列的非线性预测方法

3.3BP神经网络与自适应特征扩张神经网络原理简介

3.3.1BP神经网络简介

3.3.2自适应特征扩张神经网络原理简介

3.4时间序列预测实例

3.4.1仿真模型

3.4.2仿真比较

3.5仿真分析

3.6 小结

第四章序列最小优化算法研究及其改进

4.1引言

4.2 SMO算法

4.2.1 SMO算法基本原理

4.2.2 SMO算法的改进(I-SMO)

4.3仿真实验分析

4.3.1太阳黑子数据

4.3.2协调系统数据

4.3.3仿真结论

4.4 小结

第五章基于SVR的限定记忆在线辨识算法及其应用研究

5.1引言

5.2系统辨识的基本原理

5.3基于支持向量回归的限定记忆在线辨识算法

5.4主汽温系统辨识控制结构

5.4.1主汽温系统特性

5.4.2辨识结构

5.4.3单神经元自适应控制器

5.5主汽温对象辨识仿真实例

5.6小结

第六章支持向量回归在内模控制中的应用研究

6.1.引言

6.2.内模控制中的建模方法研究现状

6.3.内模控制原理

6.3.1内模控制的结构

6.3.2内模控制的性质

6.3.3内模控制器的设计

6.3.4滤波器的设计

6.4.基于支持向量回归的内模控制(SVR-IMC)系统设计

6.4.1建立正模型

6.4.2建立逆模型

6.5.支持向量回归内模控制仿真研究

6.5.1仿真对象数学模型

6.5.2仿真参数选择

6.5.3仿真结果分析

6.6小结

第七章基于支持向量回归误差补偿的动态矩阵控制

7.1引言

7.2动态矩阵控制算法

7.2.1预测模型

7.2.2反馈校正

7.2.3滚动优化

7.3支持向量回归误差补偿算法

7.3.1误差补偿动态矩阵控制

7.4仿真试验

7.5仿真结果分析

7.6小结

第八章结论与展望

参考文献

致谢

攻读博士学位期间发表的学术论文

攻读博士学位期间参加的科研工作