数据驱动建模中精度与泛化平衡问题研究

目录

1 绪论

1.1 研究背景和意义

1.2 研究现状

1.2.1 数据驱动建模研究现状

1.2.2 数据驱动建模方法泛化能力研究现状

1.2.3 非线性模型复杂度研究现状

1.3 研究难点及本文工作

1.4 论文的章节安排

2 数据驱动建模相关理论

2.1 统计学回归分析基础

2.1.1 线性回归

2.1.2 多项式回归

2.1.3 逐步回归

2.1.4 岭回归

2.1.5 套索回归

2.2 数据驱动建模方法基础

2.2.1 高斯过程回归

2.2.2 支持向量回归

2.2.3 神经网络回归

2.2.4 符号回归

2.3 基于粒子群优化的符号回归算法

2.3.1粒子群优化算法介绍

2.3.2 模型表示方法

2.3.3 粒子飞行机制

2.3.4 进化算子

2.3.5 PSSR 算法流程图

2.4 本章小结

3 数据驱动建模的泛化能力提升方法

3.1 模型复杂度

3.1.1 语法复杂度

3.1.2 语义复杂度

3.1.3 非线性符号模型的复杂度定义

3.2 损失函数

3.2.1 回归任务中常用的损失函数

3.2.2 有复杂度约束的损失函数

3.3 样本权重

3.4 实验结果

3.4.1 实验数据和环境介绍

3.4.2 复杂度相关实验结果及分析

3.4.3 样本权重实验

3.5 本章小结

4 平衡建模精度和泛化能力方法

4.1 引言

4.2 结构风险最小化

4.3 多目标优化

4.3.1 快速非支配排序

4.3.2 拥挤度

4.3.3 NSGA-II流程图

4.4 集成学习

4.5 实验结果与分析

4.5.1 集成学习实验测试

4.5.2 本文算法的泛化能力对比实验

4.6 本章小结

5 总结与展望

5.1 主要工作与成果

5.2 展望

致谢

参考文献

攻读学位期间主要研究成果