多元线性模型系数的核主成分估计及其筛选

摘要

核主成分分析方法作为一种良好的非线性问题处理工具，已被广泛地运用于各个领域。它将核函数和主成分分析有机地结合起来，在解决信息冗余的同时，最大程度地保证了原始信息的完整性，从而拓宽了主成分分析方法的应用范围，是主成分分析方法的一种推广。　　在线性模型回归系数的无偏估计中，LS估计得到最广泛应用，但在自变量较多及存在着非线性关系的情况下，建立的多元线性回归模型不稳定。经常使用的线性模型系数的有偏估计方法如岭估计（Ridge Estimation）、主成分估计（Principal Component Estimation）和偏最小二乘估计（Partial Least Squares Estimation）的拟合效果也不理想，用核主成分估计线性模型回归系数也是一种有偏估计，它与岭估计、Stein估计相似，是建立在主成分分析基础之上的。在总结多元线性模型回归系数的主成分估计的基础上，结合核主成分分析的相关理论，从非线性的角度来考虑，提出了运用核主成分分析的方法对多元线性模型的系数进行估计，给出了多元线性模型系数核主成分估计的具体实施步骤，并且在核主成分的筛选准则方面进行了探讨、分析，推出了一些重要结论。　　实证分析表明，由于核主成分分析法借鉴主成分分析的思想，各主成分之间相互正交很好地避免了多重共线性问题。同时，由于核主成分分析方法引入了核函数，将原始数据映射到高维空间进行运算、处理，有效地解决了变量间存在非线性或者更复杂的关系时，建立的回归模型不稳定的问题。并且核主成分筛选准则的运用，使得核主成分的提取更加规范。

目录

封面

声明

中文摘要

英文摘要

目录

引言

第1章 文献综述

1.1 课题的研究背景

1.2 课题的研究现状

1.3 存在问题

1.4 文章的内容和结构

第2章 多元线性模型系数的估计方法

2.1 多元线性模型

2.2 多元线性模型系数的最小二乘估计

2.3 多元线性模型系数的主成分估计

2.4 多元线性模型系数的岭估计

2.5 多元线性模型系数的偏最小二乘估计

2.6多元线性模型系数估计常用方法及其不足小结

第3章 多元线性模型系数的核主成分估计

3.1 核方法简介

3.2核主成分分析原理

3.3多元线性模型系数的核主成分估计方法

第4章 核主成分筛选准则

4.1 变量选择对估计和预测的影响

4.2 自变量选择准则

4.3 核主成分的筛选准则

第5章 实证分析

5.1 对多重共线性数据的处理

5.2 对非线性数据的处理

结论

参考文献

附录A MATLAB程序

程序一：核主成分分析

程序二：主成分分析

致谢

导师简介

作者简介

学位论文数据集