多响应纵向变量协方差矩阵的正则估计方法

摘要

多响应纵向变量广泛产生于各个前沿领域的定量化研究中，其协方差分析比单一响应纵向变量复杂许多，而目前可用的方法却不多见。本文提出一种将协方差矩阵和精度矩阵按照响应变量维数进行分块的正则化估计方法，首先将Cholesky分解方法推广到分块矩阵情形以确保估计中协方差矩阵的正定性，分解的因子矩阵也可分别对应于自回归模型的线性预测系数和预测误差方差。其次将带惩罚的负对数似然函数极小化问题化为关于该回归模型参数矩阵的双凸优化问题，建立交替凸搜索(Alternate Convex Search)算法加以解决，其中运用了Glasso方法和分块的坐标递减算法进行交替的凸优化，并证明了所提算法的收敛性。最后对提出的算法进行了模拟数据实验，通过对估计值的分析和与其他方法的比较验证了所提方法的有效性，尤其对于具有特殊相依结构的多响应纵向变量，验证了本文估计方法对其结构特点的体现。

目录

声明

摘要

第一章 绪论

1．1 研究背景及意义

1．1．1 多响应纵向变量

1．1．2 协方差分析

1．1．3 精度矩阵的统计解释

1．2 研究现状

1．3 本文工作及创新

1．4 本文结构

第二章 模型及估计方法

2．1 多响应纵向变量建模

2．2 分块的Cholesky分解

2．3 正则化协方差估计

2．3．1 带惩罚的极大似然方法

2．3．2 优化问题的求解方法

2．4 优化算法

2．4．1 双凸优化问题

2．4．2 Glasso方法

2．4．3 分块的坐标递减算法

2．4．4 交替凸搜索算法

2．4．5 K-fold交叉验证

2．5 算法的收敛性

第三章 数值分析

3．1 几种常见的结构

3．2 数值模拟

3．3 结果分析

第四章 总结与展望

附录

参考文献

致谢