基于分位数回归的自适应组Lasso变量选择

摘要

近年来，Koenker提出的分位数回归在理论和方法上都得到了广泛的发展与应用。分位数回归与均值回归相比，其不需要对误差分布做特定假设，损失函数是一个绝对偏差的加权和，因此估计的回归系数对异常值不敏感，相比于最小二乘方法具有稳健性，而且能更加全面地刻画解释变量对响应变量不同分位点的影响。故作为均值回归分析的一种稳健替代方法，分位数回归被普遍地用于研究响应变量和解释变量之间的潜在关系。
　　本文研究了变量维数p值固定时，组解释变量的线性模型的惩罚分位数回归。为了能同时选择非零变量组和估计回归系数，考虑了带有自适应组Lasso惩罚项的分位数估计，并证明了估计变量选择具有相合性，而且估计的非零系数满足渐近正态性，进而证明了自适应组Lasso估计的Oracle性质。在数值模拟中，对于随机误差项服从尖峰厚尾分布（如柯西分布）时，验证了自适应组Lasso分位数估计(agLasso-Q)相比自适应组Lasso估计(agLasso-LS)能更准确地选择出零系数，且随样本数增大表现更好。针对所提出的自适应组Lasso分位数回归中调节参数的选取，不同于以往惩罚分位数回归常用的AIC、BIC等信息准则，考虑了一种惩罚交叉验证方法PCV，以带有对模型复杂程度做惩罚的SIC准则形式作为十折交叉验证方法的损失函数，从理论上证明了PCV变量选择具有相合性，并讨论比较了该准则与其他调节参数选择准则的效果。通过对不同分位点进行模拟，发现当随机误差项ε来自尖峰厚尾分布时，且在τ=0.05和τ=0.95分位点时，PCV准则相较于施瓦茨信息准则和交叉验证能更好地估计组回归系数，主要体现在有更小的均方误差。