在R语言中实现Bayes方法对logistic的回归分析

摘要

对于logistic回归分析的处理办法,一直采用的都是极大似然估计的EM算法,由于计算方法的固定及计算过程的复杂性,例如,该算法对于初值的选取要求很高,否则收敛速度很慢.Gibbs抽样法作为一种高效灵活的估计方法广泛应用于广义线性回归模型,其中Probit回归模型由于联系函数为正态分布,使得回归系数的后验分布为共轭正态,从而抽样简单快捷.而Logit模型的后验分布比较复杂,无法直接抽取.本文基于增加数据的Gibbs抽样方法,通过引入POlya-Gamma分布族的潜在变量,使得模型中的回归系数参数的满条件分布为共轭正态分布,从而回归系数的马氏链很容易构造,回归系数的估计为后验均值估计.通过一组实际数据,分别调用R语言Glm包和BayesLogit包,并对比2种方法的估计结果,二者差别不大,表明POlya-Gamma潜变量Bayes估计法在处理logistic回归模型时的可用性、准确性.