一种词位置相关的LDA模型

摘要

Blei提出的LDA模型通过对主题反复抽样产生文本中的每个词,而对产生的每个词在文本中的位置没有做抽样.本文在传统的LDA模型基础上,抽样每个词出现位置的概率分布,提出了词位置相关的LDA模型(PLDA).同时针对不同的位置项定义不同的词贡献度,结合词-位置概率分布以及合适的词贡献度修正主题-词的概率分布,PLDA在一定程度上提高了主题-词可解释精度.实验说明了通过定义不同位置项合适的词贡献度,在NIPS数据集上,PLDA能够提高主题-词可解释平均精度.