基于特征和基于样本的EM方法

摘要

本文主要讨论在非监督学习中,用EM方法求解有限混合分布(已知类别数)未知参数的问题.由于通过方程式直接求得参数比较困难,一般采用迭代法,但是也存在计算量过大的问题.大多数文献中的计算都是逐个样本进行的(基于样本的EM方法),我们证明:把特征相同的样本放在一起计算(基于特征的EM方法)和基于样本的EM方法完全等价.这样,EM方法的计算量可以大幅度减少,再加上其他措施(如去除频率为0的特征、适当量化),其计算速度完全可以达到实际运用的要求.