一种结合自然梯度的概率主组件在线学习方法

摘要

基于特征值分解的主组件分析模型就是复杂度较高。概率主组件分析是从概率的角度理解主组件分析模型，采用期望最大化算法迭代求解，对于大规模高维数据可有效提高模型效率。但是该算法在参数更新过程中，需要遍历整个数据集才能更新一次参数，参数更新较慢，很难扩展到大规模数据集。本发明提出一种结合自然梯度的概率主组件在线学习方法，通过结合概率主组件分析与自然梯度，实现在线增量学习模型。本发明包括：模型建模单元、优化目标构建单元、及优化问题求解单元。模型建模单元是对传统的概率主组件分析模型引入自然梯度。优化目标构建单元通过似然函数构建优化目标。优化问题求解单元采用EM算法，引入自然梯度，使用单个样本进行参数更新。