MPI/OpenMPハイブリッド並列化による潜在的ディリクレ配分法の効率的推定

摘要

近年，確率的トピックモデルがテキストデータをはじめとした多様なデータに適用され，有効性が示されている．トピックモデルの代表的なものに潜在的ディリクレ配分法（Latent Dirichlet Allocation：LDA）があげられる．LDAのパラメータ推定には変分ベイズ法やギプスサンプリング法などが用いられるが，大規模データに対して計算コストが要求されるため，効率化が望まれている．本稿では，LDAのためのギプスサンプリング法の効率化のため，並列計算技術を用いる．計算環境として，近年広く普及している分散·共有メモリ型（SMPクラスタ型）を想定する．従来のLDAのための並列推定手法はMPIまたはOpenMPがそれぞれ単独で用いられてきた．それに対してSMPクラスタ型並列計算機では，SMPノード間通信にメッセージパッシングを，SMPノード内並列化にループディレクティブを用いるハイブリッド並列プログラミングモデルが適している．そこで本稿では，LDAのためのMPI/OpenMPハイブリッド型並列推定手法を開発し，SMPクラスタ型計算機において高速化を実現した．