変分混合ガウスモデルアクセラレータ設計のための変分推論アルゴリズムの解析

摘要

近年，CPUやGPGPU性能の向上とともに機械学習技術が発達し，ビッグデータの解析等に用いられるようになった.しかし，増加する要求計算量に対し，CPUやGPGPUではもはや処理が追いつかず，タスクごとに専用のアクセラレータが設計されることも多くなった.また，機械学習によるクラスタリング手法の一つに，ベイズ推論の概念を利用する変分推論を用いた変分混合ガウス分布という手法がある.この手法は変分推論を利用しない混合ガウス分布に比べて過学習を行い難いという特徴がある.我々はこの変分混合ガウス分布の高速化の布石として，変分推論アルゴリズムのプロファイリングを行った.潜在変数の事後分布を求める際に実行される3つの関数が処理の実行時間の75から92%を占めていることがわかった.また，データの次元数Dとデータ数Nの関係でボトルネックとなる関数が変化することがわかった.