ベイジアンネットワークの生成に基づく特徴抽出

摘要

ニューラルネットワークの訓練方法として，入力の特徴を自動で抽出する表現学習という手法が注目を集めている．この表現学習では高階層のノードはど抽象的な特徴に対応するといったような特徴間の階層構造を捉えることができ，得られた抽象的な特徴を分類タスクの特徴量に用いることで高い認識精度を得ている．これらは入力層から出力層へ向けてのみ情報を伝播するフィードフォワードなものである．一方で，生体脳では各階層間で低次の層から高次のみならず，高次の層から低次の層へ情報を伝達する接続があることが知られており，この相互接続を説明するためにBayesian Networkを脳の情報処理モデルにおく研究がある．本研究はBayesian Networkを認識のモデルとし，これを自動的に構築する手法としてBayesian Auto Encoder（BAE）を提案する．BAEが構築するネットワークは入力データの特徴をBayesian Network上のノードとして獲得し，また双方向の情報を用いて各特徴が入力データに存在する確率を推論する．BAEが小規模なネットワークを構築し，特徴をノードとして得られることを実験した．