ディープラーニング事前学習の効果に関するユニット出力可視化を通した実験的考察

摘要

注目を集める強力な識別器，ディープニューラルネットワーク（DNN：Deep Neural Networks）の能力を明らかにすることを目指し，その事前学習の効果に着目して実験的な分析を行った．分析は，制約付きボルツマンマシン（RBM：Restricted Boltzmann Machine）によって事前学習されたネットワークをディープビリーフネットワークあるいはディープオートエンコーダと見做して動作させ，それが持つ連想記憶器としての機能とネットワーク内部における入力標本の特徴表現の能力を，人物顔画像パターンを用いたネットワーク動作の視覚化実験を通して行った．その結果，RBMに基づく事前学習が，ネットワーク内部に学習標本の情報を記憶し，かつネットワーク内の各層において入力標本に関するなんらかの特徴表現を実現していることが確かめられた．