CNN の中間層における高次特徴表現の統合による可視化手法の検討

摘要

Convolutional Neural Network(CNN)は高い識別性能を実現するが，特徴表現は自動獲得されるため，時に識別結果が人にとって解釈困難なことがある．識別結果を説明すべくCNN が着目した領域を可視化する手法も存在するが[1,2]， 未知のクエリ画像に対し，CNN内部のフィルタが捉えた特徴を，分かりやすく可視化できない点が問題点となる．特に，誤認識が発生しその原因を分析するような場合には，CNN がクエリ画像のどのような場所にどのような特徴を捉えたか解釈できる必要がある．本稿では，画像の各領域に対して中間層のフィルタが捉えた特徴を人が解釈できる高次の特徴で表現し，それらを統合して可視化する一手法を提案する．