CNN の中間層における高次特徴表現の統合による可視化手法の検討

摘要

Convolutional Neural Network(CNN)は高い識別性能を実現 するが，特徴表現は自動獲得されるため，時に識別結果が 人にとって解釈困難なことがある． 識別結果を説明すべくCNN が着目した領域を可視化す る手法も存在するが[1,2]， 未知のクエリ画像に対し，CNN 内部のフィルタが捉えた特徴を，分かりやすく可視化でき ない点が問題点となる．特に，誤認識が発生しその原因を 分析するような場合には，CNN がクエリ画像のどのような 場所にどのような特徴を捉えたか解釈できる必要がある． 本稿では，画像の各領域に対して中間層のフィルタが捉 えた特徴を人が解釈できる高次の特徴で表現し，それらを 統合して可視化する一手法を提案する．