幾何学的観点に基づいた冗長ユニット削除アルゴリズムに関する考察

摘要

本稿では類似ベクトルを削除するアルゴリズムについて提案し，アヤメ分類問題を対象としたシミュレーションにょり有効性を検証する．すなわち，まず中間ユニット数が多くなってくると分離能力が似通ったユニットが多く出現することを述べ，忘却付き構造学習ではこのようなユニットを削除することが難しいことを示す．そして，中間ユニット間の類似度を調べるための手法について検討し，学習時に類似度が高いユニット組と結合している荷重を削除するためのアルゴリズムにっいて提案する．中間ユニットにおける類似度については，似たような分離性能を示すユニットを，分離超平面に直交する法ベクトル同士の内積により定義することで，類似度の高いユニットの学習を抑制するための手法について検討する．これにょり，冗長ユニットは学習過程において自然淘汰されるため，最適な構造が形成されることが期待される．以上の有効性を幾つかの学習課題を対象としてシミュレーションにより検証する．