ページ置き換えアルゴリズムを導入したLimited General Regression Neural Network－組み込み用学習アルゴリズムの性能向上法の検討

摘要

筆者らは以前、組み込み機器向け神経回路Limited General Regression Neural Network （LGRNN）を提案した。LGRNNは一般回帰ニューラルネットワーク（GRNN）のユニット数を一定個数に制限する機能を加えたもので、容量制限下でのオンライン学習法（learning on a budget）の一種である。この手法は基本的には新しいサンプルが来た時に、その誤差がある閾値よりも大きいことが分かると、新しいカーネルを割り付けて学習を行う。しかし、中間ユニット数が上限に達すると既存ユニットから冗長なユニットをカーネル法を用いて探し出し、削除して空いたスペースに新しいカーネルを割り付ける。しかし、従来法の様に冗長なユニットが見つかった時に置き換えを行うだけでは、今与えられている問題への適応が遅れて誤差の上昇を避けられない場合がある。そこで、本稿では既存ユニットの価値を冗長度の観点のみならず、短期的有用度をメモリ管理法の一種であるページ置き換えアルゴリズムを用いて評価し、より環境にマッチしたカーネルの置き換えを実現する。