Asymptotic Optimality of Competitive Associative Nets and Its Application to Incremental Learning of Nonlinear Functions

摘要

競合連想ネットCAN2は競合ネットと連想ネットの機能を用いて非線形関数を遂次的に学習し区分的に線形近似するニューラルネットである.このネットの有効性は関数近似,制御,降水量推定などへの応用において示されているが,その学習法は基本的にこう配法に基づく競合学習を含んでおり,局所解問題をもつ.この問題を回避するために,本論文ではまずネットを構成するユニット数が非常に多い場合を考え,近似すべき関数の平均2乗誤差を最小化するための最適性の条件,すなわち漸近最適条件を導く.この条件は各時刻の荷重配置が最適解に近いかどうかを判断するために用いることができると同時に,最適解により近い荷重配置を示唆することができる.そこでこの条件をこう配法による学習に組み入れる.すなわちこう配法により得られた荷重配置が最適解に近くないと判断されるときはあるユニットの荷重を最適解に近い荷重配置になるように再初期化する学習法を構成する.最後にこの学習法をいくつかのベンチマーク関数に適用する数値実験を通して本手法の有効性を確認するとともに,BPN (Back-Propagation Net), RBFN (Radial Basis Function Net)及びSVR (Support Vector Regression)の実験結果と比較し,本手法を用いるCAN2の関数近似性能の高さを示す.