パラメータ化オンライン準ニュートン法による階層型ニューラルネットワークの学習

摘要

本論文では準ニュートン法に基づく階層型ニューラルネットワークの新たな学習法を提案する．提案法では，準ニュートン法にオンライン学習からバッチ学習へ変化させるメカニズムを導入することで，学習能力の大幅な向上に成功した．また，提案法とLangevinalgorithmとの類似性に関して考察する．