不偏尤度逆伝搬学習

摘要

ニューラルネットワークの学習法として誤差逆伝搬法が知られている．ニューラルネットワークを誤差逆伝搬法により学習すると，学習の後半において汎化誤差が悪化する過学習と呼ばれる減少が生じる．本稿では，経験尤度のバイアスを補正した不偏尤度（情報量規準）を目的関数とする勾配法により，ニューラルネットワークを学習する不偏尤度逆伝搬学習を提案する．提案手法は，明示的に汎化誤差の推定量を最小化するので，近似性能の大幅な向上が期待できる．