アンサンブル学習

摘要

本講演では，バギングやパラレルブースティングなどのアンサンブル学習を統計力学的なオンライン学習の枠組で議論する．教師と生徒は両方とも単純パーセプトロンである場合を議論する．アンサンブル学習機械の汎化誤差が生徒の結合荷重ベクトルの大きさ，教師と生徒の荷重ベクトルのオーバーラップ（方向余弦）および生徒の結合荷重ベクトル間のオーバーラップ（相関）にのみ依存することを示す．これらの巨視的な変数の学習のダイナミクスを記述する方程式を導出し，バギングとパラレルブースティングの性質を議論する．