力学系の最適制御に基づく深層学習的情報処理

摘要

深層学習は，現在，急速に発展する人工知能を支える中心的な技術である。深層学習の根幹は，その構成するネットワークの多層性にあり，入力した情報が出力層まで非線形に伝搬していくことで，多様で高度な表現能力を獲得していると指摘されている[1]。最近，その多層構造における情報の伝搬を力学系（動的システム）の時間発展過程とみなし，深層学習の中身を理解しようとする研究がある[2]。興味深いことに，深層学習における“学習”は，力学系の文脈において，入力（初期状態）に対して望ましい出力（終状態）が得られるように動的システムを最適制御することと理解できる[2,3]。この同等性は，物理（動的システム）と深層学習とを結びつけ，任意の動的システムへ深層学習機能を実装させるためのヒントを与えているといえる。もし光の動的システムに深層学習的な機能を付加することができれば，情報処理の高速化・高度化が可能となるかもしれない。そのための第1ステップとして，本研究では，深層学習を動的システムの最適制御として記述して，深層学習の処理機能を物理的システムへ組み込むためのフレームワークを提示する。