複素ニューラルネットワークにおけるデータの対称性を用いた自然勾配法

摘要

実ニューラルネットワークにおいて，学習の停滞現象を解決するためにリーマン計量を用いた自然勾配法が甘利氏によって提案され，さらに自然勾配法には良い性質があることが知られている．我々は，自然勾配法を複素ニューラルネットワークへ一般化した手法を考察した．複素数は平面内の鏡映や回転を表現することに適している．この特性に注目し，データセットがそれぞれ共役不変や回転不変であった場合に，複素ニューラルネットワークの出力関数が共役不変性や回転不変性を持つことができることを示す．数値実験を通して，我々の手法の性能を調べる．