勾配ブースティング法を用いたマルチスケールグラフニューラルネットワークの学習とその最適化及び汎化性能解析

摘要

グラフニューラルネットワーク（Graph Neural Network; GNN)はグラフ構造を持つデータに利用される深層学習モデルの総称である.現在利用されているGNNの多くは，過平滑（over-smoothing) と呼ばれる問題により精度劣化することが知られており，それを緩和するモデルが様々提案されている.特に，中間出力達を集約して最終出力を構成することで，入力グラフ中の様々なスケールの部分グラフ構造を捉えるように設計されたモデル（本講演ではマルチスケールGNNと呼ぶ）は，過平滑問題の解決に有望視されている.しかし，これらがなぜ経験的に高精度を達成できるかについて，統計的学習理論の観点からの説明は少ない.本研究では，ブースティングの理論を用いてマルチスケールGNNを含むトランスダクティブ学習モデルについて最適化性能と汎化性能を解析した.ブースティング理論で一般的な仮定（弱学習条件）の下で，ある種のマルチスケールGNNの推定誤差の上限が層数に対して単調減少する事を示した.さらに，実データでの節点予測問題におけるマルチスケールGNNの挙動が理論と整合性を持つことを確認した.