超球面上の最適化手法を応用した主成分分析

摘要

主成分分析は，多次元データの特徴抽出や，データ処理を行なう前の次元圧縮などに用いられる手法であり，歴史的に勾配系に立脚した計算がさまざま提案され，近年では独立成分分析への利用が注目されている．これらの計算モデルを最適化の観点から解釈すると，主成分方向に対する決定変数が単位超球面上に拘束された制約付最適化問題に対し，主成分方向を相互に直交させるようなペナルティ項を目的関数に加えたラグランジュ関数の最適化に帰着する緩和法モデルを適用したものと考えられる．しかし，一般に制約付最適化問題の緩和問題を数値計算によって解くさい，ラグランジュ乗数をパラメータとして与えることになるため，その設定が難しいうえに，得られた最適解が制約条件を侵害することもありうる．