ディープラーニングによる数値計算ライブラリのチューニングパラメタの最適化の試み

摘要

疎行列計算は数値計算の様々な分野で利用されている.そのため，疎行列を対象とする数値計算ライブラリは広く利用されている.数値計算ライブラリには実装選択に関するチューニングパラメタが多く存在するが，最適実装の選択は実行を伴う経験に基づいて行われることが多く，時間的コストが高くなりやすい問題がある.この問題を解決するためにMuralidharanら[1]は，実行を介さずにSpMV (疎行列べクトル積）の最適実装を選択する手法を提案した.このMuralidharanらの手法では，疎行列に対して行列の構造に基づく事前定義特徴を用意し，さらに機械学習のモデルとしてサポートベクターマシンを用いることで最適なSpMV実装選択を行っている.しかし，新たなSpMV実装方法や計算機アーキテクチャに対しては事前定義特徴を再検討する必要がある.また，その検討は専門家でないと困難である.一方，Cuiら[2]は，行列の構造に基づく特徴画像を生成し，機械学習モデルとしてディープラーニングを使用して最適実装選択を行う方法を提案した.ディープラーニングでは，訓練データの特徴量を学習の過程で自動的に抽出することができるため，専門家でなくとも最適実装を選択しやすくなることが期待できる.しかし，これらの研究はSpMV実装を対象としたものであり，数値計算ライブラリ自体を対象とした研究は少ない.そこで本研究では，専門家でなくても最適な実装方式が自動設定できる数値計算ライブラリの構築を目的に，人工知能技術による実装選択手法の開発を目指す.特に，疎行列のカラー画像に基づく特徴画像の構築手法を提案し，数値実験による提案手法の効果検証を行う.