データ転送の発行順序制御によるGPUプログラムの高速化

摘要

理論演算性能の高いGPUに汎用計算を行わせるGPGPUが注目を集めている．このようなGPUプログラミング用に，NVIDIA社は並列計算アーキテクチャモデルとしてCUDAを提供している．CUDAでは，データ並列な処理を並行実行させるハードウェアサポートに加え，処理順依存のない，異なる関数を並行実行させるサポートも備えている．しかし関数の効率的な並行実行のためには，プログラマは関数の実行順を適切に制御しなくてはならない．この問題を緩和する手法の1つとして，Kernel Reorderingが提案されている．しかしこの手法では制御対象にデータ転送を含めておらず，関数のみの実行順序を制御するため，本来並行実行可能なデータ転送と関数とが逐次実行される可能性がある．そこで本稿では，Kernel Reorderingを改良し，関数だけではなくそれに付随するデータ転送も含めて実行順序を制御する手法を提案する．