大規模数値シミュレーションの精度と4倍精度浮動小数点演算の実装の現状

摘要

最近のコンピュータシステムのメモリの大規模化や並列計算の活用による計算の高速化により、数値シミュレーションのさらなる大規模化が進んでいる。しかし、計算規模の大規模化は数値計算誤差の蓄積を増大し、精度への影響が懸念される。一方、2008年に標準化された4倍精度浮動小数点を用いることによって、現在シミュレーションにおいて主流と考えられる倍精度計算に比べて約2倍の精度の計算が可能となる。本研究では、まず、FortranとCにおける4倍精度浮動小数点形式のコンパイラへの実装の現状を調査し、代表的なコンパイラ間および言語間の処理速度差を明らかにする。さらに、倍精度数値シミュレーションの大規模化による精度の限界を有限要素法を例にとって明らかにする。