DNN の層別重み係数量子化と画像認識精度との関係

摘要

近年，深層学習(以降DNN)は画像認識，画像生成，雑音除去等に対して優れた性能を与えるツールとして研究が進hでおり，様々な産業分野での応用が期待されている．一方，IoT の進展に伴い，DNN をスマートフォンや超小型デバイス等のハードウェア性能が限られた端末に実装したり，インターネットを介してDNN そのものを伝送したりする必要性が高まると考えられる．しかし，DNNは層が深くなると重み係数の数が膨大となり，その表現には大きな情報量が必要になるとともに，計算時に大量のメモリを消費するなどの問題を抱えている．これを解決するため，ユニットの消去やリンクの枝切りによってネットワークを再学習する手法[1]，特異値分解と量子化を全結合層に適用する手法[2]， 係数を周波数変換する手法[3]等が提案されている．本研究では複数の学習済みDNN の各層の重み係数に着目し，各層で量子化処理を行った際の画像認識精度の影響とともに，各層に対して効率的な量子化手法を試みる．