整数基底分解法と量子化による音響モデルの圧縮

摘要

DNN音響モデルのモデルサイズ縮減を目的として、rnSVD 後の行列の量子化と、SPADE による三値行列rnと実数行列の積への分解の2 通りの方法を検討した。rn結果として、両手法によりSVD 後のモデルから1/5rn程度のモデルサイズ(元のモデルの1/10 程度) で、元rnのモデルと比べて1～2%程度の認識性能低下に抑えrnられた。メモリ量については両手法同等である。計算rn量については、量子化SVD では固定小数点化が必要rnだが、SPADE の実装はそれに比べれば易しいことかrnらSPADE による圧縮が有用であることが分かった。