In case of a two point rotation transform (RT), which is a component of the discrete cosine transform (DCT), is implemented in lifting structure, its multiplier coefficient has a singular point. Therefore, the coefficient value becomes close to infinity near the singular point depending on its rotation angle. As a result, rounding errors inside the transform are extremely amplified by such coefficients. In this report, we introduce permutation of order and sign of input and output signals of RT to shift the singular point. In this case, RT can be implemented with one of some candidates. Therefore, there exists the best combination of the candidates such that the error of the DCT becomes the minimum. We determine it utilizing structure of group of the permutations, comprehensively and efficiently. We confirmed that the error was reduced in Chen's DCT.%離散コサイン変換（DCT）の要素である回転変換をリフティング構成した場合、乗算係数が回転角度に対して特異点を持つ。従って、回転角度によっては係数が特異点に近づき、非常に大きな値となる。結果、有限語長演算により生じる丸め誤差が、DCT内部において乗算を経る毎に増幅される。本報告では、この特異点を回避するために、回転変換の入出力信号に、信号置換と符号置換を作用させる。これにより、特異点の位置を±π/2あるいは冗だけシフトできる。この際、一つの回転変換に対し、複数の構成法が候補として挙げられる。従って、DCT全体として誤差が最小となる組合せが存在する。本報告では、この最適な組合せを、置換の群構造を利用することで、網羅的かつ効率的に決定する。また、Chen型DCTを例に、誤差分散を低減出来ることを実験的に確認する。
展开▼
