一种定点DCT运算的最大误差估算方法

摘要

DCT运算广泛地应用在数字信号处理领域.某些情况下,必须用定点运算来完成DCT运算,此时会遇到两个问题:一个是对某种快速DCT算法,如何从精度和溢出两方面综合考虑,选择一个最佳的预定标方案,达到在不产生溢出条件下,尽量降低结果误差;另一个是如何从多个快速DCT算法中选择出最合适的一个.本文结合快速DCT运算中乘法运算的某些特点,在单个定点乘法误差模型基础上,从控制运算结果的最大误差角度,就分别保留乘法结果的低半部分和高半部分两种不同的定点乘法结果处理方法,对定点DCT运算的最大误差情况进行分析,以指导前述两个问题的解决.