一种AVS2量化模块和反量化模块的优化方法及系统

摘要

本发明公开了一种AVS2量化模块和反量化模块的优化方法及系统，该量化模块的优化方法包括利用计算得出的第一阈值和第二阈值从而对每一个变换系数进行数值判断，根据判断结果从而对变换系数进行相对应的量化处理。该反量化模块的优化方法包括对量化系数进行数值判断，根据判断结果从而对值为0的量化系数不操作、利用查出的基准值对绝对值小于2的量化系数进行反量化计算、利用反量化公式对绝对值大于等于2的量化系数进行反量化计算。通过采用本发明的优化方法及系统，能够节省大量复杂的算术运算，从而有效地提高编码效率。本发明作为一种AVS2量化模块和反量化模块的优化方法及系统可广泛应用于AVS2编解码领域中。

说明书

技术领域

本发明涉及音视频编解码技术，尤其涉及一种AVS2量化模块和反量化模块的优化方法及系统。

背景技术

AVS2是继AVS之后我国自主研发的新一代音视频编码标准，是《信息技术高效多媒体编码》标准的简称。它的目标是：在主流技术可以实现的条件下，当重建视频的主观质量一致时，AVS2对高清或更高分辨率视频编码效率至少要比AVS1的最好性能提高1倍。在主流的编码配置下，效率要高于最新的国际标准HEVC/H.265。AVS2与最新的国际编码标准HEVC/H.265对于常规视频的编码效率相当，比国际标准H.264/AVC以及第一代国家标准AVSl的编码效率提高近1倍；而对于监控等场景类视频，AVS2的压缩效率则是H.264/AVC的4倍。因此，作为我国制定的第二代具有自主知识产权的音视频编解码标准，AVS2直接影响着我国在国际视频领域的核心竞争力，关系着未来我国在信息领域的战略部署，对于我国信息化产业的快速发展具有重大意义。然而，由于引入了很多最新的视频编码技术，编码计算复杂度也明显增加，目前AVS2的编码速度还远远达不到实时编码。可见，为了能更好地推广和普及AVS2，则必须对AVS2的编码速度进行提高，使其逐步实现实时编码。

根据AVS2标准可知，量化模块和反量化模块的具体操作是对当前变换块的每一个系数使用该标准定义的方法求出相应的量化系数和变换系数。而由于每个预测模式之后都会对预测残差系数进行变换量化以及反量化反变换操作，因此量化反量化时对每个系数都进行复杂的算术运算则将会消耗大量的时间，从而大大降低AVS2的编解码速度。

发明内容

为了解决上述技术问题，本发明的目的是提供一种AVS2量化模块的量化优化方法及系统。

本发明的另一目的是提供一种AVS2反量化模块的反量化优化方法及系统。

本发明所采用的第一技术方案是：一种AVS2量化模块的优化方法，该方法包括：

计算量化后的值为0时变换系数的阈值，并将该计算得出的阈值作为第一阈值；

计算量化后的值为1时变换系数的阈值，并将该计算得出的阈值作为第二阈值；

利用计算得出的第一阈值和第二阈值从而对每一个变换系数进行数值判断，根据判断结果从而对变换系数进行相对应的量化处理。

进一步，所述根据判断结果从而对变换系数进行相对应的量化处理这一步骤，其具体包括：

当当前变换系数的绝对值小于第一阈值时，则使该当前变换系数所对应的量化结果置为0；

当当前变换系数的绝对值大于等于第一阈值且小于第二阈值时，则判断当前变换系数是否为正数，若是，则使该当前变换系数所对应的量化结果置为1，反之，则使该当前变换系数所对应的量化结果置为-1；

当当前变换系数的绝对值大于等于第二阈值时，则利用量化公式对当前变换系数进行计算，从而计算得出当前变换系数所对应的量化结果。

进一步，所述量化公式具体为：

QuantCoeff[i]＝(|Coeff[i]|×QuantTable(QP)+f×1<<Shift)>>Shift

Shift＝30-SampleBitDepth-uiBitSize

其中，QuantCoeff[i]表示为量化系数，Coeff[i]表示为变换系数，QuantTable(QP)表示为QP所对应的量化表，QP表示为量化参数，f表示为偏移量系数；Shift表示为偏移量；SampleBitDepth表示为编码精度，uiBitSize表示为变换块的大小。

本发明所采用的第二技术方案是：一种AVS2量化模块的优化系统，该系统包括：

第一计算模块，用于计算量化后的值为0时变换系数的阈值，并将该计算得出的阈值作为第一阈值；

第二计算模块，用于计算量化后的值为1时变换系数的阈值，并将该计算得出的阈值作为第二阈值；

第一判断处理模块，用于利用计算得出的第一阈值和第二阈值从而对每一个变换系数进行数值判断，根据判断结果从而对变换系数进行相对应的量化处理。

进一步，所述根据判断结果从而对变换系数进行相对应的量化处理，其具体包括：

当当前变换系数的绝对值小于第一阈值时，则使该当前变换系数所对应的量化结果置为0；

当当前变换系数的绝对值大于等于第一阈值且小于第二阈值时，则判断当前变换系数是否为正数，若是，则使该当前变换系数所对应的量化结果置为1，反之，则使该当前变换系数所对应的量化结果置为-1；

当当前变换系数的绝对值大于等于第二阈值时，则利用量化公式对当前变换系数进行计算，从而计算得出当前变换系数所对应的量化结果。

进一步，所述量化公式具体为：

QuantCoeff[i]＝(|Coeff[i]|×QuantTable(QP)+f×1<<Shift)>>Shift

Shift＝30-SampleBitDepth-uiBitSize

其中，QuantCoeff[i]表示为量化系数，Coeff[i]表示为变换系数，QuantTable(QP)表示为QP所对应的量化表，QP表示为量化参数，f表示为偏移量系数；Shift表示为偏移量；SampleBitDepth表示为编码精度，uiBitSize表示为变换块的大小。

本发明所采用的第三技术方案是：一种AVS2反量化模块的优化方法，该方法包括：

根据量化参数、编码精度和变换块的大小，从三维数组中查找出基准值，所述三维数组中所存储的数据为在量化参数、编码精度和变换块的大小的不同取值下，量化系数为1时所对应的反量化结果；

对量化系数进行数值判断，根据判断结果从而对值为0的量化系数不操作、利用查出的基准值对绝对值小于2的量化系数进行反量化计算、利用反量化公式对绝对值大于等于2的量化系数进行反量化计算。

进一步，所述利用查出的基准值对绝对值小于2的量化系数进行反量化计算这一步骤，其所采用的计算公式为：

Coeff[i]＝QuantCoeff[i]×BaseValue

其中，QuantCoeff[i]表示为量化系数，Coeff[i]表示为变换系数，BaseValue表示为基准值。

进一步，所述反量化公式为：

Coeff[i]＝(QuantCoeff[i]×DequantTable(QP)+1<<(Shift-1))>>Shift

Shift＝ShiftTable(QP)+SampleBitDepth+uiBitSize-15

其中，QuantCoeff[i]表示为量化系数，Coeff[i]表示为变换系数，DequantTable(QP)表示为QP所对应的反量化表，QP表示为量化参数，Shift表示为偏移量，ShiftTable(QP)表示为QP所对应的偏移表，SampleBitDepth表示为编码精度，uiBitSize表示为变换块的大小。

本发明所采用的第四技术方案是：一种AVS2反量化模块的优化系统，该系统包括：

查找模块，用于根据量化参数、编码精度和变换块的大小，从三维数组中查找出基准值，所述三维数组中所存储的数据为在量化参数、编码精度和变换块的大小的不同取值下，量化系数为1时所对应的反量化结果；

第二判断处理模块，用于对量化系数进行数值判断，根据判断结果从而对值为0的量化系数不操作、利用查出的基准值对绝对值小于2的量化系数进行反量化计算、利用反量化公式对绝对值大于等于2的量化系数进行反量化计算。

本发明的有益效果是：通过使用本发明的AVS2量化模块的优化方法及系统，能够预先得到量化结果为0、1、-1时变换系数的阈值，并且利用该阈值对变换系数的判断，从而可将相对应的变换系数直接分别置为0、1、-1，这样在量化过程中，则无需采用量化公式对每一个变换系数均进行量化操作计算，能节省大量复杂的算术运算，从而有效地提高编码效率。

本发明的另一有益效果是：通过使用本发明的AVS2反量化模块的优化方法及系统，则对值为0的量化系数不做操作，以及仅需要将量化系数为1时反量化可能得到的所有取值按照一定形成进行存储，那么对于量化系数中占绝大部分的1、-1这两个量化系数的反量化结果，便可以直接通过查找表得到取值，不再需要进行复杂的运算，这样在反量化过程中，则无需采用反量化公式对每一个量化系数均进行反量化操作计算，能节省大量复杂的算术运算，从而有效地提高编码效率。

附图说明

下面结合附图对本发明的具体实施方式作进一步说明：

图1是本发明一种AVS2量化模块的优化方法的步骤流程图；

图2是本发明一种AVS2量化模块的优化系统的结构框图；

图3是本发明一种AVS2量化模块的优化方法的一具体实施例步骤流程图；

图4是本发明一种AVS2反量化模块的优化方法的步骤流程图；

图5是本发明一种AVS2反量化模块的优化系统的结构框图

图6是本发明一种AVS2反量化模块的优化方法的一具体实施例步骤流程图。

具体实施方式

如图1所示，一种AVS2量化模块的优化方法，该方法包括：

计算量化后的值为0时变换系数的阈值，并将该计算得出的阈值作为第一阈值；

计算量化后的值为1时变换系数的阈值，并将该计算得出的阈值作为第二阈值；

利用计算得出的第一阈值和第二阈值从而对每一个变换系数进行数值判断，根据判断结果从而对变换系数进行相对应的量化处理。所述量化后的值为0时变换系数的阈值，其具体是指，变换系数经量化后刚好变为1时的阈值(threshold0)；所述量化后的值为1时变换系数的阈值，其具体是指，变换系数经量化后刚好变为2时的阈值(threshold1)。

作为本实施例方法的优选实施方式，所述根据判断结果从而对变换系数进行相对应的量化处理这一步骤，其具体包括：

当当前变换系数的绝对值小于第一阈值时，则使该当前变换系数所对应的量化结果置为0；

当当前变换系数的绝对值大于等于第一阈值且小于第二阈值时，则判断当前变换系数是否为正数，若是，则使该当前变换系数所对应的量化结果置为1，反之，则使该当前变换系数所对应的量化结果置为-1；

当当前变换系数的绝对值大于等于第二阈值时，则利用量化公式对当前变换系数进行计算，从而计算得出当前变换系数所对应的量化结果。

优选地，所述根据判断结果从而对变换系数进行相对应的量化处理这一步骤，其还包括：

当变换块中的所有变换系数的绝对值均小于第一阈值时，则表示该变换块为全零变换块，这样则不需要执行接下来的步骤，可以直接跳过量化、反量化及反变换模块。

作为本实施例方法的优选实施方式，所述量化公式具体为：

QuantCoeff[i]＝(|Coeff[i]|×QuantTable(QP)+f×1<<Shift)>>Shift

Shift＝30-SampleBitDepth-uiBitSize

其中，QuantCoeff[i]表示为量化系数，Coeff[i]表示为变换系数，QuantTable(QP)表示为QP所对应的量化表，QP表示为量化参数，f表示为偏移量系数，对于I图像，f取值10/31，而对于B、P、F图像，f取值10/62；Shift表示为偏移量；SampleBitDepth表示为编码精度，AVS2标准中有8和10两种编码精度；uiBitSize表示为变换块的大小，如4×4为2，8×8为3,16×16为4,32×32为5,64×64为6。

如图2所示，一种AVS2量化模块的优化系统，该系统包括：

第一计算模块，用于计算量化后的值为0时变换系数的阈值，并将该计算得出的阈值作为第一阈值；

第二计算模块，用于计算量化后的值为1时变换系数的阈值，并将该计算得出的阈值作为第二阈值；

第一判断处理模块，用于利用计算得出的第一阈值和第二阈值从而对每一个变换系数进行数值判断，根据判断结果从而对变换系数进行相对应的量化处理。

作为本实施例系统的优选实施方式，所述根据判断结果从而对变换系数进行相对应的量化处理，其具体包括：

当当前变换系数的绝对值小于第一阈值时，则使该当前变换系数所对应的量化结果置为0；

当当前变换系数的绝对值大于等于第一阈值且小于第二阈值时，则判断当前变换系数是否为正数，若是，则使该当前变换系数所对应的量化结果置为1，反之，则使该当前变换系数所对应的量化结果置为-1；

当当前变换系数的绝对值大于等于第二阈值时，则利用量化公式对当前变换系数进行计算，从而计算得出当前变换系数所对应的量化结果。

作为本实施例系统的优选实施方式，所述量化公式具体为：

QuantCoeff[i]＝(|Coeff[i]|×QuantTable(QP)+f×1<<Shift)>>Shift

Shift＝30-SampleBitDepth-uiBitSize

其中，QuantCoeff[i]表示为量化系数，Coeff[i]表示为变换系数，QuantTable(QP)表示为QP所对应的量化表，QP表示为量化参数，f表示为偏移量系数，对于I图像，f取值10/31，而对于B、P、F图像，f取值10/62；Shift表示为偏移量；SampleBitDepth表示为编码精度，AVS2标准中有8和10两种编码精度；uiBitSize表示为变换块的大小，如4×4为2，8×8为3,16×16为4,32×32为5,64×64为6。

本发明AVS2量化模块的优化方法的一具体实施例

变换系数经量化操作后值映射为0、1和-1的占绝大部分，尤其是高频部分的变换系数，经过量化操作之后，其量化结果几乎都变为0，因此，本发明的AVS2量化模块优化方法则利用这一特点来对量化结果进行提前判定，以达到AVS2量化模块节省繁琐复杂的量化运算，提高编码效率的目的。

本发明AVS2量化模块优化方法，其包括对量化结果进行提前判定的步骤，其具体为：

预先求出变换系数经量化后刚好变为1时的阈值0(threshold0)，及刚好变为2时的阈值1(threshold1)，那么变换系数只要值低于threshold0的，其量化结果，即量化的值，必然是0，而变换系数的值在threshold0和threshold1之间的，其量化结果必然是1或者-1，这样便可以省去大量复杂的算术运算，直接得出最终量化结果。并且，在量化之前，还可以根据这一特点进行全零变换块的提前判定，若判定出当前变换块的所有变换系数量化后值全为0，即所有变换系数的值均小于threshold0，那么当前变换块就是全零变换块，其经量化反量化和反变换操作后仍为全零变换块，这样对于全零变换块而言，则可以省去其之后的量化、反量化和反变换的过程，从而有效地提高编码效率。

根据上述可得，如图3所示，本发明的AVS2量化模块的优化方法具体包括：

S101、当对一个变换块进行量化时，首先把相关参数，如QP所对应的量化表QuantTable(QP)、编码精度SampleBitDepth、变换块的大小uiBitSize等带入量化公式中，然后分别求出当量化后的值，即量化结果，为0时变换系数的阈值(threshold0)以及量化后的值为1时变换系数的阈值(threshold1)；

令i＝0，按照光栅扫描顺序依次处理各个变换系数；

S102、求出当前变换系数Coeff[i]的绝对值，并与threshold0进行比较，若|Coeff[i]|小于threshold0时，则判断变换块的所有变换系数的绝对值是否均小于threshold0，若是，则说明该变换块为全零变换块，这样则不需要执行接下来的步骤，可以直接跳过量化、反量化及反变换模块；

反之，则令i＝0，执行步骤S103；

S103、求出当前变换系数Coeff[i]的绝对值，并与threshold0进行比较，若|Coeff[i]|大于等于threshold0，则执行步骤S104；

反之，则使该当前变换系数Coeff[i]所对应的量化结果QuantCoeff[i]置为0，即令QuantCoeff[i]＝0，然后，执行步骤S106；

S104、若|Coeff[i]|大于等于threshold1，则执行步骤S105；

反之，则判断Coeff[i]是否为正数，若Coeff[i]为正，则使该当前变换系数Coeff[i]所对应的量化结果QuantCoeff[i]置为1，即令QuantCoeff[i]＝1，反之，则使该当前变换系数Coeff[i]所对应的量化结果QuantCoeff[i]置为-1，即令QuantCoeff[i]＝-1；然后，执行步骤S106；

S105、利用量化公式对当前变换系数Coeff[i]进行量化计算，从而计算得出当前变换系数所对应的量化结果QuantCoeff[i]，然后，执行步骤S106；

所述量化公式具体为：

QuantCoeff[i]＝(|Coeff[i]|×QuantTable(QP)+f×1<<Shift)>>Shift

其中，Shift＝30-SampleBitDepth-uiBitSize

S106、判断当前变换块是否仍存有变换系数没有完成量化操作，若是，则i++，然后返回重新执行步骤S103，从而对下一个变换系数进行量化处理；反之，则量化模块完成量化处理。

如图4所示，一种AVS2反量化模块的优化方法，该方法包括：

根据量化参数QP、编码精度SampleBitDepth和变换块的大小uiBitSize，从三维数组中查找出基准值，所述三维数组中所存储的数据为在QP、SampleBitDepth和uiBitSize的不同取值下，量化系数为1时所对应的反量化结果；

对量化系数进行数值判断，根据判断结果从而对值为0的量化系数不操作、利用查出的基准值对绝对值小于2的量化系数进行反量化计算、利用反量化公式对绝对值大于等于2的量化系数进行反量化计算。

作为本实施例方法的优选实施方式，所述利用查出的基准值对绝对值小于2的量化系数进行反量化计算这一步骤，其所采用的计算公式为：

Coeff[i]＝QuantCoeff[i]×BaseValue

其中，QuantCoeff[i]表示为量化系数，Coeff[i]表示为变换系数，BaseValue表示为基准值。

作为本实施例方法的优选实施方式，所述反量化公式为：

Coeff[i]＝(QuantCoeff[i]×DequantTable(QP)+1<<(Shift-1))>>Shift

Shift＝ShiftTable(QP)+SampleBitDepth+uiBitSize-15

其中，QuantCoeff[i]表示为量化系数，Coeff[i]表示为变换系数，DequantTable(QP)表示为QP所对应的反量化表，QP表示为量化参数，Shift表示为偏移量，ShiftTable(QP)表示为QP所对应的偏移表；SampleBitDepth表示为编码精度，AVS2标准中有8和10两种编码精度；uiBitSize表示为变换块的大小，如4×4为2，8×8为3,16×16为4,32×32为5,64×64为6。

如图5所示，一种AVS2反量化模块的优化系统，该系统包括：

查找模块，用于根据量化参数QP、编码精度SampleBitDepth和变换块的大小uiBitSize，从三维数组中查找出基准值，所述三维数组中所存储的数据为在QP、SampleBitDepth和uiBitSize的不同取值下，量化系数为1时所对应的反量化结果；

第二判断处理模块，用于对量化系数进行数值判断，根据判断结果从而对值为0的量化系数不操作、利用查出的基准值对绝对值小于2的量化系数进行反量化计算、利用反量化公式对绝对值大于等于2的量化系数进行反量化计算。

作为本实施例系统的优选实施方式，所述利用查出的基准值对绝对值小于2的量化系数进行反量化计算这一步骤，其所采用的计算公式为：

Coeff[i]＝QuantCoeff[i]×BaseValue

其中，QuantCoeff[i]表示为量化系数，Coeff[i]表示为变换系数，BaseValue表示为基准值。

作为本实施例系统的优选实施方式，所述反量化公式为：

Coeff[i]＝(QuantCoeff[i]×DequantTable(QP)+1<<(Shift-1))>>Shift

Shift＝ShiftTable(QP)+SampleBitDepth+uiBitSize-15

其中，QuantCoeff[i]表示为量化系数，Coeff[i]表示为变换系数，DequantTable(QP)表示为QP所对应的反量化表，QP表示为量化参数，Shift表示为偏移量，ShiftTable(QP)表示为QP所对应的偏移表；SampleBitDepth表示为编码精度，AVS2标准中有8和10两种编码精度；uiBitSize表示为变换块的大小，如4×4为2，8×8为3,16×16为4,32×32为5,64×64为6。

本发明AVS2反量化模块的优化方法的一具体实施例

变换系数经量化操作后值映射为0、1和-1的占绝大部分，尤其是高频部分的变换系数，经过量化操作之后，其量化结果几乎都变为0，因此，本发明的AVS2反量化模块优化方法则利用这一特点来对反量化结果进行提前判定，以达到AVS2反量化模块节省繁琐复杂的量化运算，提高编码效率的目的。

本发明AVS2反量化模块的优化方法，其包括对反量化结果进行提前判定的步骤，其具体为：

由AVS2标准和反量化公式可知，对于反量化公式中的变量，QP共有80种取值，SampleBitDepth共有2种取值，uiBitSize共有5种取值，也就是说对于一个量化系数，经过反量化得到的变换系数最多只有80×2×5＝800种可能，而根据之前的量化优化部分可知，量化后得到的绝大部分量化系数都为0,1和-1，0经过反量化后得到的值必然也是0，而对于1和-1经过实验分析得出，这两个量化系数，经反量化后对应得到的变换系数成正比例关系。也就是说，假如量化系数1经过反量化得到的变换系数为A，那么量化系数-1经过反量化得到的变换系数就为-A。因此，只要将量化系数为1时反量化可能得到的800种取值按照一定形式进行存储，那么对于量化系数中占绝大部分的1，-1这两个个取值，便可以直接通过查找表得到取值，这样则不再需要进行复杂的算术运算，大大提高了效率。

根据上述可得，如图6所示，本发明的AVS2反量化模块的优化方法具体包括：

S201、当对一个变换块进行反量化时，首先根据QP、SampleBitDepth和uiBitSize的值，在三维数组de_quantation[2][5][80]中查找出基准值BaseValue，所述三维数组中所存储的数据为在QP、SampleBitDepth和uiBitSize的不同取值下，量化系数为1时所对应的反量化结果；所以，对于所述的基准值BaseValue，其为QP、SampleBitDepth和uiBitSize的值在确定的情况下，从所述三维数组中查找出相对应的量化系数为1时所对应的反量化结果；

令i＝0，然后按照ZigZag扫描顺序依次处理各量化系数；

S202、判断当前量化系数QuantCoeff[i]是否为0，若是，则直接执行步骤S204，而不需要进行接下来的操作，因为在反量化后存储变换系数Coeff[i]的数组使用的仍然是之前存储QuantCoeff[i]的数组，原来数组中该位置就是0，因此不需要重复赋值0；

反之，则执行步骤S203；

S203、判断当前量化系数QuantCoeff[i]的绝对值是否小于2，若是，则利用查出的基准值对当前量化系数QuantCoeff[i]进行反量化计算，求出Coeff[i]的值，即反量化结果；

反之，则利用反量化公式对当前量化系数QuantCoeff[i]进行反量化计算，求出Coeff[i]的值，即反量化结果；

S204、判断当前变换块是否仍存有量化系数没有完成反量化操作，若是，则i++，然后返回重新执行步骤S202，从而对下一个量化系数进行反量化处理；反之，则反量化模块完成反量化处理。

上述步骤S203中，所述利用查出的基准值对当前量化系数QuantCoeff[i]进行反量化计算，其所采用的反量化计算公式为：

Coeff[i]＝QuantCoeff[i]×BaseValue

其中，QuantCoeff[i]表示为量化系数，Coeff[i]表示为变换系数，BaseValue表示为基准值。

上述步骤S203中，所述利用反量化公式对绝对值大于等于2的量化系数进行反量化计算，其所采用的反量化公式为：

Coeff[i]＝(QuantCoeff[i]×DequantTable(QP)+1<<(Shift-1))>>Shift

Shift＝ShiftTable(QP)+SampleBitDepth+uiBitSize-15

其中，QuantCoeff[i]表示为量化系数，Coeff[i]表示为变换系数，DequantTable(QP)表示为QP所对应的反量化表，QP表示为量化参数，Shift表示为偏移量，ShiftTable(QP)表示为QP所对应的偏移表；SampleBitDepth表示为编码精度，AVS2标准中有8和10两种编码精度；uiBitSize表示为变换块的大小，如4×4为2，8×8为3,16×16为4,32×32为5,64×64为6。

以上是对本发明的较佳实施进行了具体说明，但本发明创造并不限于所述实施例，熟悉本领域的技术人员在不违背本发明精神的前提下还可做作出种种的等同变形或替换，这些等同的变形或替换均包含在本申请权利要求所限定的范围内。