提高数字信号变换性能的方法及数字信号变换方法和装置

摘要

本发明提出一种提高数字信号变换性能的方法和装置及数字信号变换方法和装置，其中，提高数字信号变换性能的方法包括：构造N行N列的变换核矩阵A，使所述变换核矩阵A同时满足(a)和(b)两个条件：(a)[DCT(i,j)×Factor]‑2≤A(i,j)≤[DCT(i,j)×Factor]+2(b)J(A)＜TH；其中，

说明书

本申请为申请号为201310238184.0、发明名称为“提高数字信号变换性能的方法及数字信号变换方法和装置”的发明专利申请的分案申请。

技术领域

本发明涉及数字信号处理技术领域，尤其涉及一种提高数字信号变换性能的方法和装置及数字信号变换方法和装置。

背景技术

视频和图像编码技术作为一种数字信号处理方式，是数字视频和图像这一重要多媒体信息得以被广泛应用的基础和关键。当前基于块的视频编码混合框架下，视频编码一般包括以下四大块：预测编码、变换以及量化、熵编码、环路滤波。在编码端，编码器对预测编码后的残差块/矩阵进行变换得到变换系数块/矩阵，变换系数块/矩阵再经过量化后得到量化系数块/矩阵，最后对量化系数块/矩阵进行熵编码得到最终的码流；在解码端，解码器首先对码流进行熵解码得到量化系数块/矩阵，然后对量化系数块进行反量化得到变换系数块/矩阵，变换系数块/矩阵经过反变换后就得到了重建残差块/矩阵，最后解码器根据重建残差和预测值就能得到解码后的重建图像。由于在解码端，进行反变换的变换系数块/矩阵是通过反量化得到的，因此也可以称为反量化系数块/矩阵。在这一编解码过程中，变换的主要功能在于去除预测残差之间的相关性，集中残差能量，有利于后续的熵编码，从整体上提高视频编码的效率。在上述描述中，“块/矩阵”表示两种表述方式，二者所指的物理含义相同。例如，“残差块/矩阵”表示两种表述方式，即残差块或残差矩阵。

在JPEG、MPEG-1/2/4、H.261等视频图像编码标准中，主要采用了浮点的离散余弦变换(DCT)，在实际实现中，不同的硬件产品关于浮点数的运算精度不一样，从而在这些标准下的编解码器之间可能会出现失配现象。鉴于此，在H.264/AVC、H.265以及国内视频编码标准AVS1和AVS2中都采用了整数化的变换。在H.264/AVC和AVS中，变换核中所有数值都是整数，各数值之间的比例与DCT矩阵无直接联系，且各变换基的模不尽相同，从而变换过程中引入了缩放运算以及相应的(预)缩放矩阵。在H.264/AVC和AVS中变换最大为8x8大小，引入缩放运算不会带来很多的运算复杂度和存储复杂度，在整体上能简化变换过程的运算；然而当变换大小变得很大时，比如32x32和64x64，此时如果引入缩放运算，其带来的运算、存储复杂度相当大，故在最新一代的国际/内标准H.265和AVS2中，整数化的DCT变换被采用，这类变换的变换核矩阵A是通过带无理数的DCT矩阵乘以一个倍数(Factor)得到，如式(1)所示。

A＝int{DCT×Factor} (1)

其中DCT为无理数的DCT矩阵，其表达式可用公式(2)所示，“int”是取整函数。当Factor相同时，如果取整函数不一样，所得到的变换核矩阵A也是不一样的。不同的Factor和取整函数，可以得到变换性能(去相关能力、变换基的正交程度和归一程度所影响的变换失真)不同的变换核矩阵。所以取整函数的设计对整个变换的影响非常大。

其中变换核矩阵的大小为N×N。

现有的H.265中的各个变换核矩阵的性能尚存在改善的空间，尤其是变换基的正交程度和归一程度尚待提高；而当前尚在制定的AVS2标准中，其变换核在去相关能力上也需要提高，变换核带来的变换失真也需要降低。

当变换核矩阵确定后，变换过程的设计也对性能有着莫大的影响。在当前的AVS2草案中，其变换过程中的数据位宽会超过32-bit，位宽的设计尚缺完美。

由此可见，不论是H.265还是目前尚在制定的AVS2标准中，其变换过程的设计均还有提高的空间(包括变换核矩阵以及变换过程)，因此，在视频图像编码中，现有的数字信号变换核去相关性不够强，正交、归一程度不够好而导致变换失真过大，变换性能不理想。

发明内容

本发明提供了一种提高数字信号变换性能的方法，使用该方法构造变换核矩阵能够保证数字信号变换具有更高的去相关能力和更低的变换失真，从而提高了数字信号变换的性能。

本发明提供了一种提高数字信号变换性能的装置，该装置构造变换核矩阵能够保证数字信号变换具有更高的去相关能力和更低的变换失真，从而提高了数字信号变换的性能。

本发明还提出一种数字信号变换方法及装置，能够保证数字信号变换具有更高的性能。

本发明的技术方案是这样实现的：

一种数字信号反变换方法，包括：

确定图像解码过程中的变换系数矩阵X；

利用第一变换核矩阵A对所述变换系数矩阵X进行一维反变换，得到第一变换矩阵Y1。

较佳地，在所述得到第一变换矩阵Y1后，该方法还包括：利用第二变换核矩阵A'对所述第一变换矩阵Y1进行一维反变换，将该反变换的结果作为重建的残差矩阵。

较佳地，所述利用第一变换核矩阵A对所述变换系数矩阵X进行一维反变换包括：计算Y＝A^T×X，将Y中每一个元素分别与w1相加，并将相加后的结果以自然二进制表达形式右移s1位；

其中，w1、s1均为整数，并且w1≥0，s1≥0。

较佳地，所述利用第二变换核矩阵A'对所述第一变换矩阵Y1进行一维反变换包括：计算Y'＝Y1×A'，将Y'中每一个元素分别与w2相加，并将相加后的结果以自然二进制表达形式右移s2位；

其中，w2、s2均为整数，并且w2≥0，s2≥0。

5较佳地，所述利用第一变换核矩阵A对所述变换系数矩阵X进行一维反变换包括：计算Y＝X×A，将Y中每一个元素分别与w1相加，并将相加后的结果以自然二进制表达形式右移s1位；

其中，w1、s1均为整数，并且w1≥0，s1≥0。

较佳地，所述利用第二变换核矩阵A'对所述第一变换矩阵Y1进行一维反变换包括：计算Y'＝A^T×Y1，将Y'中每一个元素分别与w2相加，并将相加后的结果以自然二进制表达形式右移s2位；

其中，w2、s2均为整数，并且w2≥0，s2≥0。

较佳地，所述第一变换核矩阵A为

或或或

和/或，

第二核变换矩阵A'为或

或

或

较佳地，s1与s2不相等。

一种数字信号反变换装置，包括：

第一模块，用于确定图像解码过程中的变换系数矩阵X；

第二模块，利用第一变换核矩阵A对所述变换系数矩阵X进行一维反变换，得到第一变换矩阵Y1。

较佳地，该装置还包括：

第三模块，利用第二变换核矩阵A'对所述第一变换矩阵Y1进行一维反变换，将该反变换的结果作为重建的残差矩阵。

较佳地，所述第二模块利用第一变换核矩阵A对所述变换系数矩阵X进行一维反变换包括：计算Y＝A^T×X，将Y中每一个元素分别与w1相加，并将相加后的结果以自然二进制表达形式右移s1位；

其中，w1、s1均为整数，并且w1≥0，s1≥0。

较佳地，所述第三模块利用第二变换核矩阵A'对所述第一变换矩阵Y1进行一维反变换包括：计算Y'＝Y1×A'，将Y'中每一个元素分别与w2相加，并将相加后的结果以自然二进制表达形式右移s2位；其中，w2、s2均为整数，并且w2≥0，s2≥0。

较佳地，所述第二模块利用第一变换核矩阵A对所述变换系数矩阵X进行一维反变换包括：计算Y＝X×A，将Y中每一个元素分别与w1相加，并将相加后的结果以自然二进制表达形式右移s1位；

其中，w1、s1均为整数，并且w1≥0，s1≥0。

较佳地，所述第三模块利用第二变换核矩阵A'对所述第一变换矩阵Y1进行一维反变换包括：计算Y'＝A^T×Y1，将Y'中每一个元素分别与w2相加，并将相加后的结果以自然二进制表达形式右移s2位；

其中，w2、s2均为整数，并且w2≥0，s2≥0。

较佳地，所述变换核矩阵A为或

或

或

和/或，

第二核变换矩阵A'为或

或

或

较佳地，s1与s2不相等。

一种数字信号变换方法，包括：

确定图像编码过程中的预测残差矩阵X；

利用第一变换核矩阵A对所述预测残差矩阵X进行一维变换，得到第一变换矩阵Y1。

较佳地，在所述得到第一变换矩阵Y1后，该方法还包括：利用第二变换核矩阵A'对所述第一变换矩阵Y1进行一维变换，将该变换的结果作为变换系数矩阵。

较佳地，所述利用第一变换核矩阵A对所述预测残差矩阵X进行一维变换包括：计算Y＝X×A^T，将Y中每一个元素分别与w1相加，并将相加后的结果以自然二进制表达形式右移s1位；

其中，w1、s1均为整数，并且w1≥0，s1≥0。

较佳地，所述利用第二变换核矩阵A'对所述第一变换矩阵Y1进行一维变换包括：计算Y'＝A×Y1，将Y'中每一个元素分别与w2相加，并将相加后的结果以自然二进制表达形式右移s2位；

其中，w2、s2均为整数，并且w2≥0，s2≥0。

较佳地，所述利用第一变换核矩阵A对所述预测残差矩阵X进行一维变换包括：计算Y＝A×X，将Y中每一个元素分别与w1相加，并将相加后的结果以自然二进制表达形式右移s1位；

其中，w1、s1均为整数，并且w1≥0，s1≥0。

较佳地，所述利用第二变换核矩阵A'对所述第一变换矩阵Y1进行一维变换包括：计算Y'＝Y1×A^T，将Y'中每一个元素分别与w2相加，并将相加后的结果以自然二进制表达形式右移s2位；

其中，w2、s2均为整数，并且w2≥0，s2≥0。

较佳地，所述第一变换核矩阵A为或

或

或

和/或，

所述第二变换核矩阵A'为或

或

或

较佳地，s1与s2不相等。

一种数字信号变换装置，包括：

第一模块，用于确定图像编码过程中的预测残差矩阵X；

第二模块，利用第一变换核矩阵A对所述预测残差矩阵X进行一维变换，得到第一变换矩阵Y1。

较佳地，该装置还包括：

第三模块，利用第二变换核矩阵A'对所述第一变换矩阵Y1进行一维变换，将该变换的结果作为变换系数矩阵。

较佳地，所述第二模块利用第一变换核矩阵A对所述预测残差矩阵X进行一维变换包括：计算Y＝X×A^T，将Y中每一个元素分别与w1相加，并将相加后的结果以自然二进制表达形式右移s1位；

其中，w1、s1均为整数，并且w1≥0，s1≥0。

较佳地，所述第三模块利用第二变换核矩阵A'对所述第一变换矩阵Y1进行一维变换包括：计算Y'＝A×Y1，将Y'中每一个元素分别与w2相加，并将相加后的结果以自然二进制表达形式右移s2位；

其中，w2、s2均为整数，并且w2≥0，s2≥0。

较佳地，所述第二模块利用第一变换核矩阵A对所述预测残差矩阵X进行一维变换包括：计算Y＝A×X，将Y中每一个元素分别与w1相加，并将相加后的结果以自然二进制表达形式右移s1位；

其中，w1、s1均为整数，并且w1≥0，s1≥0。

较佳地，所述第三模块利用第二变换核矩阵A'对所述第一变换矩阵Y1进行一维变换包括：计算Y'＝Y1×A^T，将Y'中每一个元素分别与w2相加，并将相加后的结果以自然二进制表达形式右移s2位；

其中，w2、s2均为整数，并且w2≥0，s2≥0。

较佳地，所述变换核矩阵A为或

或

或

和/或，

所述第二变换核矩阵A'为或

或

或

较佳地，s1与s2不相等。

可见，本发明提出了提高数字信号变换性能的方法及数字信号变换方法和装置，能够在一定实现精度限制下构造用于数字信号变换的变换核矩阵，并利用该变换核矩阵进行数字信号变换，与现有技术相比，本发明能够保证数字信号处理具有更高的变换性能。

具体实施方式

本发明提出一种提高数字信号变换性能的方法，该方法构造N行N列的变换核矩阵A，使变换核矩阵A同时满足以下两个条件：

(a)[DCT(i,j)×Factor]-2≤A(i,j)≤[DCT(i,j)×Factor]+2

(b)J(A)＜TH；

其中，式(a)中的A(i,j)是变换核矩阵A第i行第j列的元素，DCT(i,j)为离散余弦变换矩阵中第i行第j列的元素，定义如下；Factor是一个大于1的因子，[]表示四舍五入取整；

式(b)中的TH是一个预设的阈值，J(A)是一个全新的变换率失真代价函数，由式(3)定义；

式(3)中的α,β,γ是三个参数，满足β<α,γ<α，式(3)中包括三个新定义的与变换性能相关的因素——DCT失真度dist(A)，归一度normal(A)和正交度orth(A)，如式(4)所示。

其中，A是变换核矩阵，大小为N×N，DCT表示无理数的离散余弦变换矩阵，上标“T”表示矩阵的转置，α,β,γ是三个参数，可以根据实际情况而设定，且有β<α,γ<α。

上述方法中，TH的取值可以有以下三种：

第一种：

TH＝J(M)，其中，M为无理数的离散余弦变换矩阵乘以所述Factor、并分别对结果中的每个元素四舍五入取整得到的矩阵，所述M的长和宽均为N；

其中，α,β,γ是三个参数，满足β<α,γ<α，dist(M)，normal(M)和orth(M)的定义如下式所示：

其中，“T”表示矩阵的转置，P(i,j)表示矩阵P第i行第j列的元素，Q(i,j)表示矩阵Q第i行第j列的元素，DCT表示无理数的离散余弦变换矩阵。

第二种：

当其中N＝4、8、16或32时，TH＝J(M)，其中，M为H.265标准所规定的变换核矩阵。J(M)的计算方式与上述J(A)的计算方式相同。

第三种：

TH＝N×0.02。

本发明还提出一种提高数字信号变换性能的装置，用于构造N行N列的变换核矩阵A，使所述变换核矩阵A同时满足以下(a)和(b)两个条件：

(a)[DCT(i,j)×Factor]-2≤A(i,j)≤[DCT(i,j)×Factor]+2

(b)J(A)＜TH；

其中，式(a)中的A(i,j)是变换核矩阵A第i行第j列的元素，DCT(i,j)为离散余弦变换矩阵中第i行第j列的元素，定义如下式；Factor是一个大于1的因子，[]表示四舍五入取整；

式(b)中的TH是一个预设的阈值，J(A)由下式定义；

上式中的α,β,γ是三个参数，满足β<α,γ<α，dist(A)，normal(A)和orth(A)的定义如下式所示；

其中，“T”表示矩阵的转置，P(i,j)表示矩阵P第i行第j列的元素，Q(i,j)表示矩阵Q第i行第j列的元素，DCT表示无理数的离散余弦变换矩阵。

上述装置中，TH＝J(M)，其中，M为无理数的离散余弦变换矩阵乘以所述Factor、并分别对结果中的每个元素四舍五入取整得到的矩阵，所述M的长和宽均为N；

其中，α,β,γ是三个参数，满足β<α,γ<α，dist(M)，normal(M)和orth(M)的定义如下式所示：

其中，“T”表示矩阵的转置，P(i,j)表示矩阵P第i行第j列的元素，Q(i,j)表示矩阵Q第i行第j列的元素，DCT表示无理数的离散余弦变换矩阵。

或者，上述装置中，其中N＝4、8、16或32时，所述TH＝J(M)，其中，M为H.265标准所规定的变换核矩阵。J(M)的计算方式与上述J(A)的计算方式相同。

或者，上述装置中，TH＝N×0.02。

本发明还提出一种利用上述方法构造的变换核矩阵进行的数字信号变换方法，包括：

将待变换的L行K列的数据块X采用如下任意一种方式进行一维变换：

(a)Y＝A×X,将Y中每一个元素分别与w1相加，并将相加后的结果以自然二进制表达形式右移s1位，得到数据变换的结果；其中，所述A为采用权利要求1至4任意一项所述的方法构造的N行N列的变换核矩阵，且N的取值为L；w1，s1为整数，并且w1≥0，s1≥0；

(b)Y＝X×A^T,将Y中每一个元素分别与w2相加，并将相加后的结果以自然二进制表达形式右移s2位，得到数据变换的结果；其中，所述A为采用权利要求1至4任意一项所述的方法构造的N行N列的变换核矩阵，且N的取值为K；w2，s2为整数，并且w2≥0，s2≥0；,

(c)Y＝X×A,将Y中每一个元素分别与w3相加，并将相加后的结果以自然二进制表达形式右移s3位，得到数据变换的结果；其中，所述A为采用权利要求1至4任意一项所述的方法构造的N行N列的变换核矩阵，且N的取值为K；w3，s3为整数，并且w3≥0，s3≥0；

(d)Y＝A^T×X,将Y中每一个元素分别与w4相加，并将相加后的结果以自然二进制表达形式右移s4位，得到数据变换的结果；其中，所述A为采用权利要求1至4任意一项所述的方法构造的N行N列的变换核矩阵，且N的取值为L；w4，s4为整数，并且w4≥0，s4≥0。

本领域技术人员可知，在二维图像处理中，可以连续应用上述(a)和(b)的一维变换，或者，连续应用上述(c)和(d)的一维变换，从而实现对二维图像的变换处理。其中，两次一维变换的前后顺序可以任意调整，例如，可以先进行一维变换(a)再对变换结果进行一维变换(b)，或者，也可以先进行一维变换(b)再对变换结果进行一维变换(a)。在变换处理过程中，根据被变换的原始矩阵和中间矩阵的维数，调整变换核矩阵的维数。

本发明还提出一种数字信号变换装置，用于将待变换的L行K列的数据块X采用如下任意一种方式进行一维变换：

(a)Y＝A×X,将Y中每一个元素分别与w1相加，并将相加后的结果以自然二进制表达形式右移s1位，得到数据变换的结果；其中，所述A为采用权利要求1至4任意一项所述的方法构造的N行N列的变换核矩阵，且N的取值为L；w1，s1为整数，并且w1≥0，s1≥0；

(b)Y＝X×A^T,将Y中每一个元素分别与w2相加，并将相加后的结果以自然二进制表达形式右移s2位，得到数据变换的结果；其中，所述A为采用权利要求1至4任意一项所述的方法构造的N行N列的变换核矩阵，且N的取值为K；w2，s2为整数，并且w2≥0，s2≥0；

(c)Y＝X×A,将Y中每一个元素分别与w3相加，并将相加后的结果以自然二进制表达形式右移s3位，得到数据变换的结果；其中，所述A为采用权利要求1至4任意一项所述的方法构造的N行N列的变换核矩阵，且N的取值为K；w3，s3为整数，并且w3≥0，s3≥0；

(d)Y＝A^T×X,将Y中每一个元素分别与w4相加，并将相加后的结果以自然二进制表达形式右移s4位，得到数据变换的结果；其中，所述A为采用权利要求1至4任意一项所述的方法构造的N行N列的变换核矩阵，且N的取值为L；w4，s4为整数，并且w4≥0，s4≥0。

以下举具体的实施例对本发明做详细介绍：

实施例1：

在一个实际8×8变换过程中，对变换的实现具有以下要求：变换核矩阵A中每个系数为整数，且每个系数的存储空间不超过9bit，即

若α＝3,β＝γ＝1，变换核矩阵A必须同时满足：

(a)[DCT(i,j)×Factor]-2≤A(i,j)≤[DCT(i,j)×Factor]+2

(b)J(A)<TH。

TH值根据以下得到：

矩阵M是在下根据(1)式进行四舍五入取整得到的矩阵，如下所示：

通过计算可以得到J(M)＝0.015159。设定阈值TH＝J(M)。

写成集合形式即是A∈{S:J(S)<0.015159}，并且A满足上述条件(a)。通过该约束可以得到若干有限个变换核矩阵，下面给出某一个变换核矩阵A的实例如下：

计算可以得到J(A)＝0.014621。

实施例2：

在一个实际16×16变换过程中，对变换的实现具有以下要求：变换核矩阵A中每个系数为整数，且每个系数的存储空间不超过8bit，即Factor＝256。

若α＝2,β＝γ＝1，变换核矩阵A必须同时满足：

(a)[DCT(i,j)×Factor]-2≤A(i,j)≤[DCT(i,j)×Factor]+2

(b)J(A)<TH。

TH值根据以下得到：

矩阵M为H.265标准中规定的16×16变换核，如下所示：

通过计算可以得到J(M)＝0.13377。设定阈值TH＝J(M)。

写成集合形式即是A∈{S:J(S)<0.13377}，并且A满足上述条件(a)。通过该约束可以得到若干有限个变换核矩阵，下面给出某一个变换核矩阵A的实例如下：

通过计算可以得到J(A)＝0.080737。

实施例3：

在一个实际8×8变换过程中，对变换的实现具有以下要求：变换核矩阵A中每个系数为整数，且每个系数的存储空间不超过8bit，即

如果α＝2,β＝γ＝1，变换核矩阵A必须同时满足：

(a)[DCT(i,j)×Factor]-2≤A(i,j)≤[DCT(i,j)×Factor]+2

(b)J(A)<TH。

TH值根据以下得到：

矩阵M为H.265标准中规定的8×8变换核矩阵，如下所示：

通过计算可以得到J(M)＝0.038484。设定阈值TH＝J(M)。

写成集合形式即是A∈{S:J(S)<0.038484}，并且A满足上述条件(a)。通过该约束可以得到若干有限个变换核矩阵，下面给出某一个变换核矩阵A的实例如下：

通过计算可以得到J(M)＝0.02687。

实施例4：

在一个实际4×4变换过程中，对变换的实现具有以下要求：变换核矩阵A中每个系数为整数，且每个系数的存储空间不超过8bit，即Factor＝128。

若α＝4,β＝γ＝1，变换核矩阵A必须同时满足：

(a)[DCT(i,j)×Factor]-2≤A(i,j)≤[DCT(i,j)×Factor]+2

(b)J(A)<TH。

TH值根据以下得到：

矩阵M为H.265标准中规定的4×4变换核矩阵，如下所示：

通过计算可以得到J(M)＝0.022349。设定阈值TH＝J(M)。

写成集合形式即是A∈{S:J(S)<0.022349}，并且A满足上述条件(a)。通过该约束可以得到若干有限个变换核矩阵，下面给出某一个变换核矩阵A的实例如下：

通过计算可以得到J(M)＝0.006411。

实施例5：

在一个实际8×8变换过程中，对变换的实现具有以下要求：变换核矩阵A中每个系数为整数，且每个系数的存储空间不超过7bit，即

若α＝5,β＝1.5,γ＝1，变换核矩阵A必须同时满足：

(a)[DCT(i,j)×Factor]-2≤A(i,j)≤[DCT(i,j)×Factor]+2

(b)J(A)<TH。

TH值根据以下得到。

矩阵M为AVS2的参考软件RD3.0中规定的8×8变换核矩阵，如下所示：

通过计算可以得到J(M)＝0.0.068060。设定阈值TH＝J(M)。

写成集合形式即是A∈{S:J(S)<0.068060}，并且A满足上述条件(a)。通过该约束可以得到若干有限个变换核矩阵，下面给出某一个变换核矩阵A的实例如下：

通过计算可以得到J(M)＝0.055759。

实施例6：

在一个实际32×32变换过程中，对变换的实现具有以下要求：变换核矩阵A中每个系数为整数，且每个系数的存储空间不超过7bit，即若α＝2,β＝1.5,γ＝1，变换核矩阵A必须同时满足：

(a)[DCT(i,j)×Factor]-2≤A(i,j)≤[DCT(i,j)×Factor]+2

(b)J(A)＜TH。

TH＝32×0.02＝0.64。

写成集合形式即是A∈{S:J(S)<0.64}，并且A满足上述条件(a)。通过该约束可以得到若干有限个变换核矩阵，下面给出某一个32×32变换核矩阵A的实例，其J(A)＝0.437463

实施例7：

在一个实际32×32变换过程中，对变换的实现具有以下要求：变换核矩阵A中每个系数为整数，且每个系数的存储空间不超过8bit，即若α＝6,β＝1,γ＝1.5，变换核矩阵A必须同时满足：

(a)[DCT(i,j)×Factor]-2≤A(i,j)≤[DCT(i,j)×Factor]+2

(b)J(A)≤TH。

TH＝32×0.02＝0.64。

写成集合形式即是A∈{S:J(S)<0.64}，并且A满足上述条件(a)。通过该约束可以得到若干有限个变换核矩阵，下面给出某一个32×32变换核矩阵A的实例，其J(A)＝0.271159。

实施例8：

在一个实际16×16变换过程中，对变换的实现具有以下要求：变换核矩阵A中每个系数为整数，且每个系数的存储空间不超过7bit，即Factor＝128。若α＝3,β＝1,γ＝1，变换核矩阵A必须同时满足：

(a)[DCT(i,j)×Factor]-2≤A(i,j)≤[DCT(i,j)×Factor]+2

(b)J(A)≤TH。

TH＝16×0.02＝0.32。

写成集合形式即是A∈{S:J(S)<0.32}，并且A满足上述条件(a)。通过该约束可以得到若干有限个变换核矩阵，下面给出某一个16×16变换核矩阵A的实例，其J(A)＝0.158616。

实施例9：

在一个实际4×4变换过程中，对变换的实现具有以下要求：变换核矩阵A中每个系数为整数，且每个系数的存储空间不超过7bit，即Factor＝64。若α＝3,β＝1,γ＝1，变换核矩阵A必须同时满足：

(a)[DCT(i,j)×Factor]-2≤A(i,j)≤[DCT(i,j)×Factor]+2

(b)J(A)≤TH。

TH＝4×0.02＝0.08。

写成集合形式即是A∈{S:J(S)<0.08}，并且A满足上述条件(a)。通过该约束可以得到若干有限个变换核矩阵，下面给出某一个4×4变换核矩阵A的实例，其J(A)＝0.01069。

实施例10：

一个实际的变换过程中，待变换的数据块X为16×16块，数据位宽为n-bit，变换核矩阵A为实施例2中通过J(A)<TH的约束得到的16×16的矩阵，要求变换后的数据块Y其数据位宽不超过r-bit，变换过程为：

Y＝A×X,将Y中每一个元素分别与w相加，并将相加后的结果以自然二进制表达形式右移s位，得到数据变换的结果；其中，s＝n+10-r，s的结果大于或等于0；

当s＝0时，w＝0；当s>0时，w为1以自然二进制表达形式左移(s-1)位的结果。

变换过程Y＝A×X采用矩阵乘法表示，而在实际实现过程中，矩阵乘法也可以表示成蝶形结构实现。

实施例11：

一个实际的变换过程中，待变换的数据块X为32×8块，数据位宽为n-bit，变换核矩阵A为实施例1中通过J(A)<TH的约束得到的8×8的矩阵，要求变换后的数据块Y其数据位宽不超过r-bit，变换过程为：

Y＝X×A^T,将Y中每一个元素分别与w相加，并将相加后的结果以自然二进制表达形式右移s位，得到数据变换的结果；其中，s＝n+11-r，s的结果大于或等于0；

当s<2时，w＝0；当s≥2时，w为1以自然二进制表达形式左移(s-2)位的结果。

变换过程Y＝X×A^T采用矩阵乘法表示，而在实际实现过程中，矩阵乘法也可以表示成蝶形结构实现。

实施例12：

一个实际的变换过程中，待变换的数据块X为32×4块，数据位宽为n-bit，变换核矩阵A为实施例4中通过J(A)<TH的约束得到的4×4的矩阵，要求变换后的数据块Y其数据位宽不超过r-bit，变换过程为：

Y＝X×A,将Y中每一个元素分别与w相加，并将相加后的结果以自然二进制表达形式右移s位，得到数据变换的结果；其中，s＝n+7-r，s的结果大于或等于0；

w为1以自然二进制表达形式左移s位后再除以3，然后进行四舍五入取整得到的结果。

变换过程Y＝X×A采用矩阵乘法表示，而在实际实现过程中，矩阵乘法也可以表示成蝶形结构实现。

实施例13：

一个实际的变换过程中，待变换的数据块X为32×8块，数据位宽为n-bit，变换核矩阵A为实施例6中通过J(A)<TH的约束得到的32×32的矩阵，要求变换后的数据块Y其数据位宽不超过r-bit，变换过程为：

Y＝A^T×X,将Y中每一个元素分别与w相加，并将相加后的结果以自然二进制表达形式右移s位，得到数据变换的结果；其中，s＝n+6-r，s的结果大于或等于0；

w为1以自然二进制表达形式左移s位后再除以6，然后进行四舍五入得到的结果。

变换过程Y＝A^T×X采用矩阵乘法表示，而在实际实现过程中，矩阵乘法也可以表示成蝶形结构实现。

实施例14：

在视频图像编码中，图像在重建过程中用到的重建残差其位宽为n-bit，限定变换过程中的中间数据位宽不超过r-bit。对于一个N×N块，其对应的重建残差块为C，C由反量化系数块X(其数据位宽为s0)进行二维的N×N的反变换得到，变换核矩阵为A，且满足本发明中所定义的J(A)<TH的约束，反变换步骤包括：

(1)将X进行第一维反变换并向右移s1位，得到Y1

Y1＝(X×A+(1<<(s1-1)))>>s1

上式的含义为：Y＝X×A,将Y中每一个元素分别与w1相加，并将相加后的结果以自然二进制表达形式右移s1位，得到数据变换的结果Y1；其中，当s1＝0时，w1＝0；当s1>0时，w1为1以自然二进制表达形式左移(s1-1)位的结果。

过程Y＝X×A采用矩阵乘法表示，而在实际实现过程中，矩阵乘法也可以表示成蝶形结构实现。

(2)将Y1进行第二维反变换并向右移s2位，得到C

C＝(A^T×Y1+(1<<(s2-1)))>>s2

上式的含义为：Y＝A^T×Y1,将Y中每一个元素分别与w2相加，并将相加后的结果以自然二进制表达形式右移s2位，得到数据变换的结果C。其中，当s2＝0时，w2＝0；当s2>0时，w2为1以自然二进制表达形式左移(s1-1)位的结果。

过程Y＝A^T×Y1采用矩阵乘法表示，而在实际实现过程中，矩阵乘法也可以表示成蝶形结构实现。

定义中间变量在变换核矩阵A的约束下，对应s1和s2的值由如下约束：s1＝s0+m-r,s2＝r+m-n，s>

上述过程中，符号“<<”表示数据以自然二进制表达形式进行左移操作，符号“>>”表示数据以自然二进制表达形式进行右移操作。

本领域技术人员可知，上述利用变换核矩阵A进行二维N×N反变换的处理中，对反量化系数块X通过(1)完成了水平方向的一维反变换，再对该一维反变换结果通过(2)完成了垂直方向的一维反变换。事实上，本领域技术人员可知，对于二维图像变换，水平方向和垂直方向的变换顺序可以任意调整，均可以得到相同的变换结果。因此，上述利用变换核矩阵A进行二维N×N反变换的处理中，也可以先对反量化系数块X进行垂直方向的一维反变换，即上述处理(2)中将Y1替换为X，C替换为Y1；然后再对该一维反变换结果Y1进行水平方向的一维反变换，即上述处理(1)中将X替换为Y1，Y1替换为C。

实施例15：

在视频图像编码中，像素经过预测编码后得到预测残差，其位宽为n-bit，限定变换过程中的中间数据位宽不超过r-bit。对于一个N×N大小的残差块X，进行二维的N×N正变换，变换核矩阵为A，且满足本发明中所定义的J(A)<TH的约束，其步骤包括：

(1)将X进行第一维正变换并向右移s1位，得到Y1

Y1＝(A×X+(1<<(s1-2)))>>s1

上式的含义为：Y＝A×X,将Y中每一个元素分别与w1相加，并将相加后的结果以自然二进制表达形式右移s1位，得到数据变换的结果Y1。其中，当s1<2时，w1＝0；当s1≥2时，w1为1以自然二进制表达形式左移(s1-2)位的结果。

过程Y＝A×X采用矩阵乘法表示，而在实际实现过程中，矩阵乘法也可以表示成蝶形结构实现。

(2)将Y1进行第二维正变换并向右移s2位，得到Y2

Y2＝(Y1×A^T+(1<<(s2-1)))>>s2

上式的含义为：Y＝Y1×A^T,将Y中每一个元素分别与w2相加，并将相加后的结果以自然二进制表达形式右移s2位，得到数据变换的结果Y2。其中，当s2＝0时，w2＝0；当s2>0时，w2为1以自然二进制表达形式左移(s2-1)位的结果。

过程Y＝Y1×A^T采用矩阵乘法表示，而在实际实现过程中，矩阵乘法也可以表示成蝶形结构实现。

定义中间变量m2＝log₂(N)在变换核矩阵A的约束下，对应s1和s2的值由如下约束：s1＝n+m1+m2-r,s2＝m1+m2，s>

上述过程中，符号“<<”表示数据以自然二进制表达形式进行左移操作，符号“>>”表示数据以自然二进制表达形式进行右移操作。

本领域技术人员可知，上述利用变换核矩阵A进行二维N×N变换的处理中，对残差块X通过(1)完成了水平方向的一维变换，再对该一维变换结果通过(2)完成了垂直方向的一维变换。事实上，本领域技术人员可知，对于二维图像变换，水平方向和垂直方向的变换顺序可以任意调整，均可以得到相同的变换结果。因此，上述利用变换核矩阵A进行二维N×N变换的处理中，也可以先对残差块X进行垂直方向的一维变换，即上述处理(2)中将Y1替换为X，Y2替换为Y1；然后再对该一维反变换结果Y1进行水平方向的一维反变换，即上述处理(1)中将X替换为Y1，Y1替换为Y2。

实施例16：

在视频图像编码中，图像在重建过程中用到的重建残差其位宽为n-bit，限定变换过程中的中间数据位宽不超过r-bit。对于一个N×N块，其对应的重建残差块为C，C由反量化系数块X(其数据位宽为s0)进行二维的N×N的反变换得到，变换核矩阵为A，且满足本发明中所定义的J(A)<TH的约束，反变换步骤包括：

(1)将X进行第一维反变换并向右移s1位，得到Y1

Y1＝(X×A+(1<<(s1-1)))>>s1

上式的含义为：Y＝X×A,将Y中每一个元素分别与w1相加，并将相加后的结果以自然二进制表达形式右移s1位，得到数据变换的结果Y1。其中，当s1＝0时，w1＝0；当s1>0时，w1为1以自然二进制表达形式左移(s1-1)位的结果。

过程Y＝X×A采用矩阵乘法表示，而在实际实现过程中，矩阵乘法也可以表示成蝶形结构实现。

(2)将Y1进行第二维反变换并向右移s2位，得到C

C＝(A^T×Y1+(1<<(s2-1)))>>s2

上式的含义为：Y＝A^T×Y1,将Y中每一个元素分别与w2相加，并将相加后的结果以自然二进制表达形式右移s2位，得到数据变换的结果C。其中，当s2＝0时，w2＝0；当s2>0时，w2为1以自然二进制表达形式左移(s2-1)位的结果。

过程Y＝A^T×Y1采用矩阵乘法表示，而在实际实现过程中，矩阵乘法也可以表示成蝶形结构实现。

定义中间变量在变换核矩阵A的约束下，对应s1和s2的值由如下约束：s1＝s0+m-r+1,s2＝r+m-n-1，s>

上述过程中，符号“<<”表示数据以自然二进制表达形式进行左移操作，符号“>>”表示数据以自然二进制表达形式进行右移操作。

综上所述，本发明提出一种提高数字信号变换性能的方法、以及一种数字信号变换方法和装置，能够在一定实现精度限制下构造用于数字信号变换的变换核矩阵，并利用该新的变换核矩阵进行数字信号处理，与现有技术相比，本发明能够保证数字信号变换具有更高的去相关能力和更低的变换失真。

以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明保护的范围之内。