一种视频编解码样值偏移补偿中边界补偿模式处理方法

摘要

本发明实施方式涉及一种视频编解码样值偏移补偿中边界补偿EO模式处理方法，包括：针对目标CTU选择一个梯度模式；在所选择的梯度模式上，使用当前样值点紧邻的两个旁点位置、以及隔一点的两个旁点位置进行采样；分别确定两种采样方式中当前样值点和对应的两个旁点采样点的大小所形成的子分类类型；根据确定的子分类类型确定当前样值点的补偿范围；针对两种采样方式，分别计算当前样值点在确定的补偿范围下的率失真最优的补偿值；比较两种采样方式下的率失真最优的补偿值；根据比较结果，确定针对当前样值点针对所述梯度模式所采用的采样方式。根据本发明可以解决超高清图像采样点无法正确体现样值点所在位置纹理特征的问题。

说明书

技术领域

本发明涉及视频编解码技术领域，具体涉及一种视频编解码过程中样值偏移补偿中EO模式处理方法。

背景技术

为了满足在当前有限的传输带宽和存储媒体中传输和存放图像的需求，通常要对视频序列进行压缩编解码处理。为了尽可能降低传输视频的失真，在视频编解码过程中会进行SAO(样值偏移补偿)，而EO(边界补偿)就是SAO的补偿模式之一。传统的EO模式下，采样点一般选择样值点的相邻点，但是，当图像为超高清甚至更大尺寸时，这种采点方法可能无法正确体现出当前点所在位置的纹理特征。

发明内容

有鉴于此，本发明实施例提供了一种视频编解码样值偏移补偿中EO模式处理方法，解决了超高清图像采样点无法正确体现样值点所在位置纹理特征的问题。

本发明提供的一种视频编解码样值偏移补偿SAO中边界补偿EO模式处理方法，包括：

针对目标CTU选择一个梯度模式；

在所选择的梯度模式下，使用两种采样方式在当前样值点的旁点位置进行采样，所述两种采样方式包括在与当前样值点紧邻的两个旁点位置、以及隔一点的两个旁点位置进行采样；

分别确定所述两种采样方式中的所述当前样值点和对应的两个旁点采样点的大小所形成的子分类类型；

根据确定的子分类类型确定所述当前样值点的补偿范围；

针对所述两种采样方式，分别计算所述当前样值点在确定的补偿范围下的率失真最优的补偿值；

比较所述两种采样方式下的率失真最优的补偿值；以及

根据比较结果，确定针对所述当前样值点在所选择的梯度模式下所采用的采样方式。

进一步地，在编码过程中，表明选择的是所述紧邻的旁点采样方式还是所述隔一点的旁点采样方式，在解码过程中，读取编码过程采用的所述采样方式。

进一步地，表明选择的是紧邻的旁点采样方式还是隔一点的旁点采样方式通过对使用EO的CTU的Y/CB/CR多编码一个比特的语法元素实现。本发明实施例提供的一种视频编解码样值偏移补偿中边界补偿EO模式处理方法，相比于传统的EO模式处理方法，增加了采样方式，从原来采集样值点紧邻的旁边点(用a，b表示)，改进为可从样值点紧邻的旁边点或者从隔开一点的旁点选取，通过增加一种采样方式进行双重失真度参数评估，提高了E0模式下对图像特点的适应性。由于对某些特定图像的EO分类计算，选择隔开一点的旁点采样方式有可能会比原来紧邻旁边点的采样方式能更好表现出当前的纹理特征，能获得更小的失真，从而在做RDO(率失真优化)的时候可以获得更小的码流。

附图说明

图1所示为本发明一实施例提供的一种视频编解码过程中样值偏移补偿中边界补偿EO模式处理方法的流程图；

图2示出了现有技术的紧邻旁点采样方式的四种梯度模式采点位置；

图3示出了根据本发明一实施例的135度模式下，样值点紧邻的旁点以及隔一点的旁点2种采样方式的采样位置；以及

图4A～图4D所示为根据本发明一实施例的当前样值点和2个采样点之间的4种像素关系类型。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

SAO(sampleadaptionoffset；样值偏移补偿)原理是，把去块滤波DB输出的重构图像划分为若干CTU(编码树单元，一个CTU包含了同一位置处的一个亮度编码树块CTB和2个色度编码树块)，根据其CTU像素特征选择一种像素补偿方式，以减少原图像与重构图像之间的失真。SAO过程具有四种处理模式，即{BO，EO，off，merge}，其中，BO为条带处理，EO为边界处理，off为不做SAO，merge为使用上面或者左边CTU的SAO参数。

EO主要用于对图像轮廓进行补偿。它将当前像素点值与相邻的2个像素点值进行对比，从而得到该像素点的类型。解码端根据码流中标示的像素点的类型信息进行相应的补偿校正。

图1所示为本发明一实施例提供的一种视频编解码过程中样值偏移补偿EO模式处理方法的流程图，包括：

步骤S101，针对目标CTU选择一个梯度模式；

EO模式下，通过为目标CTU选择梯度模式，即0度、45度、90度、135度四种梯度模式，来确定目标CTU中每一个像素点的参考点位置。图2示出了现有技术的紧邻旁点采样方式的四种梯度模式采点位置。其中c点为当前样值点，a、b为2个采样点。

步骤S102，在所选择的梯度模式下，分别在样值点紧邻的两个旁点位置、以及隔一点的两个旁点位置进行采样。例如选定梯度模式为135度，则紧邻旁点采样方式如图3(a)所示，隔一点的旁点采样方式如图3(b)所示。

步骤S103，分别确定两种采样方式中当前样值点和对应的两个旁点采样点之间的子分类类型。

每种梯度模式下，通过比较样值点c与2个采样点a、b之间的像素大小，可以将c与a、b之间的关系分成4种子分类，分别为全谷、半谷、半峰、全峰，分别如图4A～图4D所示。表一示出了像素关系与4种子分类的一一对应关系。

表一样值点c与采样点a、b关系分类表

当前样值点与相邻样值分量的关系子分类模式c<a&&c<b子分类1(c＝＝a&&c<b)||(c<a&&c＝＝b)子分类2(c>a&&c＝＝b)||(c＝＝a&&c>b)子分类3c>a&&c>b子分类4

步骤S104，根据确定的子分类类型确定当前样值点的补偿范围。

CTU中的像素可划分为图4A～图4D所示的4种子分类，每个子分类可以选择不同的补偿值，所有种类的补偿值的范围限制在[-7,7]之间，同时子分类1、2补偿值必须大于等于0，所以子分类1、2补偿值的范围是[0,7]，子分类3、4的补偿值必须小于等于0，所以其补偿值的范围是[-7,0]。

步骤S105，针对所述两种采样方式，分别计算所述当前样值点在确定的补偿范围下的率失真最优的补偿值。

例如，当前选定梯度模式135度下，紧邻旁点采样方式中样值点与2个采样点的像素关系为子分类1，则RDO过程需要遍历[0,7]范围的候选值，通过RDO计算，选取相对率失真代价最小的补偿值作为旁点采样方式下的最优补偿值。

RDO计算过程如下：设(x，y)为像素位置，s(x，y)为原始像素值，u(x，y)为重构像素(SAO补偿前)，m为补偿值offset，C为像素范围。

原始像素与重构像素(SAO补偿前)之间的失真为：

$>D_{pre}=\underset{(x,y)\in C}{\Sigma }{\left(s\right(x,y)-u(x,y\left)\right)}^2$>

原始像素与重构像素(SAO补偿后)之间的失真为：

$>D_{post}=\underset{(x,y)\in C}{\Sigma }{\left(s\right(x,y)-(u\left(x,y\right)+m\left)\right)}^2$>

可得，相对率失真代价为：

$>\Delta D=D_{post}-D_{pre}=\underset{(x,y)\in C}{\Sigma }(m^2-2m(s\left(x,y\right)-u\left(x,y\right)\left)\right)={\mathrm{Nm}}^2-2mE$>

其中，N是像素个数，E是原始像素与重构像素(SAO补偿前)之间的差值之和，即：

$>E=\underset{(x,y)\in C}{\Sigma }\left(s\right(x,y)-u(x,y\left)\right)$>

步骤S106，比较两种采样方式下的率失真最优的补偿值。

步骤S107，根据比较结果，确定针对所述当前样值点在所选择的梯度模式下所采用的采样方式。

遍历4种梯度模式，根据4种梯度模式下得到的4个较小的失真补偿值，选择一个最小的失真补偿值对应的梯度模式保存，用于和BO处理模式的失真补偿值比较，从而选择一个最优的补偿模式。

以上关于图1(也参考其他附图)描述了根据本发明的实施方式的SAO中的EO的处理方式的一个全面的实施例，但是应当理解，本发明的实施方式的关键是对于样值点可以选择隔一点的旁点位置来采样，而对于以上实施例中的采用的其他技术手段都可有其他的替换手段存在。例如，针对图1只描述了135度的梯度模式下的EO处理方式，由此当然可以类推到0度、45度、90度等梯度模式下的EO处理方式；以上给出针对不同的子分类类型的补偿范围值也仅是示意性的，而非一定限制于所给出的数值范围；以上关于RDO计算过程给出的计算方式也仅是示意性的，本领域有技术人员可以设计其他的计算方式。

根据本发明的一个实施方式，在编码CTU的时候，需要在步骤S107中多编码一个二进制的语法元素，比如“sao_use_interleave”,以提示当前的CTU是使用传统的紧邻旁点取点方式还是隔一点的旁点取点方式进行的EO类型统计。

相应地，在解码器端，在对每个CTU进行SAO处理时，如果发现当前CTU为EO类型，就会读出对应的sao_use_interleave，从而获得当前CTU块是否使用隔一点的旁点方法进行SAO的运算，如果是，则计算当前CTU内部每个像素属于全谷、半谷、半峰、全峰类型时使用隔一点的旁点的方法判断，否则就使用传统的紧邻旁点方法进行判断。

以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内，所作的任何修改、等同替换等，均应包含在本发明的保护范围之内。