一种面向HEVC的快速帧内预测模式判决方法和装置

摘要

本发明公开了一种面向HEVC的快速帧内预测模式判决方法，包括亮度预测过程和色度预测过程，其中所述亮度预测过程包括对35个帧内候选预测模式进行粗略模式决策过程，保留多个预测模式，将所述多个预测模式和最可能的预测模式合并，对合并模式进行精细搜索并设定提前决策过程以确定最优亮度预测模式；色度预测过程包括确定色度候选预测模式，对色度预测模式进行遍历搜索以确定最优色度预测模式。一种面向HEVC的快速帧内预测模式判决装置，包括亮度预测模块；色度预测模块；率失真代价确定模块。本发明通过统计分析提前决策亮度预测模式，解除色度和亮度预测过程的依赖性，提升编码速度，应用于图像通信领域。

说明书

技术领域

本发明涉及图像通信领域中的视频编码帧内预测技术领域，具体 为一种面向HEVC的快速帧内预测模式判决方法和装置。

背景技术

随着多媒体及高清视频技术的发展，JCT-VC推出了高清视频编 码标准H.265/HEVC，HEVC在编码性能方面的提升是以牺牲编码器的 技术复杂度为代价的。和上一代视频编码标准H.264/AVC相比较， HEVC的编码码率性能可以提升一倍，但同时编码复杂度是H.264/AVC 的2到3倍。视频会议、监控视频、视频聊天等等视频应用场景需 要实时编解码的，这样耗时的编码时间是不能接受的。同时，随着硬 件显示设备性能的提升，人们对视频质量要求的不断增加，超高清视 频(分辨率在2Kx4K或者4Kx8K以上的视频)的出现，使得视频 应用对编解码器的性能和效率提出了更为严峻的挑战。为了解决 HEVC编码端计算复杂度过高的问题，学术界以及工业界提出了许多 针对于HEVC编码端快速模式决策的算法来降低HEVC编码端的计 算复杂度，其中就包括更加细致准确的帧内预测技术，预测方向大大 增加，复杂度也随之增加。目前基于HEVC帧内预测模式技术已提出 许多以降低复杂度为目的的快速算法，但是目前已有算法大多是基于 块的纹理特征分析或相邻块的相关性等来提前决策预测方向以达到 降低编码复杂度的目的。但这类技术需要分析纹理特征，会增加一些 编码复杂度且会增加代码量，且这类技术主要是针对亮度预测过程 的，并没有考虑到色度预测过程，也没有考虑到实际应用中的并行化 设计，并不适合公司的项目中的实际开发应用，因此有必要进行改进。

发明内容

为了解决上述技术问题，本发明的目的是提供一种可以实现并行 化设计的面向HEVC的快速帧内预测模式判决方法和装置。

本发明所采用的技术方案是：一种面向HEVC的快速帧内预测模 式判决方法，所述方法，包括亮度预测过程和色度预测过程，

其中所述亮度预测过程包括

S11、对35个帧内候选预测模式进行粗略模式决策过程，保留多 个预测模式，

S12、将所述多个预测模式和最可能的预测模式合并，

S13、对所述合并模式进行精细搜索并设定提前决策过程以确定 最优亮度预测模式；

所述色度预测过程包括

S21、确定色度候选预测模式，

S22、对色度预测模式进行遍历搜索以确定最优色度预测模式；

根据所述的最优亮度和色度预测模式，确定当前CU块的帧内预 测率失真代价。

作为该技术方案的改进，其中所述亮度预测过程和色度预测过程 同时进行。

作为该技术方案的改进，在步骤S13中所述设定提前决策过程包 括以下步骤：

将所述35个帧内预测模式按方向分为5类，定义最可能的预测 模式中的相邻左边块最优亮度模式为M11，相邻上边块的最优亮度预 测模式为M22；

定义粗略决策模式的集合为M，M集合是按率失真代价从小到大 的有序组合，其中对应每个模式Mn的SATD值为SATDn；

定义最可能的预测模式和粗略决策模式合并的集合为M’，上一 层CU的最优亮度预测模式为Mup,上一层CU所得最优亮度预测模 式在RMD过程中的率失真代价SATD为SATDup，相邻左边CU的尺寸 为N1，相邻上边CU的尺寸为N2，当前CU的尺寸为N；

1)如果所述集合M和集合M’相等，即最可能的预测模式M11和 M22属于集合M，则执行步骤2)，否则执行步骤4)；

2)如果所述最可能的预测模式M11和M22相等，且等于上层CU 的最优预测模式Mup，则将M11选作为最优预测模式，跳过其他预测 模式的精细搜索，结束帧内亮度预测模式的搜索；否则，执行步骤3)；

3)在粗略决策模式的搜索过程中存在等于模式M11和M22的模 式，如果所述模式所对应的SATD值均小于上一层CU最优预测模式对 应的SATD值的1/4，则跳过集合M’中位于M11和M22模式之后的预 测模式的精细搜索；否则，执行步骤5)；

4)如果所述最可能的预测模式的M11和M22以及M’集合中的第 一个模式M1属于同类预测模式Ln，则只搜索M’中属于类Ln的预测 模式，跳过其他模式的精细搜索；否则，执行步骤5)；

5)如果所述相邻左边块的尺寸N1和相邻上边块的尺寸N2均小 于当前CU的尺寸N，则执行步骤7)；否则，执行步骤6)；

6)如果上一层CU的最优预测模式Mup等于集合M’中的第一个 候选预测模式M1或者第二候选预测模式M2，则只精细搜索M1、M2 以及集合M’中和Mup同类的预测模式；否则执行步骤7)；

7)全遍历搜索集合M’中的所有候选预测模式。

作为该技术方案的进一步改进，所述步骤S21包括：

构建初步色度候选模式集合A1；

依次将上一层CU的最优亮度预测模式Mup、当前CU块的相邻左 边块M1和相邻右边块的最优亮度预测模式M2融合到候选模式集合 A1中，直到A1中满足5个元素；

如果Mup、M1和M2已在集合A1中，A1仍然不满足5个元素， 则将(Mup+M1+M2)/3的方向模式添加到A1中；

将最新的满足5个元素的预测模式集合作为色度预测模式的候 选预测模式集合。

另一方面，本发明还提供一种面向HEVC的快速帧内预测模式判 决装置，包括：

亮度预测模块，用于对35种帧内候选预测模式进行粗略模式决 策过程，保留多个预测模式，将所述多个预测模式和最可能的预测模 式合并，对所述合并模式进行精细搜索并设定提前决策过程以确定最 优亮度预测模式；

色度预测模块，用于确定色度候选预测模式，对色度预测模式进 行遍历搜索以确定最优色度预测模式；

率失真代价确定模块，用于根据所述的最优亮度和色度预测模 式，确定当前CU块的帧内预测率失真代价。

本发明的有益效果是：本发明提供一种面向HEVC的快速帧内预 测模式选择算法及装置，通过统计分析编码特征，上下层与层之间以 及相邻块之间的相关性特征，提前决策亮度预测模式，并分析亮度预 测模式和色度预测模式过程中之间的关系，解除色度预测过程和亮度 预测过程的依赖性，以利于亮度预测模式和色度预测模式之间的并行 化设计。该算法在保证基本不影响编码率失真性能的前提下，降低编 码复杂度，提升了编码速度，节约了编码时间。

附图说明

下面结合附图对本发明的具体实施方式作进一步说明：

图1是现有技术帧内预测过程的示意图；

图2是本发明快速帧内预测过程一实施例的示意图；

图3是本发明亮度预测模式一实施例的示意图。

具体实施方式

需要说明的是，在不冲突的情况下，本申请中的实施例及实施例 中的特征可以相互组合。

参照图1，是现有技术帧内预测过程的示意图。目前已有方案中 色度分量的预测模式过程是依赖于亮度预测模式的，需要先对亮度预 测进行遍历搜索得到最优预测模式，然后将最优预测模式作为色度预 测模式的候选项来进行预测。这样的流程亮度预测过程和色度预测过 程只能依次执行，无法并行化。

参照图2，是本发明快速帧内预测过程一实施例的示意图。对于 当前大小的预测单元，亮度预测过程和色度预测过程可以并行处理。

一种面向HEVC的快速帧内预测模式判决方法，包括亮度预测过 程和色度预测过程，其中所述亮度预测过程包括

S11、对35个帧内候选预测模式进行粗略模式决策过程，保留多 个预测模式，

S12、将所述多个预测模式和最可能的预测模式合并，

S13、对所述合并模式进行精细搜索并设定提前决策过程以确定 最优亮度预测模式；

所述色度预测过程包括

S21、确定色度候选预测模式，

S22、对色度预测模式进行遍历搜索以确定最优色度预测模式；

根据所述的最优亮度和色度预测模式，确定当前CU块的帧内预 测率失真代价。

作为该技术方案的改进，其中所述亮度预测过程和色度预测过程 同时进行。

作为该技术方案的改进，在步骤S13中所述设定提前决策过程包 括以下步骤：

将所述35个帧内预测模式按方向分为5类，定义最可能的预测 模式中的相邻左边块最优亮度模式为M11，相邻上边块的最优亮度预 测模式为M22；

定义粗略决策模式的集合为M，M集合是按率失真代价从小到大 的有序组合，其中对应每个模式Mn的SATD值为SATDn；

定义最可能的预测模式和粗略决策模式合并的集合为M’，上一 层CU的最优亮度预测模式为Mup,上一层CU所得最优亮度预测模 式在RMD过程中的率失真代价SATD为SATDup，相邻左边CU的尺寸 为N1，相邻上边CU的尺寸为N2，当前CU的尺寸为N；

1)如果所述集合M和集合M’相等，即最可能的预测模式M11和 M22属于集合M，则执行步骤2)，否则执行步骤4)；

2)如果所述最可能的预测模式M11和M22相等，且等于上层CU 的最优预测模式Mup，则将M11选作为最优预测模式，跳过其他预测 模式的精细搜索，结束帧内亮度预测模式的搜索；否则，执行步骤3)；

3)在粗略决策模式的搜索过程中存在等于模式M11和M22的模 式，如果所述模式所对应的SATD值均小于上一层CU最优预测模式对 应的SATD值的1/4，则跳过集合M’中位于M11和M22模式之后的预 测模式的精细搜索；否则，执行步骤5)；

4)如果所述最可能的预测模式的M11和M22以及M’集合中的第 一个模式M1属于同类预测模式Ln，则只搜索M’中属于类Ln的预测 模式，跳过其他模式的精细搜索；否则，执行步骤5)；

5)如果所述相邻左边块的尺寸N1和相邻上边块的尺寸N2均小 于当前CU的尺寸N，则执行步骤7)；否则，执行步骤6)；

6)如果上一层CU的最优预测模式Mup等于集合M’中的第一个 候选预测模式M1或者第二候选预测模式M2，则只精细搜索M1、M2 以及集合M’中和Mup同类的预测模式；否则执行步骤7)；

7)全遍历搜索集合M’中的所有候选预测模式。

作为该技术方案的进一步改进，所述步骤S21包括：

构建初步色度候选模式集合A1；

依次将上一层CU的最优亮度预测模式Mup、当前CU块的相邻左 边块M1和相邻右边块的最优亮度预测模式M2融合到候选模式集合 A1中，直到A1中满足5个元素；

如果Mup、M1和M2已在集合A1中，A1仍然不满足5个元素， 则将(Mup+M1+M2)/3的方向模式添加到A1中；

将最新的满足5个元素的预测模式集合作为色度预测模式的候 选预测模式集合。

其中，亮度预测过程，首先对35种预测模式经过一个RMD(Rough ModeDecision)粗略模式决策过程，形成由m个最优代价的预测模 式组成的候选预测模式集合。其中不同大小的预测单元对于的m值并 不相同，m的值的定义如表1所示。这个RMD过程采用现有技术，RMD 过程计算的率失真代价是对图像预测之后残差值的哈达玛变换代价 值加上编码预测模式所估计的比特值。该RMD过程并不需要对残差进 行变换、量化、反变换、反量化等编码过程，计算复杂度相对精选搜 索过程来说，要小一些。

预测单元大小 4x4 8x8 16x16 32x32 64x64 m 8 8 3 3 3

表1

然后将MPM(MostProbableMode)最可能的预测模式集合与上述RMD 粗略模式决策过程保留的m个预测模式组成的集合合并。MPM模式集 合是由当前预测单元的左边预测单元和上边预测单元的预测模式组 成；将合并的预测模式集合M’作为精细搜索的候选模式。

首先将35种帧内预测模式按方向分为5大类，L1～L5，

L1＝{0，1}；

L2＝{2，3，4，5，6，7，8，9}；

L3＝{10，11，12，13，14，15，16，17}；

L4＝{18，19，20，21，22，23，24，25}；

L5＝{26，27，28，29，30，31，32，33，34}。

定义MPM模式中的相邻左边块最优亮度模式为M11，相邻上边块的最 优亮度预测模式为M22。RMD的粗略模式集合为M，M集合是按率失真 代价从小到大的有序组合，其中对应每个模式Mn的SATD值为SATDn (n＝1,2…N；N的值如表1中m值)。MPM模式和M模式合并的集合 为M’，上一层CU的最优亮度预测模式为Mup,上一层CU所得最优 亮度预测模式在RMD过程中的率失真代价SATD为SATDup，相邻左 边CU的尺寸为N1，相邻上边CU的尺寸为N2，当前CU的尺寸为N。

1)如果集合M和集合M’相等，也就是MPM模式M11和M22属于集合 M，则执行步骤2)，否则执行步骤4)。

2)如果MPM模式M11和M22相等，且等于上层CU的最优预测模式Mup， 则直接将M11选作为最优预测模式，跳过其他预测模式的精细搜索， 结束帧内亮度预测模式的搜索；否则，执行步骤3)。

3)因为M11和M22属于集合M，因为在RMD粗搜索过程中存在等于模 式M11和M22的模式，如果两个模式所对应的SATD值均小于上一层 CU最优预测模式对应的SATD值的四分之一，则跳过集合M’中位于 M11和M22模式之后的预测模式的精细搜索。否则，执行步骤5)。

4)如果MPM模式的M11和M22以及M’集合中的第一个模式M1属于 同类预测模式Ln(该分类如上所述5个分类)，则只搜索M’中属于 类Ln的预测模式，跳过其他模式的精细搜索。否则，执行步骤5)。

5)如果相邻左边块的尺寸N1和相邻上边块的尺寸N2均小于当前CU 的尺寸N，则执行步骤7)；否则，执行步骤6)。

6)如果上一层CU的最优预测模式Mup等于集合M’中的第一个候选 预测模式M1或者第二候选预测模式M2，则只精细搜索M1，M2以及 集合M’中和Mup同类的预测模式。否则执行步骤7)。

7)全遍历搜索集合M’中的所有候选预测模式。

本方案解决了色度预测过程和亮度预测过程的依赖关系，因此在 具体应用过程中，可以将帧内预测过程的亮度预测过程和色度预测过 程进行并行化处理。

色度预测过程。由于人眼对色度分量并没有对亮度分量那么敏 感，色度预测过程并没有亮度预测过程复杂。色度预测过程的候选预 测模式是5个，构建色度候选预测模式的方案主要如下：

先构建色度候选模式集合A1＝{0，1，10，26}；

依次将上一层CU的最优亮度预测模式Mup、当前CU块的相邻左 边块M1和相邻右边块的最优亮度预测模式M2融合到候选模式集合 A1中，直到A1中满足元素5个元素；

如果Mup、M1和M2已在集合A1中，A1仍然不满足5个元素， 则将(Mup+M1+M2)/3的方向模式添加到A1中。

将最新的满足5个元素的预测模式集合作为色度预测模式的候 选预测模式集合；

然后采用传统方法一样遍历候选色度预测模式集合中的每一个 元素，选择出率失真代价最小的模式作为最优预测模式。

根据所得的最优亮度和色度帧内预测模式，计算得到当前CU的 帧内预测最优率失真代价。

对于当前大小的预测单元，亮度预测过程和色度预测过程可以并 行处理，也可以依次执行，先后顺序并不影响；然后根据亮度最优预 测模式和色度最优预测模式，确定当前CU块的帧内预测率失真代价 值，降低了亮度预测过程的计算复杂度，节约编码时间。

参照图3，是本发明亮度预测模式一实施例的示意图。其中精细 搜索过程采用了一种快速的提前决策预测模式的方案。该方案是在利 用已编码块的编码特征，上下层与层之间以及相邻块之间的相关性统 计特性等规律特征来达到提前快速决策预测模式的目的。该精选搜索 过程提前快速决策方案如下：

首先将35种帧内预测模式按方向分为5大类，L1～L5，

L1＝{0，1}；

L2＝{2，3，4，5，6，7，8，9}；

L3＝{10，11，12，13，14，15，16，17}；

L4＝{18，19，20，21，22，23，24，25}；

L5＝{26，27，28，29，30，31，32，33，34}。

定义MPM模式中的相邻左边块最优亮度模式为M11，相邻上边块 的最优亮度预测模式为M22。RMD的粗略模式集合为M，M集合是按率 失真代价从小到大的有序组合，其中对应每个模式Mn的SATD值为 SATDn(n＝1,2…N；N的值如表1中m值)。MPM模式和M模式合并的 集合为M’，上一层CU的最优亮度预测模式为Mup,上一层CU所得 最优亮度预测模式在RMD过程中的率失真代价SATD为SATDup，相 邻左边CU的尺寸为N1，相邻上边CU的尺寸为N2，当前CU的尺寸为 N。

1)如果集合M和集合M’相等，也就是MPM模式M11和M22属于 集合M，则执行步骤2)，否则执行步骤4)。

2)如果MPM模式M11和M22相等，且等于上层CU的最优预测模 式Mup，则直接将M11选作为最优预测模式，跳过其他预测模式的精 细搜索，结束帧内亮度预测模式的搜索；否则，执行步骤3)。

3)因为M11和M22属于集合M，因为在RMD粗搜索过程中存在等 于模式M11和M22的模式，如果两个模式所对应的SATD值均小于上 一层CU最优预测模式对应的SATD值的四分之一，则跳过集合M’中 位于M11和M22模式之后的预测模式的精细搜索。否则，执行步骤5)。

4)如果MPM模式的M11和M22以及M’集合中的第一个模式M1 属于同类预测模式Ln(该分类如上所述5个分类)，则只搜索M’中 属于类Ln的预测模式，跳过其他模式的精细搜索。否则，执行步骤 5)。

5)如果相邻左边块的尺寸N1和相邻上边块的尺寸N2均小于当 前CU的尺寸N，则执行步骤7)；否则，执行步骤6)。

6)如果上一层CU的最优预测模式Mup等于集合M’中的第一个 候选预测模式M1或者第二候选预测模式M2，则只精细搜索M1，M2 以及集合M’中和Mup同类的预测模式。否则执行步骤7)。

7)全遍历搜索集合M’中的所有候选预测模式。

本方案解决了色度预测过程和亮度预测过程的依赖关系，因此在 具体应用过程中，可以将帧内预测过程的亮度预测过程和色度预测过 程进行并行化处理。

另一方面，本发明还提供一种面向HEVC的快速帧内预测模式判 决装置，包括：

亮度预测模块，用于对35种帧内候选预测模式进行粗略模式决 策过程，保留多个预测模式，将所述多个预测模式和最可能的预测模 式合并，对所述合并模式进行精细搜索并设定提前决策过程以确定最 优亮度预测模式；

色度预测模块，用于确定色度候选预测模式，对色度预测模式进 行遍历搜索以确定最优色度预测模式；

率失真代价确定模块，用于根据所述的最优亮度和色度预测模 式，确定当前CU块的帧内预测率失真代价。

以上是对本发明的较佳实施进行了具体说明，但本发明创造并不限于 所述实施例，熟悉本领域的技术人员在不违背本发明精神的前提下还 可作出种种的等同变形或替换，这些等同的变形或替换均包含在本申 请权利要求所限定的范围内。