一种基于PU纹理特性的HEVC帧内快速模式决策算法

摘要

本发明提供一种基于PU纹理特性的HEVC帧内快速模式决策算法，包括四个程序，其中第一步程序的具体步骤有：1、读入一个PU，计算PU的MAD

说明书

技术领域

本发明涉及数字视频通信领域，尤其涉及一种基于PU纹理特性的 HEVC帧内快速模式决策算法。

背景技术

近30年来，伴随着互联网的发展、视频源数据急剧增加，人们对视频 分辨率和视频质量的要求不断提高，促使国际标准组织于2010年开始制定 新一代视频编码标准HEVC(High Efficiency Video Coding)。

HEVC与上一代视频编码标准H.264一样都是采用混合编码结构，即预 测编码、变换编码和熵编码，但HEVC更注重对高清、超高清视频编码的 压缩性能以及并行处理，引入了许多先进的、高效的编码工具和技术。比如， 灵活的块分割方式、帧间预测模式—Merge模式、35种帧内预测模式、样 点自适应偏移(SAO，Sample Adaptive Offset)等。这些新的编码工具使得 HEVC能够提供编码效率高于H.264两倍的视频码流。在2013年1月，VCEG 和MPEG正式将HEVC确定为新一代视频标准。因此有理由相信，在不久 的将来，HEVC将会成为应用最为广泛的视频标准。

但是显著提高编码效率的同时，相较于H.264，HEVC也极大地增加了 编码的复杂度，尤其是多变的块分割导致的模式选择复杂度大幅度提高。由 此可知，寻找一种算法来优化模式选择是降低HEVC编码复杂度的一种有 效的方法。

下面内容为现有算法的HEVC帧内模式决策过程的概述：

HEVC提供了35种帧内预测模式，即33种角度预测模式、Planar模式 和DC模式，如图1所示。现有的技术是通过四个程序来得到每个PU(预测 单元)的最佳预测模式，如图2所示。首先，通过RMD(Rough Mode Decision， 粗模式决策)遍历35种预测模式，根据式(1)得到J_RMD，即各模式低复杂 度的RD Cost(Rate Distortion Cost，率失真代价)，并根据PU的尺寸选取 不同个数的候选模式，即当PU尺寸大于8×8时，选取J_RMD最小的前3个 模式作为当前PU的RDO初始候选模式集；当PU尺寸小于或等于8×8时， 选取J_RMD最小的前8个模式作为当前PU的RDO初始候选模式集；其次， 进行MPMs(Most Probable Modes，最有可能模式)选择，即判断当前PU 的RDO初始候选模式集中是否包含当前PU左邻近或上邻近PU的最佳预 测模式，若不包含，则更新RDO的初始候选模式集，即将不包含的模式添 加到RDO初始候选模式集中，若包含，则不做任何处理；然后，将RDO 初始候选模式集的模式在最大TU尺寸上进行RDO(Rate Distortion  Optimization，率失真优化)，即根据式(2)计算出相应模式的RD Cost， 即J_RDO，将J_RDO最小的模式作为当前PU的最佳预测模式；最后，对最佳预 测模式进行RQT(Residual Quad-Tree Transtform，残差四叉树变换)，即 以CU为根对残差块进行四叉树分割，来得到最佳TU分割。

J_RMD＝SATD+λ_pred·R_pred  (1)

J_RDO＝(SSE_Luma+0.57·SSE_Chroma)+λ_mode·R_mode  (2)

式(1)中，SATD表示残差信息Hadamard变换系数绝对值之和，λ_pred表示拉格朗日乘子，R_pred表示编码预测模式信息所需的比特数；

式(2)中，SSE_Luma和SSE_Chroma分别表示亮度与色度的原始图像与预测图 像差的平方和，λ_mode表示拉格朗日乘子，R_mode表示编码候选模式的总比特数。

本发明是对四个程序中的第一个程序进行改进，第一个程序中要通过 RMD(Rough Mode Decision，粗模式决策)遍历35种预测模式，并计算J_RMD； 而本发明无需对35种预测模式都进行计算，这样能有效地节省时间，实现 HEVC编码器的实时应用。

发明内容

本发明要解决的技术问题，在于提供一种基于PU纹理特性的HEVC帧 内快速模式决策算法，是一种适用于帧内简单且高效的快速模式决策算法， 本发明是对四步法中的第一个步骤进行改进，有助于实现HEVC编码器的 实时应用。

本发明是这样实现的：

一种基于PU纹理特性的HEVC帧内快速模式决策算法，包括四个程序， 其中第一步程序的具体步骤如下：

步骤1、读入一个PU，计算当前PU的MAD_PU并自行设定邻近模式H；

步骤2、根据MAD_PU的大小确定第一角度模式集A；

步骤3、计算第一角度模式集A中模式的J_RMD值，根据MAD_PU的大小 和PU的尺寸大小选取中心模式，并确定第二角度模式集；

步骤4、在第二角度模式集中加入模式0和模式1，设定Planar模式为 模式0、DC模式为模式1、33种角度预测模式为模式2至模式34，形成第 三角度模式集；

步骤5、对第三角度模式集中的模式进行RMD，根据PU的尺寸大小 选取不同个数的模式作为RDO初始候选模式集。

进一步地，所述步骤1进一步具体为：

步骤11、读入一个PU，根据式子：

${\mathrm{MAD}}_{\mathrm{PU}}=\frac{1}{M·N}\underset{j=0}{\overset{M}{\Sigma }}\underset{i=0}{\overset{N}{\Sigma }}|p(i,j)-\mathrm{ave}|$

计算MAD_PU，利用MAD_PU来刻画各PU的纹理特性；其中，MAD_PU表示均值绝对偏差，p(i,j)表示PU中位于(i,j)的像素值，ave表示PU中所 有像素的均值，M、N分别表示PU的行数和列数；

步骤12、根据MAD_PU的大小范围值对各PU进行分类，分类如下：

MAD_PU≤4，PU的纹理情况为平稳；

4<MAD_PU≤8，PU的纹理情况为半平稳；

MAD_PU>8，PU的纹理情况为非平稳；

步骤13、根据式子：H≥|I-J|(2≤I≤34且2≤J≤34且I、J不相等) 来定义邻近模式H，其中I表示模式I，J表示模式J；定义模式0和模式1 不存在邻近模式，同时定义当模式I为2、邻近模式H为1时，模式J为模 式34和模式3。

进一步地，所述步骤2具体为：

步骤21、当PU的纹理情况为平稳时，设置第一角度模式集为：

A＝{2,10,18,26}；

步骤22、当PU的纹理情况为半平稳时，设置第一角度模式集为：

A＝{2,6,10,14,18,22,26,30}；

步骤23、当PU的纹理情况为非平稳时，设置第一角度模式集为：

A＝{2,4,6,8,10,12,14,16,18,20,22,24,26,28,30,32}。

进一步地，所述步骤3具体为：

步骤31、当PU的纹理情况为平稳时，总是选取第一角度模式集中J_RMD最小的模式作为中心模式，将该中心模式作为模式I、将4作为邻近模式H， 来计算模式J，此时模式J有8种情况，再将该模式J作为第二角度模式集；

步骤32、当PU的纹理情况为半平稳且PU的尺寸大于8×8时，选取第 一角度模式集中J_RMD最小的模式作为中心模式；当PU的纹理情况为半平稳 且PU的尺寸小于或等于8×8时，选取第一角度模式集中J_RMD最小与次小的 模式作为中心模式，将该中心模式分别作为模式I、将2作为邻近模式H， 来计算模式J，此时每个模式I对应的模式J均有4种情况，再将该模式J 作为第二角度模式集；

步骤33、当PU的纹理情况为非平稳且PU的尺寸大于8×8时，选取第 一角度模式集中J_RMD最小与次小的模式作为中心模式；当PU的纹理情况为 非平稳且PU的尺寸小于或等于8×8时，选取第一角度模式集中J_RMD最小、 次小与第三小的模式作为中心模式，将该中心模式分别作为模式I、将1作 为邻近模式H，来计算模式J，此时每个模式I对应的模式J均有2种情况， 再将该模式J作为第二角度模式集。

本发明具有如下优点：本发明用于采用HEVC标准的编码系统中，对 图像进行帧内预测处理时，提供一种帧内预测的快速模式决策算法，跳过某 些预测模式的RMD计算；本发明具有以下的主要特点和优点：

1、本算法利用PU的纹理特性，提前剔除成为当前PU最佳预测模式中 概率比较小的模式；

2、本算法简单有效，不会带来大量的额外计算，可较精确的减少当前 PU不必要的预测模式的RMD计算，同时本算法易于在硬件和软件上实现；

3、本算法能节省编码的时间；

4、本算法不会改变HEVC原有的码流结构，与HEVC标准完全兼容。

附图说明

下面参照附图结合实施例对本发明作进一步的说明。

图1为HEVC 35种的帧内预测模式。

图2为HEVC帧内模式决策流程图。

图3为本发明的方法流程图。

具体实施方式

如图3所示，本发明的一种基于PU纹理特性的HEVC帧内快速模式决 策算法，包括四个程序，其中第一步程序的具体步骤如下：

步骤1、读入一个PU，计算当前PU的MAD_PU并自行设定邻近模式H； 具体为：

步骤11、读入一个PU，根据式子：

${\mathrm{MAD}}_{\mathrm{PU}}=\frac{1}{M·N}\underset{j=0}{\overset{M}{\Sigma }}\underset{i=0}{\overset{N}{\Sigma }}|p(i,j)-\mathrm{ave}|$

计算MAD_PU，利用MAD_PU来刻画各PU的纹理特性；其中，MAD_PU表示均值绝对偏差，p(i,j)表示PU中位于(i,j)的像素值，ave表示PU中所 有像素的均值，M、N分别表示PU的行数和列数；

步骤12、根据MAD_PU的大小范围值对各PU进行分类，分类如下：

MAD_PU≤4，PU的纹理情况为平稳；

4<MAD_PU≤8，PU的纹理情况为半平稳；

MAD_PU>8，PU的纹理情况为非平稳；

步骤13、根据式子：H≥|I-J|(2≤I≤34且2≤J≤34且I、J不相等) 来定义邻近模式H，其中I表示模式I，J表示模式J；定义模式0和模式1 不存在邻近模式，同时定义当模式I为2、邻近模式H为1时，模式J为模 式34和模式3；设定Planar模式为模式0、DC模式为模式1、33种角度预 测模式为模式2至模式34；

步骤2、根据MAD_PU的大小确定第一角度模式集A；具体为：

步骤21、当PU的纹理情况为平稳时，设置第一角度模式集为：

A＝{2,10,18,26}；

步骤22、当PU的纹理情况为半平稳时，设置第一角度模式集为：

A＝{2,6,10,14,18,22,26,30}；

步骤23、当PU的纹理情况为非平稳时，设置第一角度模式集为：

A＝{2,4,6,8,10,12,14,16,18,20,22,24,26,28,30,32}；

步骤3、计算第一角度模式集A中模式的J_RMD值，根据MAD_PU的大小 和PU的尺寸大小选取中心模式，并确定第二角度模式集；具体为：

步骤31、当PU的纹理情况为平稳时，总是选取第一角度模式集中J_RMD最小的模式作为中心模式，将该中心模式作为模式I、将4作为邻近模式H， 来计算模式J，此时模式J有8种情况，再将该模式J作为第二角度模式集；

步骤32、当PU的纹理情况为半平稳且PU的尺寸大于8×8时，选取第 一角度模式集中J_RMD最小的模式作为中心模式；当PU的纹理情况为半平稳 且PU的尺寸小于或等于8×8时，选取第一角度模式集中J_RMD最小与次小的 模式作为中心模式，将该中心模式分别作为模式I、将2作为邻近模式H， 来计算模式J，此时每个模式I对应的模式J均有4种情况，再将该模式J 作为第二角度模式集；

步骤33、当PU的纹理情况为非平稳且PU的尺寸大于8×8时，选取第 一角度模式集中J_RMD最小与次小的模式作为中心模式；当PU的纹理情况为 非平稳且PU的尺寸小于或等于8×8时，选取第一角度模式集中J_RMD最小、 次小与第三小的模式作为中心模式，将该中心模式分别作为模式I、将1作 为邻近模式H，来计算模式J，此时每个模式I对应的模式J均有2种情况， 再将该模式J作为第二角度模式集；

步骤4、在第二角度模式集中加入模式0和模式1，形成第三角度模式 集；

步骤5、对第三角度模式集中的模式进行RMD，根据PU的尺寸大小 选取不同个数的模式作为RDO初始候选模式集。

表1：

表1为本发明算法的RD性能，采用新一代的视频编码标准HEVC提 供的测试模型HM 10.1来验证本发明算法的有效性。对JCT-VC所推荐的5 类分辨率的18个测试序列分别编码50帧进行测试。测试的硬件配置为AMD  Athlon(tm)Ⅱ×2B28Processor，主频为3.40GHz，RAM为2.00GB；操作系 统为Windows 7；开发工具为Microsoft Visual Studio 2010。测试的编码器主 要配置参数为：全I帧编码模式，分别选取QP(Quantization Parameter，量 化参数)为22、27、32、37，其余为默认设置。本发明算法与原始HM10.1 比较的实验结果如表1所示。其中表1的BDBR与BDPSNR为VCEG建议 采用的评价准则，分别表示在同样的客观质量下，两种算法的码率节省情况 以及在给定的同等码率下，两种算法的Y-PSNR差异。

从表1可看出，本发明提出的一种基于PU纹理特性的帧内快速模式决 策算法，效果良好，对其PSNR与码率的影响几乎可以忽略。同时在QP＝22、 27、32、37条件下平均能减少RMD过程的编码时间分别为31.05％、30.98％、 30.33％、30.74％。由此可见，本发明方法对不同QP，能获取稳定的RMD 编码时间减少，具有一定的实际应用意义。

经过以上的分析和实验验证，可以得出以下结论：本发明提出的基于 PU纹理的HEVC帧内快速模式决策方法，其实现简单，效果良好，有助于 实现HEVC编码器的实时应用。

虽然以上描述了本发明的具体实施方式，但是熟悉本技术领域的技术 人员应当理解，我们所描述的具体的实施例只是说明性的，而不是用于对本 发明的范围的限定，熟悉本领域的技术人员在依照本发明的精神所作的等效 的修饰以及变化，都应当涵盖在本发明的权利要求所保护的范围内。