H.264/AVC帧内快速模式选择新算法

摘要

H.264是MPEG-4第十部分，也是新一代视频编码标准，其编解码流程主要包括5个部分：帧间预测、帧内预测、变换和反变换、量化和反量化、环路滤波和熵编码。帧内模式选择是其中一个重要的部分，但是由于复杂的计算影响了编码的时间。为了减少编码的时间和模式选择的计算量，论文进行了深入研究。
　　 PAN算法虽然减少了模式选择次数和计算复杂度，但是对于一些特殊宏块，如果依然使用PAN算法那样来选择模式是不合适的，也浪费了编码时间。本文在研究PAN算法的基础上提出了一个新的算法。
　　 首先在实验的基础上，通过SDM来判断出来当前被编码宏块的帧内类型，这样就避免了对帧内13种模式都要进行模式预测。
　　 当确定了当前被编码宏块的帧内类型后，对于帧内4×4类型的模式，先处理特殊宏块；如果不是特殊宏块的时候，计算出宏块的可能的模式。通过宏块之间的相关性，判断最优模式；对于代价函数我们使用SATD代替以前的RDCOST，这样也可以减少编码的时间。
　　 对于帧内16×16类型，通过边界方向和边界方向角来确定最优模式。
　　 通过实验，可以看到改进的算法明显减少了编码时间。虽然码率有所上升，但是图像质量却没有明显降低。