H.264/AVC视频编码标准研究及其编码器的优化

摘要

随着21世纪的到来，人类进入了数字时代、信息时代和多媒体时代。作为多媒体中最重要的组成部分，数字视频处理也随着时代的发展取得了长足的进步。 H.264/AVC是ISO/IEC的MPEG（运动图像专家组）和ITU-T的VCEG（视频编码专家组）共同制定的新的视频编码标准。作为视频编解码领域的最新标准，H.264具有压缩率高、适用范围广、差错恢复能力强等优点，是当前最高效的视频压缩方法。相对于其他视频编解码标准，H.264具有更广阔的应用前景。另一方面，为了达到理想的数据压缩率，H.264编码器采用了很多新的编码技术，这些技术极大地增加了编码器的计算复杂度，这对目前在PC环境下的实时应用来说是个很大的挑战。要实现H.264的实时编解码，必须对其进行大量的优化工作，同时这种优化工作不应该以较大的性能牺牲为代价。 本文深入研究了H.264/AVC的编码原理，并在此基础上以参考代码JM9.8(FRExt)为实验平台对编码器进行了在算法级与指令级上的优化。实验结果表明，在未显著降低性能的前提下，优化工作有效地提高了编码器的效率。 在文章中，首先对H.264/AVC中主要功能模块如：帧内预测、帧间预测、1/4和1/8像素的运动估计、多参考帧、整数变换、熵编码、环路滤波器以及FRExt扩展部分所包含的新技术做了详细的讨论。然后分析了H.264编码器的性能和算法复杂度，指出了影响编码效率的主要因素。接下来介绍了基于率失真优化的模式选择算法，并提出了一种简单而有效的帧内预测模式选择快速算法。通过编程实现后，实验显示了改进算法相对于原始算法效率上的明显提升。最后我们在指令级对H.264/AVC进行了改进，通过对编码器中计算密集度较高的插值和整数变换模块进行SIMD技术的优化，大幅度提高了编码器的速度。