H.264在嵌入式多核处理器上的解码优化研究

摘要

为了节约传输带宽、存储空间，视频编码早已成为国内外研究和工业应用的热点之一。至今国际上已制定了一系列的视频编码标准，如MPEG-1/2/4，H.261/H.263等，最近国际上新制定的H.264/AVC视频编码标准以及国内的AVS视频编码标准，虽然其框架与以前的标准类似，但其压缩效率比以往的任何标准都提高了至少一倍以上，这一突破已得到了各研究机构以及多媒体工业界的高度重视，并将引发多媒体产业中一场新的变革。因此对新一代视频压缩标准中的关键技术及其不同硬件环境下的实现进行研究，并根据不同环境特点进行性能优化，具有十分重要的理论与现实意义。 本文研究H.264在双核嵌入式处理器上的解码优化实现，采用的嵌入式处理器是TI刚推出不久的面向手持设备的OMAP5912处理器。根据H.264的档次等级建议和手持设备的特点，选择H.264Baseline档次的解码作为本文的研究重点。双核嵌入式处理器的应用重点在于其内核之间的会话机制，即双内核如何高效、协调地执行不同的任务，本文在介绍OMAP5912的ARM核和DSP核的会话机制RF6的基础上，分析了H.264解码的不同部分，筛选出适合不同内核的操作并将它们分配到不同的内核上，其中ARM926核主要负责文件管理操作、分析宏块模式、根据预测数据和残差数据生成图像数据等操作，而TMS320C55xDSP核主要负责CAVLC解码、Hadamard反变换、整数DCT反变换、反量化、帧内预测、帧间预测、环路滤波等操作。 本文主要介绍了移植到DSP部分的数据操作的原理及实现，包括CAVLC解码原理，不同码表的选择，不同参数的解码顺序；Hadamard、整数DCT反变换的原理和蝶形算法，反量化的原理和实现；帧内预测的直流亮度系数、4×4亮度块、色度块的预测模式；帧间树形运动补偿预测，不同像素精度的亮度和色度插值，运动矢量预测模式；环路滤波的边界分析，不同精度自适应滤波器，普通和特殊滤波方式，以及整个系统的框架结构。最后通过对CIF、QCIF类型的foreman、bus、football、coastground测试序列在OMAP5912上的解码试验及对其结果的分析，给出了本文的结论：对于QCIF类型的视频，OMAP5912能达到34fps以上的解码效果；而对于CIF类型的视频，也能达到11fps的解码效果。文中最后对全文做了总结，并给出了本文的不足之处，也对OMAP嵌入式双核处理器在无线通信和多媒体处理方面的前景进行了展望。

目录

文摘

英文文摘

独创性说明及大连理工大学学位论文版权使用授权书

1绪论

1.1视频编码基础

1.1.1视频数据的冗余特性

1.1.2视频数据压缩原理

1.2视频编码标准

1.2.1 MPEG-1/2/4和H.261/H.263

1.2.2 H.264与AVS

1.2.3下一代视频编码标准

1.3国内外研究现状

1.4本文所要研究的问题及论文组织

2硬件平台概述

2.1 OMAP5912 OSK概述

2.2嵌入式系统概述

2.3小结

3 H.264解码器优化

3.1 H.264编解码概述

3.1.1 H.264编码器

3.1.2 H.264解码器

3.2RF6

3.2.1 GPP-Side

3.2.2 DSP-Side

3.3 DSP代码优化

3.4小结

4 H.264解码实现

4.1 CAVLC(基于上下文自适应的可变长编码)

4.1.1熵编码的基本原理

4.1.2 CAVLC的基本原理

4.1.3 CAVLC的解码过程

4.2反量化和反变换

4.2.1反量化

4.2.2 DCT反变换

4.3预测模式

4.3.1帧内预测

4.3.2帧间预测

4.4环路滤波

4.4.1边界分析

4.4.2环路滤波

4.5总框架结构

4.6 小结

5试验结果

结 论

参考文献

攻读硕士学位期间发表学术论文情况

致谢