基于H.264/AVC中整数变换与量化的研究及VLSI设计

摘要

H.264视频编码标准是由ITU-T的VCEG(视频编码专家组)和ISO/IEC的MPEG(活动图像编码专家组)组成的联合视频组(JVT：jointvideoteam)开发的一个新的数字视频编码标准。新的视频编码国际标准引入了当前视频编码中的许多新技术,使得在相同的重建图像质量下，其编码效率比H.263和MPEG-4高50％。H.264采用分层编码的思想，其关键技术包括帧内预测模式、帧间预测模式、多参考帧及高精度的运动估计、4×4块的整数变换和量化、去块效应滤波、可变长编码和基于上下文的算术编码等。
　　本文针对H.264中4×4块的整数变换原理作了详细研究。所采用的整数变换只需简单地通过加减法和移位操作完成，与传统的DCT变换相比它加快了变换速度,更加易于硬件实现。同时也能够减少块效应、振铃效应和反变换过程中的失配等问题。这种变换保证了变换精度，降低了计算的复杂度，峰值信噪比(PSNR)却只降低了0.02dB。
　　在硬件实现上，本文采用了蝶形快速算法。此算法能避免一些不必要的重复计算，在运算速度上具有独特的优势，且由于二维的整数变换可以分解为两次一维变换，所以对每次一维变换都可以采用此蝶形算法。针对一种并行结构速度快但是硬件面积大的缺点，本文在硬件实现的总体思想上做了改进：采用行列分离的变换方法，将行变换后的矩阵进行转置然后在同一硬件电路中进行列变换，4个时钟周期内就可以完成二维的整数变换过程。本文设计的整数变换模块硬件面积只有98195.4um2，门数与参考文献中的设计相比节省了约12.4%。同时由计算可得处理速度可达到400Mpixels/s(参考文献中的处理速度为320Mpixels/s)。
　　本文对H.264中4×4整数变换编码与量化的原理及算法进行了深入研究后使用Verilog硬件描述语言设计并实现了采用蝶形快速算法的16位整数变换模块和量化模块。利用Cadence公司的NC-Verilog仿真器对其进行了功能仿真。最后，调用TSMC的0.18um工艺库、使用Synopsys公司的综合工具DesignCompiler对模块进行了综合，得到了门级网表文件。

目录

基于H.264/AVC中整数变换与量化的研究及VLSI设计

A STUDY ON TRANSFORM AND QUANTIZATION BASED ON H.264/AVC AND ITS VLSI IMPLEMENTATION

摘要

Abstract

第1章 绪论

1.1 引言

1.2 视频压缩编码技术的发展历史与现状

1.3 视频压缩编码新标准H.264的提出及应用领域

1.4 视频压缩编码技术概述

1.4.1 熵编码

1.4.2 预测编码

1.4.3 变换编码

1.5 本论文的研究内容和要完成的工作

第2章 H.264视频压缩编码关键技术的分析

2.1 H.264的主要指标

2.2 H.264的编码方法

2.2.1 预测

2.2.2 运动补偿

2.2.3 4×4的整数变换和量化

2.2.4 熵编码

2.3 H.264编解码器的实现

2.4 本章小结

第3章 H.264中整数变换与量化的原理研究

3.1 离散余弦变换介绍

3.2 编码器中4×4整数变换及量化的原理

3.2.1 整数变换的过程

3.2.2 量化过程

3.2.3 直流系数的变换和量化过程

3.3 解码器中反变换及反量化的原理

3.3.1 反量化

3.3.2 整数逆变换

3.3.3 直流系数的反变换及反量化

3.4 本章小结

第4章 整数变换与量化的硬件实现

4.1 整数变换与量化的硬件实现流程

4.2 硬件实现的算法

4.2.1 已有算法介绍

4.2.2 蝶形快速算法

4.2.3 蝶形快速算法的MATLAB软件验证

4.3 硬件实现的改进思想及总体方案

4.4 各子模块的设计

4.4.1 控制模块设计

4.4.2 缓冲模块设计

4.4.3 选通器模块设计

4.4.4 转置模块的设计

4.4.5 整数变换运算模块设计

4.4.6 量化模块的硬件设计

4.5 本设计综合结果分析及与文献中设计的比较

4.5.1 电路逻辑综合

4.5.2 综合报告分析

4.5.3 综合结果比较

4.6 本章小结

结论

参考文献

攻读学位期间发表的学术论文

哈尔滨工业大学硕士学位论文原创性声明

哈尔滨工业大学硕士学位论文使用授权书

致谢