基于定点DSP的AVS编码算法实现及其优化

摘要

AVS标准是我国自主制定的数字音视频编解码技术国家标准，其中第二部分——视频是为了适应数字电视广播、数字存储媒体、网络流媒体、多媒体通信等应用中对运动图像压缩技术的需要而制定[1]。本课题针对该部分在DSP平台上实时实现开展研究。 本文介绍了AVS编码算法的原理及其核心技术、DM6446芯片的结构特性和功能、DM6446的ARM子系统和视频子系统；特别给出了本人总结的DSP子系统及其指令集的整体描述以及在此基础上设计的基于定点芯片实现浮点除法的方法；讨论了AVS算法帧内编码原理和该模块的实现方法以及相关的程序设计；利用线性汇编对AVS算法中过于耗时的函数进行优化，提高帧内编码的效率等。 本课题研究的主要内容是基于定点DSP TMS320DM6446实现AVS算法，主要完成了以下工作: ①实现了基于该硬件平台的浮点除法(包括单精度和双精度)，精度与C代码相当，指令周期分别降低了18.2％(单精度)和39.3％(双精度)； ②基于TMS320DM6446实现了AVS算法中的2个模块——帧内编码模块，ICT变换、量化和反ICT变换、反量化模块。包括C代码实现及其优化、线性汇编优化等； ③针对AVS算法中耗时较多的函数如SATD及SAD，ICT变换和逆ICT变换，量化和反量化，1/4像素插值等函数进行线性汇编优化，进一步提高了编码效率； ④通过合理调整程序结构、合理分配存储器资源实现了AVS算法的移植。在TMS320DM6446硬件平台上运行得到QCIF格式、帧率为13.49fps的AVS码流；解码后亮度Y平均信噪比能达到38.5dB以上，色度U和V的平均信噪比能达到41.5dB以上。

目录

文摘

英文文摘

声明

前言

0.1课题研究的背景和意义

0.2论文完成的工作

0.3论文的组织

第一章AVS编码算法原理

1.1 AVS编码算法概述

1.2 AVS编码原理的几个基本概念

1.3 AVS编码原理的模块划分

1.3.1变换和量化

1.3.2帧内预测

1.3.3帧间预测

1.3.4熵编码

1.3.5去块效应环内滤波

1.4帧内预测编码概述

1.5 AVS标准的性能特点

1.6本章小结

第二章TMS320DM6446 DSP的结构与指令集

2.1TMS320DM6446概述

2.2 DSP系统

2.2.1 DSP结构

2.2.2.DSP数据通路与控制

2.3TMS320DM6446 DSP指令集

2.3.1 Load/Store类指令

2.3.2加减法指令

2.3.3乘法指令

2.3.4逻辑运算指令

2.3.5移位指令

2.3.6位操作指令

2.3.7比较及判别类指令

2.3.8搬移指令

2.3.9域乘法

2.3.10软件流水相关指令

2.3.11程序转移类指令

2.3 ARM子系统

2.4视频子系统

2.4.1视频前端(VPFE)

2.4.2视频后端(VPBE)

2.5本章小结

第三章基于定点DSP DM6446对浮点除法的改进

3.1 DM6446浮点数表示

3.1.1确定小数点的位置

3.1.2浮点数与定点数的转化

3.2定点DSP除法实现的方法

3.3牛顿迭代法

3.3.1基本原理

3.3.2牛顿迭代法实现浮点除法

3.4移位减法

3.4.1基本原理

3.4.2具体实现

3.4.3算法的核心代码段

3.4.4移位减法实现双精度除法

3.5两种方法的对比

3.6本章小结

第四章AVS算法的帧内编码实现

4.1帧内预测的原理

4.2帧内预测的具体实现

4.2.1参考样本的获得

4.2.2亮度块帧内预测

4.2.3色度块帧内预测

4.3编程实现

4.4本章小结

第五章线性汇编优化及常用优化方法

5.1线性汇编概述

5.2 SATD函数的优化

5.2.1 SATD函数的C语言实现

5.2.2 SATD函数的线性汇编实现

5.3其它关键代码的优化

5.3.1 1/4像素插值

5.3.2 ICT变换和反ICT变换

5.3.3量化和反量化

5.4常用的优化方法

5.4.1代码编写注意事项

5.4.2内联函数

5.4.3优化编译选项

5.4.4存储器的配置优化

5.4.5 Cache的性能优化

5.5本章小结

第六章总结和进一步改进的方向

参考文献

致谢

攻读学位期间发表的学术论文目录