H264自适应帧内模式选择码率估计的率失真优化方法及其装置

摘要

一种H.264中自适应帧内模式选择码率估计的率失真优化方法及其系统，所述方法包括如下步骤：4x4块帧内预测步骤，利用4×4亮度块的上方和左方的已编码和重构像素，以及9种预测模型来实现帧内预测；4x4块残差值获取步骤，利用对象点的实际像素减去得到的预测的像素值，得到4x4块残差值矩阵X；DCT变换步骤，对所述4x4块残差值矩阵X进行DCT变换，得到Y矩阵；评估R值步骤，利用在Y矩阵中经过zig-zag扫描的非零系数和拖尾系数，以及运动矢量评估得到R值；RDO优化步骤，定义代价函数，，通过计算的值，在4x4帧内预测的所有预测模型中选择代价最小者作为最佳帧内预测模型。本发明能够提高编码效率，降低时间复杂度，提高RDO效率。