一种基于BP网络的H.264快速帧内模式选择算法

摘要

H.264/AVC采用17种预测模式和率失真优化模型来进行帧内模式的选择,复杂度很高.目前的快速帧内模式选择算法能有效减少模式选择的复杂度,但还存在很大的不足.提出了一种基于BP神经网络的快速帧内模式选择算法.该算法使用BP神经网络对大量视频序列预先训练的结果对宏块进行预判,得出当前宏块采用Intra16x16或Intra4x4模式,然后使用Pan Feng的方法判断具体选择何种模式.实验结果表明,该算法在保证视频质量几乎不变(PSNR平均降低约0.01 dB)的同时,可以有效减少计算复杂度,与JM86相比减少75%～83%,与Pan Feng的方法相比减少30%-70%.