一种HEVC帧内编码中基于深度学习的率失真优化快速决策系统及其方法

摘要

本发明公开了一种HEVC帧内编码中基于深度学习的率失真优化快速决策系统及其方法，属于视频编码技术领域。考虑到编码参数选择时存在的内在联系，结合视频内容的时空相关性，来同时确定当前编码单元的CU/PU分区和预测模式，避免了HEVC帧内编码中率失真优化过程中的遍历过程，能够最大程度地降低计算复杂度，节省编码时间。具体包括步骤：1）准备用于训练及测试决策网络的视频数据集；2）利用训练数据集分别在不同QP下对单步决策网络进行训练，并保存训练后的网络模型参数；3）将单步决策网络嵌入到HEVC参考模型HM.15.0中，实现低复杂度HEVC编码器；4）分别使用不同QP下训练出的单步决策网络模型对测试集上的视频进行编码，测试编码复杂度和RD性能。