面向神经网络编解码工具的并行推理方法及系统

摘要

本发明公开了一种面向神经网络编解码工具的并行推理方法，包括：对待处理的图像进行边界扩充，得到边界完整的图像；根据光栅扫描顺序将所述边界完整的图像划分成大小相同的图像块；将所述大小相同的图像块组织成若干个张量，并将所述若干个张量作为一组张量同时送入神经网络中进行前向传播处理，其中，根据神经网络编码工具以及硬件显存大小设置所述张量的批尺寸值。通过上述方法，可以有效减少神经网络推理时的显存，降低神经网络视频编码工具的编解码复杂度。