用于神经网络模型压缩的三维(3D)树编解码的方法和装置

摘要

一种用于神经网络模型压缩的三维(3D)树编解码的方法，所述方法由至少一个处理器执行，并且所述方法包括：将神经网络的四维(4D)参数张量重塑为所述神经网络的3D参数张量，所述3D参数张量包括卷积核尺寸、输入特征尺寸，以及输出特征尺寸；沿着由所述输入特征尺寸和所述输出特征尺寸形成的平面，将所述3D参数张量分区为3D编解码树单元(CTU3D)；使用四叉树将所述CTU3D中的每一个递归地分区为多个3D编解码单元(CU3D)直到预定深度；为所述多个CU3D中的每一个构建3D树；以及对所述3D树的多个节点的多个值中的每个值进行熵编码。