使用用于多视点视频预测的参考画面集的多视点视频编码方法及其装置、使用用于多视点视频预测的参考画面集的多视点视频解码方法及其装置

摘要

提供了一种通过根据视点对多视点视频的每个画面执行帧间预测和视点间预测来对多视点视频编码和解码的方法。一种对多视点视频进行编码的预测编码方法，包括：在先于当前画面被重建的相同视点重建画面之中确定包括具有与当前画面的再现顺序不同的再现顺序的至少一个短期重建画面的参考画面集以及包括至少一个长期重建画面的参考画面集，在先于当前画面被重建的不同视点重建画面之中确定包括具有与当前画面的再现顺序相同的再现顺序的至少一个短期重建画面的参考画面集；在第一参考列表与第二参考列表之间确定至少一个参考列表，其中，第一参考列表包括在确定的多个参考画面集之中的具有早于当前画面的再现顺序的再现顺序的至少一个重建画面以及具有与当前画面的再现顺序相同的再现顺序并具有小于当前画面的视点标识符VID的VID的至少一个重建画面，第二参考列表包括具有与当前画面的再现顺序相同的再现顺序并具有晚于当前画面的再现顺序的再现顺序的至少一个重建画面以及具有与当前画面的再现顺序相同的再现顺序并具有大于当前画面的VID的VID的至少一个重建画面；通过使用确定的至少一个参考列表确定用于当前画面的当前块的至少一个参考画面和参考块；通过使用参考块执行从用于当前块的帧间预测和视点间预测中选择的至少一个操作。

说明书

技术领域

本发明涉及多视点视频编码和解码。

背景技术

随着用于再现和存储高分辨率或高质量视频内容的硬件的开发和提供， 对于用于有效地对高分辨率或高质量视频内容进行编码或解码的视频编解码 器的需求正在增加。根据传统的视频编解码器，根据基于具有预定尺寸的宏 块的受限的编码方法来对视频进行编码。

空间域的图像数据经由频率变换被变换为频率域的系数。根据视频编解 码器，将图像划分为具有预定尺寸的块，对每个各块执行离散余弦变换 (DCT)，并在块单元中对频率系数进行编码，以进行频率变换的快速计算。 与空间域的图像数据相比，频率域的系数容易被压缩。具体地，由于根据经 由视频编解码器的帧间预测或帧内预测的预测误差来表示空间域的图像像素 值，因此当对预测误差执行频率变换时，大量数据可被变换为0。根据视频 编解码器，可通过使用少量数据来代替连续并重复产生的数据，来减少数据 量。

尽管存在对多视点捕获的视频的增长的需求，但是随着视点的数量而同 样增加的视频数据的量会造成问题。因此，对有效地对多视点视频进行编码 的努力在继续。

发明内容

技术问题

本发明提供了一种通过根据视点对多视点视频的每个图像执行帧间预测 和视点间预测来对多视点视频进行编码和解码的方法。

技术方案

根据本发明的一方面，提供了一种对多视点视频进行编码的预测编码方 法，包括：在先于当前画面被重建的相同视点重建画面之中确定包括具有与 当前画面的再现顺序不同的再现顺序的至少一个短期重建画面的参考画面集 以及包括至少一个长期重建画面的参考画面集，在先于当前画面被重建的不 同视点重建画面之中确定包括具有与当前画面的再现顺序相同的再现顺序的 至少一个短期重建画面的参考画面集；在第一参考列表与第二参考列表之间 确定至少一个参考列表，其中，第一参考列表包括确定的多个参考画面集之 中的具有早于当前画面的再现顺序的再现顺序的至少一个重建画面以及具有 与当前画面的再现顺序相同的再现顺序并具有小于当前画面的视点标识符 (VID)的VID的至少一个重建画面，第二参考列表包括具有与当前画面的再 现顺序相同的再现顺序并具有晚于当前画面的再现顺序的再现顺序的至少一 个重建画面以及具有与当前画面的再现顺序相同的再现顺序并且具有大于当 前画面的VID的VID的至少一个重建画面；通过使用确定的至少一个参考列 表确定用于当前画面的当前块的至少一个参考画面和参考块；通过使用参考 块执行从用于当前块的帧间预测和视点间预测中选择的至少一种预测。

有益效果

根据本发明的用于多视点视频的预测编码设备和预测解码设备可建立用 于多视点视频的帧间预测和视点间预测的参考画面列表。一个参考画面列表 可包括用于帧间预测的参考图像和用于视点间预测的参考图像两者。

可通过序列参数集和条带头来发送和接收关于明确反映解码画面集的状 态的参考画面集的信息。可根据参考画面集来确定参考列表，从而可在考虑 当前解码画面集的状态确定的参考列表中确定参考图像，并且参考图像可用 于帧间预测/运动补偿和视点间预测/视差补偿。

附图说明

图1a是根据实施例的多视点视频预测编码设备的框图；

图1b是根据实施例的多视点视频预测编码方法的流程图；

图2a是根据实施例的多视点视频预测解码设备的框图；

图2b是根据实施例的多视点视频预测解码方法的流程图；

图3示出根据实施例的用于当前画面的帧间预测和视点间预测的参考对 象；

图4示出根据实施例的基于图3的参考对象配置的参考列表；

图5a和图5b是用于解释根据实施例的改变L0列表的处理的示图；

图6a示出根据实施例的序列画面参数集的语法；

图6b示出根据实施例的画面参数集的语法；

图7示出根据实施例的条带头的语法；

图8a示出根据实施例的用于视点间预测的参考画面集的参数集；

图8b示出根据实施例的用于改变参考列表的参数的语法；

图9示出根据实施例的组合的参考列表；

图10和图11是用于解释根据实施例的用于改变组合的参考列表的处理 的示图；

图12是根据实施例的包括多视点视频预测编码设备的多视点视频编码 设备的框图；

图13是根据实施例的包括多视点视频预测解码设备的多视点视频解码 设备的框图；

图14是根据本发明的实施例的基于根据树结构的编码单元的视频编码 设备的框图；

图15是根据本发明的实施例的基于根据树结构的编码单元的视频解码 设备的框图；

图16是用于描述根据本发明的实施例的编码单元的概念的示图；

图17是根据本发明的实施例的基于编码单元的图像编码器的框图；

图18是根据本发明的实施例的基于编码单元的图像解码器的框图；

图19是示出根据本发明的实施例的根据深度的较深层编码单元以及分 区的示图；

图20是用于描述根据本发明的实施例的编码单元与变换单元之间的关 系的示图；

图21是用于描述根据本发明的实施例的与编码深度相应的编码单元的 编码信息的示图；

图22是根据本发明的实施例的根据深度的较深层编码单元的示图；

图23至图25是用于描述根据本发明的实施例的编码单元、预测单元和 变换单元之间的关系的示图；

图26是用于描述根据表1的编码模式信息的编码单元、预测单元和变换 单元之间的关系的示图；

图27是根据本发明的实施例的存储程序的盘的物理结构的示图；

图28是通过使用盘来记录和读取程序的盘驱动器的示图；

图29是提供内容分配服务的内容供应系统的整体结构的示图；

图30和图31是根据本发明的实施例的应用了视频编码方法和视频解码 方法的移动电话的内部结构和外部结构各自的示图；

图32是根据本发明的实施例的采用通信系统的数字广播系统的示图；

图33是示出根据本发明的实施例的使用视频编码设备和视频解码设备 的云计算系统的网络结构的示图。

最佳实施方式

根据本发明的一方面，提供了一种对多视点视频进行编码的预测编码方 法，包括：在先于当前画面被重建的相同视点重建画面之中确定包括具有与 当前画面的再现顺序不同的再现顺序的至少一个短期重建画面的参考画面集 以及包括至少一个长期重建画面的参考画面集，在先于当前画面被重建的不 同视点重建画面之中确定包括具有与当前画面的再现顺序相同的再现顺序的 至少一个短期重建画面的参考画面集；在第一参考列表与第二参考列表之间 确定至少一个参考列表，其中，第一参考列表包括确定的多个参考画面集之 中的具有早于当前画面的再现顺序的再现顺序的至少一个重建画面以及具有 与当前画面的再现顺序相同的再现顺序并具有小于当前画面的视点标识符 (VID)的VID的至少一个重建画面，第二参考列表包括具有与当前画面的再 现顺序相同的再现顺序并具有晚于当前画面的再现顺序的再现顺序的至少一 个重建画面以及具有与当前画面的再现顺序相同的再现顺序并具有大于当前 画面的VID的VID的至少一个重建画面；通过使用确定的至少一个参考列表 确定用于当前画面的当前块的至少一个参考画面和参考块；通过使用参考块 执行从用于当前块的帧间预测和视点间预测中选择的至少一种预测。

确定参考画面集的步骤可包括：在先于当前画面被重建的相同视点重建 画面之中确定包括具有与当前画面的再现顺序不同的再现顺序的至少一个非 参考重建画面的参考画面集；在先于当前画面被重建的不同视点重建画面之 中确定包括具有与当前画面的再现顺序相同的再现顺序的至少一个非参考重 建画面的参考画面集。

根据本发明的另一方面，提供了一种对多视点视频进行解码的预测解码 方法，所述预测解码方法包括：在先于当前画面被重建的相同视点重建画面 之中确定包括具有与当前画面的再现顺序不同的再现顺序的至少一个短期重 建画面的参考画面集以及包括至少一个长期重建画面的参考画面集，在先于 当前画面被重建的不同视点重建画面之中确定包括具有与当前画面的再现顺 序相同的再现顺序的至少一个短期重建画面的参考画面集；在第一参考列表 与第二参考列表之间确定至少一个参考列表，其中，第一参考列表包括确定 的多个参考画面集之中的具有早于当前画面的再现顺序的再现顺序的至少一 个重建画面以及具有与当前画面的再现顺序相同的再现顺序并具有小于当前 画面的VID的VID的至少一个重建画面，第二参考列表包括具有与当前画面 的再现顺序相同的再现顺序并具有晚于当前画面的再现顺序的再现顺序的至 少一个重建画面以及具有与当前画面的再现顺序相同的再现顺序并具有大于 当前画面的VID的VID的至少一个重建画面；通过使用确定的至少一个参考 列表确定用于当前画面的当前块的至少一个参考画面和参考块；通过使用参 考块执行从用于当前块的运动补偿和视差补偿中选择的至少一种补偿。

确定参考画面集的步骤可包括：在先于当前画面被重建的相同视点重建 画面之中确定包括具有与当前画面的再现顺序不同的再现顺序的至少一个非 参考重建画面的参考画面集；在先于当前画面被重建的不同视点重建画面之 中确定包括具有与当前画面的再现顺序相同的再现顺序的至少一个非参考重 建画面的参考画面集。

根据本发明的另一方面，提供了一种对多视点视频进行编码的预测编码 设备，所述预测编码设备包括：参考画面集确定器，用于在先于当前画面被 重建的相同视点重建画面之中确定包括具有与当前画面的再现顺序不同的再 现顺序的至少一个短期重建画面的参考画面集以及包括至少一个长期重建画 面的参考画面集，在先于当前画面被重建的不同视点重建画面之中确定包括 具有与当前画面的再现顺序相同的再现顺序的至少一个短期重建画面的参考 画面集；参考列表确定器，用于在第一参考列表与第二参考列表之间确定至 少一个参考列表，其中，第一参考列表包括确定的多个参考画面集之中的具 有早于当前画面的再现顺序的再现顺序的至少一个重建画面以及具有与当前 画面的再现顺序相同的再现顺序并具有小于当前画面的VID的VID的至少一 个重建画面，第二参考列表包括具有与当前画面的再现顺序相同的再现顺序 并具有晚于当前画面的再现顺序的再现顺序的至少一个重建画面以及具有与 当前画面的再现顺序相同的再现顺序并具有大于当前画面的VID的VID的至 少一个重建画面；预测器，用于通过使用确定的至少一个参考列表确定用于 当前画面的当前块的至少一个参考画面和参考块，并且通过使用参考块执行 从用于当前块的帧间预测和视点间预测中选择的至少一种预测。

根据本发明的另一方面，提供了一种对多视点视频进行解码的预测解码 设备，所述预测解码设备包括：参考画面集确定器，用于在先于当前画面被 重建的相同视点重建画面之中确定包括具有与当前画面的再现顺序不同的再 现顺序的至少一个短期重建画面的参考画面集以及包括至少一个长期重建画 面的参考画面集，在先于当前画面被重建的不同视点重建画面之中确定包括 具有与当前画面的再现顺序相同的再现顺序的至少一个短期重建画面的参考 画面集；参考列表确定器，用于在第一参考列表与第二参考列表之间确定至 少一个参考列表，其中，第一参考列表包括确定的多个参考画面集之中的具 有早于当前画面的再现顺序的再现顺序的至少一个重建画面以及具有与当前 画面的再现顺序相同的再现顺序并具有小于当前画面的VID的VID的至少一 个重建画面，第二参考列表包括具有与当前画面的再现顺序相同的再现顺序 并具有晚于当前画面的再现顺序的再现顺序的至少一个重建画面以及具有与 当前画面的再现顺序相同的再现顺序并具有大于当前画面的VID的VID的至 少一个重建画面；补偿器，用于通过使用确定的至少一个参考列表确定用于 当前画面的当前块的至少一个参考画面和参考块，并且通过使用参考块执行 从用于当前块的运动补偿和视差补偿中选择的至少一种补偿。

根据实施例的另一方面，提供了一种计算机可读记录介质，在所述计算 机可读记录介质上记录用于执行预测编码方法的程序。根据本发明的另一方 面，提供了一种计算机可读记录介质，在所述计算机可读记录介质上记录用 于执行预测解码方法的程序。

具体实施方式

以下，将参照图1A至图11描述根据实施例的多视点视频预测编码设备、 多视点视频预测编码方法、多视点视频预测解码设备和多视点视频预测解码 方法。还将参照图12和图13描述包括多视点视频预测编码设备的多视点视 频编码设备和包括多视点视频预测解码设备的多视点视频解码设备。还将参 照图14至图26描述基于具有树结构的编码单元的多视点视频编码设备、多 视点视频解码设备、多视点视频编码方法和多视点视频解码方法。最后，将 参照图27至图33描述根据实施例的多视点视频编码方法、多视点视频解码 方法、视频编码方法和视频解码方法可应用到的各种实施例。以下，“图像” 可以指视频的静止图像或运动图像，或者可以指的是视频本身。

将参照图1A至图11描述根据实施例的多视点视频预测编码设备、多视 点视频预测编码方法、多视点视频预测解码设备和多视点视频预测解码方法。

图1A是根据实施例的多视点视频预测编码设备10的框图.

根据实施例的多视点视频预测编码设备10包括参考画面集确定器12、 参考列表确定器14和预测器16。

根据实施例的多视点视频预测编码设备10对基本视点图像和附加视点 图像进行编码。例如，中心视点图像、左视点图像和右视点图像被编码，其 中，中心视点图像可被编码为基本视点图像，左视点图像可被编码为第一附 加视点图像，右视点图像可被编码为第二附加视点图像。根据视点，通过对 图像进行编码而产生的数据可作为单独的比特流被输出。

当附加视点的数量为至少三个时，基本视点图像、第一附加视点的第一 附加视点图像、第二附加视点的第二附加视点图像、…….、第K附加视点的 第K附加视点图像可被编码。因此，基本视点图像的编码结果可作为基本视 点比特流输出，第一附加视点图像、第二附加视点图像、……、和第K附加 视点图像的编码结果可分别作为第一附加视点比特流、第二附加视点比特 流、……、和第K附加视点比特流输出。

例如，多视点视频预测编码设备10可对基本视点图像进行编码以输出包 括编码符号和样点(sample)的基本层流。多视点视频预测编码设备10还可通 过参照通过对基本视点图像进行编码而产生的编码符号和样点，对附加视点 图像进行编码以输出附加层比特流。

根据实施例的多视点视频预测编码设备10根据视频的每个图像的块来 执行编码。块可具有正方形形状、矩形形状或任何几何形状，并且不限于具 有预定尺寸的数据单元。根据实施例的块可以是根据树结构的编码单元之中 的最大编码单元、编码单元、预测单元或变换单元。稍后将参照图14至图 26来描述基于根据树结构的编码单元的视频编码和解码方法。

根据实施例的多视点视频预测编码设备10可执行交叉参考相同视点图 像的帧间预测。通过执行帧间预测，可产生指示用于当前画面的参考画面的 参考索引、指示当前画面和参考画面之间的运动信息的运动矢量以及作为当 前画面和参考画面之间差分量的残差数据。

另外，根据实施例的多视点视频预测编码设备10可执行通过参照不同的 视点图像预测当前视点图像的多视点预测。通过执行视点间预测，可产生指 示当前视点的当前画面的参考画面的参考索引、当前画面和不同视点的参考 画面之间的视差以及作为当前画面和不同视点参考画面之间的差分量的残差 数据。

根据实施例的多视点视频预测编码设备10可对当前视点的图像执行从 相同视点图像之间的帧间预测以及不同视点图像之间的视点间预测中选择的 一个操作。可基于编码单元、预测单元或变换单元的数据单元来执行帧间预 测和视点间预测。

下文中，为了便于说明，将针对对于一个视点的图像的预测来描述根据 实施例的多视点视频预测编码设备10的操作。然而，多视点视频预测编码设 备10的操作不仅可对一个视点的图像执行，还可应用到不同视点图像。

对于其它相同视点图像的预测可被参考的重建画面可根据视点被存储在 解码画面缓冲器(DPB)中。然而，存储在DPB中的用于当前画面的重建画面 可被部分或全部用于确定用于当前画面的帧间预测和/或视点间预测的参考 列表。

根据实施例的多视点视频预测编码设备10可参考相同视点图像之中的 先于当前画面被重建的图像，以对当前图像执行帧间预测。指示再现顺序的 号码(即，画面顺序计数(POC))可分配给每个图像。尽管低于当前图像的POC 的POC分配给一个图像，但是如果该图像先于当前画面被重建，则可通过参 照该重建的画面来对当前画面执行帧间预测。

根据实施例的多视点视频预测编码设备10可通过执行帧间预测产生指 示与不同图像相应的块之间的位置差的运动矢量。

根据实施例的多视点视频预测编码设备10可参考相同再现顺序的不同 视点图像之中的先于当前画面被重建的图像，以便对当前图像执行视点间预 测。用于交叉识别的视点识别符(VID)可分配给每个视点。例如，向左离当前 视点越远，则VID越小，而向右离当前视点越远，则VID越大。可通过参照 具有与当前视点的当前画面的再现顺序相同的再现顺序的不同视点图像之中 的先前重建画面，对当前画面执行视点间预测。

根据实施例的多视点视频预测编码设备10通过视点间预测来产生多个 视点图像之间的视差信息。根据实施例的多视点视频预测编码设备10可产生 深度图，深度图指示作为与相同场景(即相同再现顺序)相应的不同视点图像的 视差信息的视点间视差矢量或视点间深度。

图1B是根据实施例的多视点视频预测编码方法的流程图。参照图1B， 下面现在将描述根据实施例的多视点视频预测编码设备10的元件的操作。

在操作11，根据实施例的参考画面集确定器12可确定参考画面集，其 中，参考画面集是存储在DPB中先于当前画面被重建的多个重建画面之中的 当前画面可参考的重建画面的集合，重建画面的集合可以是候选图像。

根据实施例的参考画面集可根据存储在DPB中的重建画面的状态包括 三个子集，这三个子集包括作为用于帧间预测的参考对象的相同视点的重建 画面。第一子集可以是包括至少一个重建画面的短期参考画面集，其中，所 述至少一个重建画面可以是存储在DPB中的相同视点重建画面之中的短期参 考画面。第二子集可以是包括至少一个相同视点重建画面的长期参考画面集， 其中，所述至少一个相同视点重建画面可以是长期参考画面集。第三子集可 以是包括没有被用作参考画面的相同视点重建画面的未使用参考画面集。

根据实施例的用于帧间预测的短期参考画面集可包括具有早于当前画面 的再现顺序的再现顺序的在前重建画面以及具有晚于当前画面的再现顺序的 再现顺序的在后重建画面。因此，短期参考画面集可被分为包括可被参考的 在前重建画面的子集、包括可不被参考的在前重建画面的子集、包括可被参 考的在后重建画面的子集以及包括可不被参考的在后重建画面的子集。

用于当前图像的帧间预测参考画面需要是先于当前图像被解码的图像。 根据实施例的用于帧间预测的参考画面可被分类为短期参考画面和长期参考 画面。DPB存储通过对先前图像执行运动补偿而产生的重建画面。先前产生 的重建画面可被用作用于不同图像的帧间预测的参考画面。因此，在存储在 DPB中的重建图像之中可选择用于当前图像的帧间预测的至少一个短期参考 画面或至少一个长期参考画面。短期参考画面可以是根据短期参考画面和当 前画面的解码顺序正好在之前或最近解码的图像，而长期参考画面可以是在 当前画面很久以前被解码并且在被选择作为用于其他图像的帧间预测的参考 画面之后被存储在DPB中的图像。

在存储在DPB中的重建画面之中，短期参考画面和长期参考画面可在被 彼此分类之后被选择。长期参考画面是可对于多个图像的帧间预测而被参考 并且因此可被长期存储在DPB中的图像。

通过对当前画面和下一图像执行帧间预测对于每个图像所必需的短期参 考画面可被更新，因此短期参考画面可在DPB中被更新。因此，当新的短期 参考画面被存储在DPB中时，可从最长期存储的图像中顺序地删除先前存储 的短期参考画面。

作为根据实施例的指示长期参考画面的长期参考索引，长期参考画面的 画面顺序计数(POC)信息的最低有效位(LSB)信息可被确定。根据实施例，长 期参考画面的POC信息可被分成最高有效位(MSB)信息和LSB信息。仅LSB 信息可被用作指示长期参考画面的长期参考索引。

根据实施例的参考画面集可根据存储在DPB中的重建画面的状态包括 短期参考画面集，该短期参考画面集包括作为用于视点间预测的参考对象的 不同视点重建画面。根据实施例的用于不同视点间预测的短期参考画面集可 包括在存储在DPB中的不同视点重建画面之中的分配有与当前画面的再现顺 序相同的再现顺序的重建画面。

根据实施例的多视点视频预测编码设备10可对当前画面执行视点间预 测和帧间预测。根据实施例的DPB可存储也具有与当前画面的再现顺序相同 的再现顺序的不同视点重建画面。

因此，在存储在DPB中具有与当前画面的再现顺序相同的再现顺序并且 具有与当前画面的视点不同的视点的重建画面之中，用于视点间预测的短期 参考画面可包括具有小于当前画面的视点号码的视点号码的负(-)视点重建画 面以及具有大于当前画面的VID的VID的正(+)视点重建画面。因此，短期 参考画面集可被分为包括可被参考的负(-)视点重建画面的子集和包括可被参 考的正(+)视点重建画面的子集。

根据实施例的参考画面集确定器12可在包括先于当前画面被重建的相 同视点重建画面之中，确定包括具有与存储在DPB中的当前画面的再现顺序 不同的再现顺序的至少一个短期重建画面的参考画面集以及包括至少一个长 期重建画面的参考画面集。根据实施例的参考画面集确定器12可在先于当前 画面被重建的不同视点重建画面之中，确定包括具有与存储在DPB中的当前 画面的再现顺序相同的再现顺序的至少一个短期重建画面。

根据实施例的参考画面集确定器12可在根据实施例的先于当前画面被 重建的相同视点重建画面之中，确定包括具有与存储在DPB中的当前画面的 再现顺序不同的再现顺序的至少一个非参考重建画面的参考画面集。

根据实施例的参考画面集确定器12还可在先于当前画面被重建的不同 视点重建画面之中，确定包括具有与当前画面的再现顺序相同的再现顺序的 至少一个不同视点非参考重建画面的参考画面集。

根据实施例的参考画面集确定器12可确定在当前条带中是否使用对于 当前画面确定的参考画面集之一。

如果确定使用对于当前画面确定的参考画面集之一，则根据实施例的参 考画面集确定器12可从参考画面集中选择索引。

如果确定不使用对于当前画面确定的参考画面集之一，则根据实施例的 参考画面集确定器12可直接确定用于当前条带的参考画面集。

作为用于帧间预测的参考画面集，具有小于当前视点的VID的VID的画 面的第一数量以及具有大于当前视点的VID的VID的画面的第二数量可被确 定，具有小于当前视点的VID的VID的画面的VID之间的差值以及具有大 于当前视点的VID的VID的画面的VID之间的差值可被确定。

在操作13，根据实施例的参考画面确定器14可确定记录可被用作参考 画面的候选图像的参考列表，以便确定用于从当前画面的帧间预测和视点间 预测中选择的至少一种预测的参考画面。用于当前画面的参考列表可记录关 于在存储在DPB中的重建画面之中当前画面参考的参考画面的顺序的信息。

根据实施例的参考画面确定器14可根据画面模式来产生一个参考列表 或两个参考列表。当当前画面是能够前向预测的P条带类型图像或能够双预 测的B条带类型图像时，参考列表确定器14可产生L0列表作为第一参考列 表。

在操作13，根据实施例的参考画面确定器14可在当前画面的相同视点 图像之中确定L0列表，L0列表包括具有早于当前画面的再现顺序的再现顺 序的至少一个重建画面以及具有与当前画面的再现顺序相同的再现顺序并且 VID小于当前画面的VID的至少一个重建画面。

根据实施例的参考画面确定器14可通过使用参考画面集的重建画面以 这样的顺序来产生L0列表：相同视点短期参考画面集之中的包括可被参考的 在前重建画面的子集和包括可被参考的在后重建画面的子集、不同视点短期 参考画面集之中的包括可被参考的负(-)视点重建画面的子集和包括正(+)视 点重建画面的子集、长期参考画面集。

在操作13，当当前画面是B条带类型图像时，根据实施例的参考画面确 定器14还可产生L1列表作为第二参考列表。根据实施例的参考画面确定器 14可确定L1列表，L1列表包括具有晚于当前画面的再现顺序的再现顺序的 至少一个重建画面以及具有与当前画面的再现顺序相同的再现顺序并且具有 大于当前画面的VID的VID的至少一个重建画面。

根据实施例的参考画面确定器14可通过使用参考画面集的重建画面以 这样的顺序来产生L0列表：相同视点短期参考画面集之中的包括可被参考的 在后重建画面的子集和包括可被参考的在前重建画面的子集、不同视点短期 参考画面集之中的包括可被参考的正(+)视点重建画面的子集和包括负(-)视 点重建画面的子集、长期参考画面集。

然而，在相同视点的图像之中，L0列表可优选地包括具有早于当前画面 的再现顺序的再现顺序的重建画面，而可不包括具有晚于当前画面的再现顺 序的再现顺序的重建画面。同样，在具有相同再现顺序的不同视点图像之中， L0列表可优先地包括具有小于当前画面的VID的VID的重建画面并且可包 括具有大于当前画面的VID的VID的重建画面。

类似地，在相同视点的图像之中，L2列表可优选地包括具有晚于当前画 面的再现顺序的再现顺序的重建画面，而可不包括具有早于当前画面的再现 顺序的再现顺序的重建画面。同样，在具有相同再现顺序的不同视点图像之 中，L2列表可优先地包括具有大于当前画面的VID的VID的重建画面并且 可包括具有小于当前画面的VID的VID的重建画面。

因此，根据实施例的参考画面确定器14可将从L0列表和L1列表中选 择的至少一个列表确定为用于从当前画面的帧间预测和视点间预测中选择的 一个的参考列表。

在操作15，根据实施例的预测器16可通过使用由参考列表确定器14确 定的至少一个参考列表来确定用于当前画面的当前块的至少一个参考画面和 参考块。在操作17，根据实施例的预测器16可通过使用在操作15中确定的 参考块来执行从用于当前画面的帧间预测和视点间预测中选择的至少一种预 测。

根据实施例的参考列表确定器14可确定在当前画面中是否选择性地修 改确定的至少一个参考列表的参考索引的参考顺序。

当能够在当前画面中选择性地修改参考顺序时，参考列表确定器14可修 改用于属于当前画面的当前条带的至少一个参考列表的参考索引的参考顺 序。

根据实施例的参考列表确定器14可针对当前画面在第一参考列表之中 确定具有早于当前画面的再现顺序的再现顺序的至少一个重建画面的第一基 本数量以及具有小于当前画面的VID的VID的至少一个重建画面的第二基本 数量。根据实施例的参考列表确定器14可针对当前画面在第二参考列表之中 确定晚于当前画面的再现顺序的再现顺序的至少一个重建画面的第三基本数 量以及具有大于当前画面的VID的VID的至少一个重建画面的第四基本数 量。

根据实施例的参考列表确定器14可确定是否单独地替换从针对当前画 面设置的第一参考列表的第一基本数量和第二基本数量以及第二参考画面的 第三基本数量和第四基本数量中选择的一个。

当属于每个参考列表的重建画面的基本数量能够被单独替换时，根据实 施例的参考列表确定器14可确定在当前条带中可独立应用的从第一参考列 表的重建画面的数量和第二参考列表的重建画面的数量中选择的至少一个。

也就是说，当属于每个参考画面的重建画面的基本数量能够在当前条带 中被独立地替换时，根据实施例的参考列表确定器14可将第一参考列表之中 的与当前画面的视点相同并且具有早于当前画面的再现顺序的再现顺序的相 同视点重建画面的数量替换为可独立应用于当前条带的第一有效数量(来代 替通常应用于当前画面的第一基本数量)。

同样，根据实施例的参考列表确定器14可将第一参考列表之中的与当前 画面的视点相同并且具有小于当前画面的VID的VID的至少一个相同视点重 建画面的数量替换为可独立应用于当前条带的第二有效数量(来代替通常应 用于当前画面的第二基本数量)。

同样，根据实施例的参考列表确定器14可将第二参考列表之中的与当前 画面的视点相同并且具有晚于当前画面的再现顺序的再现顺序的至少一个相 同视点重建画面的数量替换为可独立应用于当前条带的第三有效数量(来代 替通常应用于当前画面的第三基本数量)。

同样，根据实施例的参考列表确定器14可将第二参考列表之中的与当前 画面的视点相同并且具有大于当前画面的VID的VID的一个相同视点重建画 面的数量替换为可独立应用于当前条带的第四有效数量(来代替通常应用于 当前画面的第四基本数量)。

根据实施例的属于第一参考列表的参考索引的最大数量可以是第一参考 列表之中的具有早于当前画面的再现顺序的再现顺序的至少一个重建画面的 第一基本数量与具有小于当前画面的VID的VID的至少一个重建画面的第二 基本数量之和。

根据实施例的属于第二参考列表的参考索引的最大数量可以是第二参考 列表之中的跟随在当前画面之后的至少一个重建画面的第三基本数量与具有 大于当前画面的VID的VID的至少一个重建画面的第四基本数量之和。

根据实施例的预测器16可通过基于从由参考列表确定器14确定的L0 列表和L1列表中选择的至少一个列表来根据参考顺序将当前画面与存储在 DPB中的重建画面进行比较，确定用于当前画面的预测的参考画面。参考列 表确定器14可通过在参考画面内检测与当前块最类似的块来确定参考块。

根据实施例的预测器16可确定指示先前确定的参考画面的参考索引，并 确定作为当前块与参考块之间的位置差的运动矢量或视差矢量。对于每个像 素的当前块和参考块之间的差值可被确定为残差数据。

当根据实施例的预测器16执行帧间预测时，预测器16可在从第一参考 列表中的具有早于当前画面的再现顺序的至少一个重建画面以及第二参考列 表中的具有晚于当前画面的再现顺序的再现顺序的至少一个重建画面中选择 的至少一个重建画面中确定参考画面和参考块。通过对当前块执行帧间预测 确定的参考块和当前块之间的第一残差数据、指示参考块的第一运动矢量和 指示参考画面的第一参考索引可被产生作为帧间预测的结果数据。

当根据实施例的预测器16执行视点间预测时，预测器16可在从第一参 考列表中的具有小于当前画面的VID的VID的至少一个重建画面和第二参考 列表中的具有大于当前画面的VID的VID的至少一个重建画面中选择的至少 一个重建画面中确定参考画面和参考块。通过对当前块执行视点间预测确定 的参考块和当前块之间的第二残差数据、指示参考块的第二视差矢量和指示 参考画面的第二参考索引可被产生作为视点间预测的结果数据。

根据实施例的多视点视频预测编码设备10可包括用于总体控制参考列 表确定器14和预测器16的中央处理器(未显示)。可选择地，参考列表确定器 14和预测器16可通过它们的处理器(未显示)操作，这些处理器可相互有机地 操作，使得多视点视频预测编码设备10进行一般操作。可选择地，参考列表 确定器14和预测器16可被多视点视频预测编码设备10的外部处理器(未显 示)控制。

根据实施例的多视点视频预测编码设备10可包括用于存储参考列表确 定器14和预测器16的输入和输出数据的一个或更多个数据存储单元(未显 示)。多视点视频预测编码设备10可包括用于控制将数据输入到数据存储单 元/从数据存储单元输出数据的存储器控制器(未显示)。

现在将参照图2A和图2B描述用于重建根据以上参照图1A和图1B描 述的实施例被预测编码的多视点视频比特流的多视点视频解码设备和多视点 视频解码方法。

图2A是根据实施例的多视点视频预测解码设备20的框图，图2B是根 据实施例的多视点视频预测解码方法的框图的流程图。

根据实施例的多视点视频预测解码设备20包括参考列表确定器24和比 较器26。

根据实施例的多视点视频预测解码设备20可接收从每个视点的图像编 码的比特流。可与记录有基本视点图像的编码数据的比特流分离地接收记录 有附加视点图像的编码数据的比特流。

例如，多视点视频预测解码设备20可通过对基本层比特流解码来重建基 本视点图像。多视点视频预测解码设备20也可选择性地对附加层比特流进行 解码。可通过参照从基本层比特流重建的编码符号和样点对附加层比特流进 行解码来重建附加视点图像。对附加层比特流进行选择性地解码，从而仅从 多视点视频重建期望的视点视频。

例如，根据实施例的多视点视频预测解码设备20可对基本视点比特流进 行解码来重建中心视点图像，对第一附加视点比特流进行解码来重建左视点 图像，对第二附加视点比特流解码来重建右视点图像。

当附加视点的数量是至少三个时，可从第一附加视点比特流重建第一附 加视点的第一附加视点图像，可从第二附加视点比特流重建第二附加视点的 第二附加视点图像，并可从第K附加视点比特流重建第K附加视点的第K附 加视点图像。

根据实施例的多视点视频预测解码设备20根据视频的每个对象的块执 行解码。根据实施例的块可以是具有树结构的编码单元之中的最大编码单元、 编码单元、预测单元或变换单元。

根据实施例的多视点视频预测解码设备20可接收经由帧间预测产生的 运动矢量以及经由视点间预测产生的视差信息、连同包括根据视点的图像的 编码数据的比特流。

根据实施例的多视点视频预测解码设备20可通过执行相互参考经由相 同视点帧间预测而预测的图像的运动补偿来重建图像。运动补偿是将通过使 用当前图像的运动矢量确定的参考画面与当前图像的残差数据合成并且重新 配置当前图像的重建图像的操作。

根据实施例的多视点视频预测解码设备20可通过参考不同视点图像执 行视差补偿，以便重建经由视点间预测而预测的附加视点图像。视差补偿是 将通过使用当前图像的视差信息确定的不同视点参考图像与当前图像的残差 数据合成并且重建当前图像的重建图像的操作。根据实施例的多视点视频预 测解码设备20可执行视差补偿以重建通过参考不同视点图像预测的当前视 点图像。

可基于编码单元或预测单元，通过帧间运动补偿和视点间视差补偿来执 行重建。

根据实施例的补偿器26可经由参考从不同视点比特流重建的不同视点 图像的视点间预测以及参考相同视点图像的帧间预测来重建当前识别图像， 以便根据视点对比特流解码。

根据实施例的补偿器26可经由参考不同视点重建画面之中再现顺序与 当前画面的再现顺序相同的重建画面的视点间视差补偿来重建当前视点图 像。根据情况，可经由参考两个或更多个不同视点图像的视点间视差补偿来 重建当前视点图像。参考列表确定器24可确定参考列表，从而补偿器26可 确定用于当前画面的运动补偿或视差补偿的精确参考画面。

下文中，现在将参照图2B来描述确定用于帧间预测和视点间预测的参 考列表并且通过使用参考列表最终执行从帧间预测和视点间预测中选择的至 少一个的方法。

在操作21，根据实施例的参考画面集确定器22可确定参考画面集，其 中，参考画面集是当前画面可参考的、先于存储在DPB中的当前画面被重建 的重建画面之中的重建画面的集合，重建画面的集合可以是候选图像。

根据实施例的多视点视频预测编码设备10可对当前画面执行视点间预 测和帧间预测。根据实施例的DPB可存储具有与当前画面的再现顺序相同的 再现顺序的不同视点重建画面。

根据实施例的参考画面集可包括用于帧间预测的短期参考画面集。根据 实施例的用于帧间预测的短期参考画面集可包括存储在DPB中的相同视点重 建画面之中的分配有与当前画面的再现顺序不同的再现顺序的重建画面。

因此，用于帧间预测的短期参考画面集可包括具有与存储在DPB中的当 前画面的视点相同的视点并且具有与当前画面的再现顺序不同的再现顺序的 重建画面之中的这样的在前重建画面和在后重建画面，其中，所述在前重建 画面具有早于当前画面的再现顺序的再现顺序，所述在后重建画面具有晚于 当前画面的再现顺序的再现顺序。因此，短期参考画面集可分为包括可被参 考的在前重建画面的子集、包括可不被参考的在前重建画面的子集、包括可 被参考的在后重建画面的子集以及包括可不被参考的在后重建画面的子集。

根据实施例的参考画面集可包括用于视点间预测的短期参考画面集。根 据实施例的用于视点间预测的短期参考画面集可包括存储在DPB中的不同视 点重建画面之中的分配有与当前画面的再现顺序相同的再现顺序的重建画 面。

因此，用于视点间预测的短期参考画面集可包括具有与存储在DPB中的 当前画面的再现顺序相同的再现顺序的不同视点重建画面之中的这样的负(-) 视点重建画面和正(+)视点重建画面，其中，所述所述负(-)视点重建画面具有 小于当前画面的VID的VID，所述正(+)视点重建画面具有大于当前画面的 VID的VID的正(+)视点重建画面。因此，短期参考画面集可被分为包括可被 参考的负(-)视点重建画面的子集以及包括可被参考的正(+)视点重建画面的 子集。

根据实施例的参考画面集确定器22可在先于存储在DPB中的当前画面 被重建的相同视点重建画面之中确定包括具有与当前画面的再现顺序不同的 再现顺序的至少一个短期重建画面的参考画面集以及包括至少一个长期重建 画面的参考画面集。根据实施例的参考画面集确定器22可在先于存储在DPB 中的当前画面重建的不同视点重建画面之中确定包括具有与当前画面的再现 顺序相同的再现顺序的至少一个短期重建画面的参考画面集。

根据实施例的参考画面集确定器22可在根据实施例的先于当前画面重 建的相同视点重建画面之中确定包括具有与当前画面的再现顺序不同的再现 顺序的至少一个非参考重建画面的参考画面集。

根据实施例的参考画面集确定器22可还包括先于当前画面重建的不同 视点重建画面之中的这样的参考画面集，其中，所述参考画面集包括具有与 当前画面的再现顺序相同的再现顺序的至少一个非参考不同视点重建画面。

根据实施例的参考画面集确定器22可确定在当前条带中是否使用对于 当前画面确定的参考画面集之一。

如果使用对于当前画面确定的参考画面集之一，则根据实施例的参考画 面集确定器22可从参考画面集中选择索引。

如果不使用对于当前画面确定的参考画面集之一，则根据实施例的参考 画面集确定器22可直接确定用于当前条带的参考画面集。

作为用于视点间预测的参考画面集，具有小于当前视点的VID的VID 的画面的第一数量以及具有大于当前视点的VID的VID的画面的第二数量可 被确定，具有小于当前视点的VID的VID的画面的VID之间的差值以及具 有大于当前视点的VID的VID的画面的VID之间的差值可被确定。

在操作S23，根据实施例的参考列表确定器24可确定用于前向预测和双 预测的L0列表和用于双预测的L1列表。

根据实施例的参考列表确定器24可在当前画面的相同视点图像之中确 定包括具有早于当前画面的再现顺序的再现顺序的至少一个重建画面以及具 有与当前画面的再现顺序相同的再现顺序并且具有小于当前画面的VID的 VID的至少一个重建画面的第一参考列表，即L0列表。

根据实施例的参考列表确定器24可确定包括具有晚于当前画面的再现 顺序的再现顺序的至少一个重建画面以及具有与当前画面的再现顺序相同的 再现顺序并且具有大于当前画面的VID的VID的至少一个重建画面的第二参 考列表，即L1列表。

然而，在相同视点图像之中，当L0列表优选地包括具有早于当前画面 的再现顺序的再现顺序的重建画面并且有效参考索引有剩余时，L0列表可包 括具有晚于当前画面的再现顺序的重建画面。同样，在具有相同再现顺序的 不同视点图像之中，当L0列表优选地包括具有小于当前画面的VID的VID 的重建画面并且有效参考索引有剩余时，L0列表可包括具有大于当前画面的 VID的VID的重建画面。

类似地，在相同视点图像之中，当L1列表优选地包括具有晚于当前画 面的再现顺序的再现顺序的重建画面并且有效参考索引有剩余时，L1列表可 包括具有早于当前画面的再现顺序的再现顺序的重建画面。同样，在具有相 同再现顺序的不同视点图像之中，当L1列表优选地包括具有大于当前画面的 VID的VID的重建画面并且有效参考索引有剩余时，L1列表可包括具有小于 当前画面的VID的VID的重建画面。

多视点视频预测设备20可将重建画面存储在DPB中。参考列表上记录 有关于存储在DPB中的被参考用于当前画面的运动补偿或视差补偿的重建画 面的顺序的信息。

在操作25，根据实施例的补偿器26可通过使用由参考列表确定器24确 定的至少一个参考列表来确定用于当前画面的当前块的至少一个参考画面和 参考块。

在操作27，根据实施例的补偿器26可针对当前比特流执行从参考具有 相同再现顺序的不同视点重建画面的视差补偿和参考相同视点重建画面的运 动补偿中选择的至少一种，以重建当前画面的当前块。

更详细地讲，根据实施例的多视点视频预测设备20可解析当前比特流以 获得用于视点间预测的参考索引、视差信息和残差数据。根据实施例的补偿 器26可通过使用参考索引来确定不同视点图像之中的参考画面，并且通过使 用视差信息来确定参考画面的参考块。参考块被补偿残差数据，从而重建当 前画面。

根据实施例的补偿器26可执行参考相同视点重建画面的运动补偿，以重 建当前画面。

更加详细地讲，多视点视频预测设备20可解析比特流来获得用于当前画 面的运动补偿的参考索引、运动矢量和残差数据。补偿器26可通过使用参考 索引来确定相同视点重建画面之中的参考画面，通过使用运动矢量确定参考 画面内的参考块，并且用残差数据补偿参考块，从而重建当前画面。

根据实施例的参考列表确定器24可确定是否在当前画面中选择性地修 改至少一个参考列表的参考索引的参考顺序。基本上，由于参考列表的参考 索引指示与参考索引相应的重建画面的参考顺序，因此如果参考索引被修改， 则与参考索引相应的重建画面的参考顺序可被修改。

当根据实施例的在当前画面中选择性地修改参考列表的参考顺序时，根 据实施例的参考列表确定器24可修改用于属于当前画面的当前条带的至少 一个参考列表的参考索引的参考顺序。

根据实施例的参考列表确定器24也可针对当前画面确定第一参考列表 之中的具有先于当前画面的再现顺序的再现顺序的至少一个重建画面的第一 基本数量、第一参考列表之中的具有小于当前画面的VID的VID的至少一个 重建画面的第二基本数量、第二参考列表之中的晚于当前画面的再现顺序的 再现顺序的至少一个重建画面的第三基本数量、第二参考列表之中的具有大 于当前画面的VID的VID的至少一个重建画面的第四基本数量。

根据实施例的参考列表确定器24可在当前条带中单独地替换针对当前 画面设置的第一参考列表的第一基本数量和第二基本数量以及第二参考列表 的第三基本数量和第四基本数量中选择的至少一个。

也就是，如果在当前条带中单独地替换属于每个参考列表的重建画面的 基本数量，则根据实施例的参考列表确定器24可用仅应用于当前条带的第一 有效数量替换第一参考列表之中的具有与当前画面的视点相同视点并且再现 顺序在当前画面的再现顺序之前的重建画面的数量，来代替通常应用于当前 画面的第一基本数量。

同样，根据实施例的参考列表确定器24可用仅应用于当前条带的第二有 效数量替换第一参考列表之中的具有与当前画面的视点相同并且具有小于当 前画面的VID的VID的至少一个重建画面的数量，来代替通常应用于当前画 面的第二基本数量。

同样，根据实施例的参考列表确定器24可用仅应用于当前条带的第三有 效数量替换第二参考列表之中的具有与当前画面的视点相同的视点并且具有 晚于当前画面的再现顺序的再现顺序的至少一个重建画面的数量，来代替通 常应用于当前画面的第三基本数量。

同样，根据实施例的参考列表确定器24可用仅应用于当前条带的第四有 效数量替换第二参考列表之中的具有与当前画面的视点相同的视点并且具有 大于当前画面的VID的VID的至少一个重建画面的数量，来代替通常应用于 当前画面的第四基本数量。

根据实施例的属于第一参考列表的参考索引的最大数量可以是第一参考 列表之中的具有早于当前画面的再现顺序的再现顺序的至少一个重建画面的 第一基本数量与第一参考列表之中的具有小于当前画面的VID的VID的至少 一个重建画面的第二基本数量之和。

根据实施例的属于第二参考列表的参考索引的最大数量可以是第二参考 列表之中的具有晚于当前画面的再现顺序的再现顺序的至少一个重建画面的 第三基本数量与第二参考列表之中的具有大于当前画面的VID的VID的至少 一个重建画面的第四基本数量之和。

补偿器26可通过使用确定的参考列表执行从运动补偿和视差补偿中选 择的至少一种操作。根据实施例的参考列表可在其上记录用于帧间预测的重 建画面和用于视点间预测的重建画面的信息。因此，补偿器26可通过使用一 个参考列表执行从运动补偿和视差补偿中选择的至少一种操作。

根据实施例的多视点视频预测解码设备20可接收用于当前画面的当前 块的参考索引和残差数据，并且接收运动矢量或视差矢量。根据接收的参考 画面索引指示的是参考列表之中的相同视点重建画面还是不同视点的相同 POC图像，可确定接收的矢量是运动矢量还是视差矢量。

因此，根据实施例的补偿器26可确定参考列表之中的由参考索引指示的 参考画面，如果确定的参考画面是相同视点重建画面，则根据实施例的补偿 器26可确定重建画面之中的由运动矢量指示的参考块，并且针对参考块补偿 残差数据，从而重建当前块。

根据实施例的补偿器26可确定参考列表之中的由参考索引指示的参考 画面，如果确定的参考画面是不同视点的重建画面，则根据实施例的补偿器 26可确定重建画面之中的由运动矢量指示的参考块，并且针对参考块补偿残 差数据，从而重建当前块。

与如上所述的从当前视点比特流重建当前视点图像相同，可从第二视点 比特流重建第二视点图像。

根据实施例的多视点视频预测解码设备20可包括用于总体控制参考列 表确定器24和补偿器26的中央处理器(未显示)。可选择地，参考列表确定器 24和补偿器26可通过它们的处理器(未显示)操作，这些处理器可相互有机地 操作，使得多视点视频预测解码设备20进行一般操作。可选择地，参考列表 确定器24和补偿器26可被多视点视频预测解码设备20的外部处理器(未显 示)控制。

根据实施例的多视点视频预测解码设备20可包括用于存储参考列表确 定器24和补偿器26的输入和输出数据的一个或更多个数据存储单元(未显 示)。多视点视频预测解码设备20可包括用于控制将数据输入到数据存储单 元/从数据存储单元输出数据的存储器控制器(未显示)。

现在将参照图3、图4、图5A和图5B通过使用针对参考列表的用于帧 间预测的三个重建块和用于视点间预测的三个重建块的示例来详细地描述本 发明的操作。

图3示出根据实施例的用于当前画面31的帧间预测和视点间预测的参考 对象。

例如，四个视点的图像30被编码，并且用于具有视点号VID 5、再现顺 序号POC 18的当前画面31的帧间预测的参考列表被确定。假设当前画面31 可参考具有VID 5的图像之中的先于当前画面31被重建的三个图像32、33 和34来进行帧间预测。还假设当前画面31可参考具有POC 18的不同视点图 像之中的先于当前画面31被重建的三个图像35、36和37来进行视点间预测。

图4示出根据实施例的基于图3的参考对象配置的参考列表。

图3之后，可由当前画面31参考的用于预测的重建画面32、33、34、 35、36和37可被存储在用于当前画面31的DPB 40中。

在根据实施例的基本L0列表41中，优选参考顺序可被分配给用于帧间 预测之中的前向预测的重建画面，优先的参考顺序可被分配给更接近当前画 面31的重建画面。优先的参考顺序可被分配给用于帧间预测的重建画面而非 用于视点间预测的重建画面。优先的参考顺序可被分配给根据视点的用于视 点间预测的重建画面之中的具有小于当前视点的VID的VID的重建画面而非 具有大于当前视点的VID的VID的重建画面。

就像基本L0列表41，在根据实施例的基本L1列表45中，优先的参考 顺序可被分配给较接近当前画面31的重建画面。优先的参考顺序可被分配给 用于帧间预测的重建画面而非用于视点间预测的重建画面。然而，在基本L1 列表45中，优选参考顺序可被分配给用于帧间预测之中的后向预测的重建画 面。优先的参考顺序可被分配给根据视点的用于视点间预测的重建画面之中 的具有大于当前画面的VID的VID的重建画面，而非具有小于当前视点的 VID的重建画面。

为了描述方便，具有VID A和POC B的图像被命名为VID A/POC B图 像。

因此，属于基本L0列表41的重建画面按照参考顺序可以是相同视点 VID 5/POC 17画面32、VID 5/POC 16画面33、VID 5/POC 19画面34,、VID 3/POC 18画面35、VID 1/POC 18画面36和VID 7/POC 18画面37。

属于基本L1列表45的重建画面按照参考顺序可以是VID 5/POC 19画 面34、VID 5/POC 17画面32、VID 5/POC 16画面33、VID 7/POC 18画面 37、VID 3/POC 18画面35和VID 1/POC 18画面36。

图5A和图5B是用于解释根据实施例的改变L0列表的处理的示图。

在根据实施例的参考索引表50中，参考索引Idx 51通常是指示在参考 列表中的重建画面的基本顺序的号码。参考索引可基本上指示参考列表中的 参考顺序。因此，在参考索引的顺序中，与参考索引相应的重建画面可被参 考。

然而，可通过参考顺序的选择性修改来选择性地修改在当前条带中由参 考索引指示的参考顺序。在当前图像中，根据实施例的参考索引表50的修改 索引List_entry_l055可被定义为选择性地修改在基本L0列表41中设置的参 考索引。

在这点上，基本L0列表41的Idx 0、1、2、3、4和5顺序地指示VID 5/POC 17画面32、VID 5/POC 16画面33、VID 5/POC 19画面34、VID 3/POC 18 画面35、VID 1/POC 18画面36和VID 7/POC 18画面37。

也就是，由于参考顺序根据修改的索引List_entry_l055被修改为Idx 0、 3、1、2、4和5，因此属于修改的L0列表59的重建画面按照参考顺序可被 修改为VID 5/POC 17画面32、VID 3/POC 18画面35、VID 5/POC 16画面 33、VID 5/POC 19画面34、VID 1/POC 18画面36和VID 7/POC 18画面37。

因此，在基本L0列表41中，作为可被初始参考用于帧间预测的重建画 面的VID 5/POC 17画面32的下一参考顺序可以是用于帧间预测的VID 5/POC 16画面33，在用于帧间预测的所有相同视点重建画面被参考之后，用 于视点间预测的不同视点的重建画面可被参考。

然而，在根据实施例的修改的索引List_entry_l055的修改的L0列表59 中，可被初始参考用于帧间预测的跟随在相同的视点VID 5/POC 17画面32 之后的参考顺序可以是可被初始参考用于视点间预测的不同视点VID 5/POC 17画面32。

然而，尽管以上描述三个相同视点重建画面32、33和34以及三个不同 视点重建画面35、36和37属于用于当前画面的预测编码的一个L0列表41 的示例中，根据实施例的属于参考列表的重建画面的数量不应限于此。

图6A示出根据实施例的序列参数集65的语法。

根据实施例的多视点视频预测编码设备10可产生包括关于通常应用于 当前画面序列内的默认设置的信息的序列参数集65。具体的讲，关于用于视 点间预测的参考列表，关于可被用于属于当前序列的每个画面的参考画面集 可被包括在序列参数集65中。

根据实施例的序列参数集65包括参数“num_interview_ref_pic_sets”66， 参数“num_interview_ref_pic_sets”66指示属于当前序列的每个画面可允许的 参考画面集的数量。例如，如果“num_interview_ref_pic_sets”66被确定为从0 到64的数，则可针对每个画面设置与相应数一样多的参考画面的数量。

根据实施例的序列参数集65与作为用于定义每个参考画面集的详细参 数的参考画面集的参数集的“interview_ref_pic_set(i)”67相关。将参照图8A 更加详细地描述参考画面集的“interview_ref_pic_set(i)”67的参数集。图8A 示出作为根据实施例的用于视点间预测的参考画面集的参数集的 “interview_ref_pic_set(i)”67。

根据实施例的参考画面集“interview_ref_pic_set(i)”67的参数集可包括信 息“num_negative_interview_pics”93和信息“num_positive_interview_pics”94， 其中，信息“num_negative_interview_pics”93指示位于从当前画面的视点开始 VID更小的方向(负(-)视点方向)上的不同视点重建画面的数量，信息 “num_positive_interview_pics”94指示位于从当前画面的视点开始VID更大 的方向(正(+)视点方向)上的不同视点重建画面的数量。

根据实施例的参考画面集“interview_ref_pic_set(i)”67的参数集还可包括 “delta_view_idx_s0_minus1[i]”95和“delta_view_idx_s1_minus1[i]”96，其 中，“delta_view_idx_s0_minus1[i]”95指示：与位于负(-)视点方向上的每个 重建图像的当前视点的VID相比，相应视点的VID减小； “delta_view_idx_s1_minus1[i]”96指示：与位于正(+)视点方向上的每个重建 图像的当前视点的VID相比，相应视点的VID增大。

参照回图6A的序列参数集65，根据实施例的多视点视频预测解码设备 20可从序列参数集65解析“num_interview_ref_pic_sets”66，以读取可用于属 于当前序列的画面的参考画面集的数量。

根据实施例的多视点视频预测解码设备20可解析用于每个参考画面集 的“interview_ref_pic_set(i)”67，以从“num_negative_interview_pics”93读取位 于负(-)视点方向上的不同视点重建图像的数量，并从“num_positive_ interview_pics”94读取位于正(+)视点方向上的不同视点重建图像的数量。

根据实施例的多视点视频预测解码设备20可解析根据实施例的参考画 面集“interview_ref_pic_set(i)”67的参数集，以从“delta_view_idx _s0_minus1[i]”95读取位于负(-)视点方向上的每个重建图像的相应视点的 VID与当前视点的VID之间的差值，从而读取位于负(-)视点方向上的重建图 像的VID。

类似地，根据实施例的多视点视频预测解码设备20可解析根据实施例的 参考画面集“interview_ref_pic_set(i)”67的参数集，以从 “delta_view_idx_s1_minus1[i]”96读取位于正(+)视点方向上的每个重建图像 的相应视点的VID与当前视点的VID之间的差值，从而读取位于正(+)视点 方向上的重建图像的VID。

图6B示出根据实施例的画面参数集60的语法。

根据实施例的多视点视频预测编码设备10可产生包括关于可通常应用 于当前画面内的默认设置的信息的画面参数集60。具体地讲，关于参考列表， 关于属于L0列表和L1列表的重建画面的基本数量的信息可被包括在画面参 数集60中，其中，由每个预测块使用所述重建画面在当前画面内进行从帧间 预测和视点间预测中选择的至少一种。

例如，“num_ref_idx_l0_default_active_minus1”61指示L0列表中的具有 先于当前画面的再现顺序的再现顺序的相同视点有效重建画面的基本数量。 “num_interview_ref_idx_l0_default_active_minus1”62指示L0列表中的具有与 当前画面的再现顺序相同的再现顺序并且VID小于当前视点的VID的有效重 建画面的基本数量。“num_ref_idx_l1_default_active_minus1”63指示L1列表 中的具有晚于当前画面的再现顺序的再现顺序的相同视点有效重建画面的基 本数量。“num_interview_ref_idx_l1_default_active_minus1”64指示L1列表中 的具有与当前画面的再现顺序相同的再现顺序并且VID大于当前视点的VID 的有效重建画面的基本数量。

根据实施例的多视点视频预测解码设备20可从接收的比特流提取画面 参数集60。根据实施例的多视点视频预测解码设备20可从画面参数集60解 析“num_ref_idx_l0_default_active_minus1”61，以读取L0列表中的具有先于 当前画面的再现顺序的再现顺序的相同视点有效重建画面的基本数量。根据 实施例的多视点视频预测解码设备20可解析 “num_interview_ref_idx_l0_default_active_minus1”62，以读取L0列表中具有 与当前画面的再现顺序相同的再现顺序并且VID小于当前视点的VID的有效 重建画面的基本数量。根据实施例的多视点视频预测解码设备20可解析 “num_ref_idx_l1_default_active_minus1”63，以读取L1列表中的具有晚于当 前画面的再现顺序的再现顺序的相同视点有效重建画面的基本数量。根据实 施例的多视点视频预测解码设备20可解析 “num_interview_ref_idx_l1_default_active_minus1”64，以读取L1列表中的具 有与当前画面的再现顺序相同的再现顺序并且VID大于当前视点的VID的有 效重建画面的基本数量。

图7示出根据实施例的条带头70的语法。

根据实施例的多视点视频预测编码设备10可产生包括关于通常应用于 当前条带的设置的信息的条带头70。

根据实施例的条带头70可包括用于帧间预测的短期参考画面集的参数 90、用于视点间预测的参考画面集的参数91以及用于帧间预测的长期参考画 面集的参数92。

根据实施例的用于帧间预测的短期参考画面集的参数90可包括关于是 否使用在序列参数集65中确定的短期参考画面集的信息 “short_term_ref_pic_set_sps_flag”87。

如果在当前条带中不使用在序列参数集65中确定的短期参考画面集，则 参数90可包括参数集“short_term_ref_pic_set(num_short_term_ref_pic_sets)” 80，以定义用于当前条带的短期参考画面集。

同时，如果在当前条带中使用在序列参数集65中确定的短期参考画面 集，则参数90可包括将用于当前条带并且在序列参数集65中确定的短期参 考画面集的索引“short_term_ref_pic_set_idx”88。

用于视点间预测的参考画面集的参数91可包括信息 “interview_ref_pic_set_sps_flag”97，其中，“interview_ref_pic_set_sps_flag”97 指示是否使用在序列参数集65中确定的用于视点间预测的参考画面集。

如果在当前条带中不使用在序列参数集65中确定的用于视点间预测的 参考画面集，则参数91可包括参数集 “interview_ref_pic_set(num_interview_ref_pic_sets)”67，以定义用于当前条带 的视点间预测的参考画面集。

如果在当前条带中使用在序列参数集65中确定的用于视点间预测的参 考画面集，则参数91可包括将用于当前条带并且在序列参数集65中确定的 用于视点间预测的参考画面集的索引“interview_ref_pic_set_idx”98。

用于帧间预测的长期参考画面集的参数92可包括长期参考画面的数量 “num_long_term_pics”89以及关于长期参考画面的POC的信息。

关于参考列表，在当前条带中选择性地修改的信息(而非当前画面的基本 设置)可被包括在条带头70中。

当当前条带是前向预测模式的P条带类型或双预测模式的B条带类型 时，条带头70可包括“num_ref_idx_active_override_flag”71。 “num_ref_idx_active_override_flag”71指示是否在当前条带中用另一值来替换 从在当前画面参数集60中确定的“num_ref_idx_l0_default_active_minus1”61, “num_interview_ref_idx_l0_default_active_minus1”62、 “num_ref_idx_l1_default_active_minus1”63和 “num_interview_ref_idx_l1_default_active_minus1”64的重建画面的基本数量 中选择的至少一个。

如果通过使用“num_ref_idx_active_override_flag”71可在当前条带中用 其他值来替换重建画面的基本数量，则“num_ref_idx_active_override_flag”72 可被包括在条带头70中，其中，“num_ref_idx_active_override_flag”72指示 L0列表中的用于帧间预测的有效重建画面的数量。如果针对当前nal单元允 许3D视频的编码和解码，则“num_interview_ref_idx_l0_active_minus1”73可 被包括在条带头70中，其中，“num_interview_ref_idx_l0_active_minus1”73 指示L0列表中的用于视点间预测的有效重建画面的数量。

如果通过使用“num_ref_idx_active_override_flag”71可在当前条带中用 其他值来替换重建画面的基本数量并且当前条带是B条带类型，则 “num_ref_idx_l1_active_minus1”74可被包括在条带头70中，其中， “num_ref_idx_l1_active_minus1”74指示L1列表中的用于帧间预测的有效重 建画面的数量。如果针对当前nal单元允许3D视频的编码和解码，则 “num_interview_ref_idx_l1_active_minus1”75可被包括在条带头70中，其中， “num_interview_ref_idx_l1_active_minus1”75指示L1列表中的用于视点间预 测的有效重建画面的数量。

根据实施例的多视点视频预测解码设备20可从接收的比特流提取条带 头70。当当前条带是前向预测模式的P条带类型或双预测模式的B条带类型 时，多视点视频预测解码设备20可从条带头70解析 “num_ref_idx_active_override_flag”71，以读取是否用另一值替换当前画面中 的参考列表集的重建画面的基本数量。

根据实施例的多视点视频预测解码设备20可解析根据实施例的条带头 70的短期参考画面集的参数90，以从“short_term_ref_pic_set_sps_flag”87读 取是否使用在短期参考画面集(在序列参数集65中确定)中确定的短期参考画 面集。

如果在当前条带中不使用在序列参数集65中确定的短期参考画面集，则 可从“short_term_ref_pic_set(num_short_term_ref_pic_sets)”80提取用于定义用 于当前条带的短期参考画面集的参数。

同时，如果在当前条带中使用在序列参数集65中确定的短期参考画面 集，则可从“short_term_ref_pic_set_idx”88读取将在当前条带使用的在参考参 数集65中确定的短期参考画面集的索引。

根据实施例的多视点视频预测解码设备20可解析根据实施例的用于条 带头70的视点间预测的参考画面集的参数91，以从 “interview_ref_pic_set_sps_flag”97读取是否使用在序列参数集65中确定的用 于视点间预测的参考画面集。

如果在当前条带中不使用在序列参数集65中确定的短期参考画面集，则 可从“short_term_ref_pic_set(num_short_term_ref_pic_sets)”80提取用于定义用 于当前条带的视点间预测的参考画面集的参数集。

同时，如果在当前条带中使用在序列参数集65中确定的短期参考画面 集，则可从“interview_ref_pic_set_idx”98读取将在当前条带中使用的在序列 参数集65中确定的用于视点间预测的参考画面集的索引。

根据实施例的长期参考画面集的参数92可读取长期参考画面的数量 “num_long_term_pics”89以及关于长期参考画面的POC的信息。

如果用另一值来替换参考列表集的重建画面的基本数量，则多视点视频 预测解码设备20可从条带头70解析“num_ref_idx_active_override_flag”72， 以读取L0列表中的用于帧间预测的有效重建画面的数量。如果针对当前nal 单元允许3D视频的编码和解码，则多视点视频预测解码设备20可从条带头 70解析“num_interview_ref_idx_l0_active_minus1”73，以读取L0列表中的用 于视点间预测的有效重建画面的数量。

如果通过使用“num_ref_idx_active_override_flag”71在当前条带中用其 他值来替换重建画面的基本数量并且当前条带是B条带类型，则多视点视频 预测解码设备20可从条带头70解析“num_ref_idx_l1_active_minus1”74，以 读取L1列表中的用于帧间预测的有效重建画面的数量。如果针对当前nal单 元允许3D视频的编码和解码，则多视点视频预测解码设备20可从条带头70 解析“num_interview_ref_idx_l1_active_minus1”75，以读取L1列表中的用于 视点间预测的有效重建画面的数量。

多视点视频预测编码设备10和多视点视频预测解码设备20可确定76 在当前条带中是否修改在参考列表中先前确定的参考顺序。如果可在当前条 带中修改参考列表的参考顺序并且针对当前nal单元允许3D视频的编码和解 码，则参考列表修改参数集77可被调用。

图8B示出根据实施例的用于改变参考列表的参数的语法。

当当前条带是前向预测模式的P条带类型或双预测模式的B条带类型 时，根据实施例的参考列表修改参数集77可包括 “ref_pic_list_modification_flag_l0”81,其中，该信息指示是否选择性地修改属 于L0参考列表的重建画面的参考顺序。

当在当前条带中选择性地修改参考顺序时，用于当前条带的前向预测或 双预测的L0列表的参考索引(“list_entry_l0”82)可被选择性地修改。在这点 上，属于L0列表的参考索引的最大数量83可以是L1列表中的具有先于当 前画面的再现顺序的再现顺序的至少一个重建画面的基本数量61与具有小 于当前画面的VID的VID至少一个重建画面的基本数量62之和。因此，新 的参考索引可与L0列表的参考索引(“list_entry_l0”82)匹配达到属于L0列表 的参考索引的最大数量83一样多，使得与每个参考索引相应的重建画面的参 考顺序可在当前条带中被选择性地修改。

当当前条带是双预测模式的B条带类型时，根据实施例的参考列表修改 参数集84可包括“ref_pic_list_modification_flag_l1”84，该信息指示是否选择 性地修改属于L1参考列表的重建画面的参考顺序。

当在当前条带中选择性地修改参考顺序时，用于当前条带的前向预测或 双预测的L1列表的参考索引(“list_entry_l1”85)可被选择性地修改。在这点 上，属于L1列表的参考索引的最大数量86可以是L1列表中的具有先于当 前画面的再现顺序的再现顺序的至少一个重建画面的基本数量63与具有小 于当前画面的VID的VID的至少一个重建画面的基本数量64之和。因此， 信道参考索引可与L1列表的参考索引(“list_entry_l1”85)匹配达到属于L1列 表的参考索引的最大数量86一样多，使得与每个参考索引相应的重建画面的 参考顺序在当前条带中可被选择性地修改。

因此，根据实施例的多视点视频预测解码设备20可从参考列表修改参数 集77解析“ref_pic_list_modification_flag_l0”81或 “ref_pic_list_modification_flag_l1”84，以读取参考顺序是否在L0列表或L1 列表中被选择性地修改。如果确定L0列表的参考顺序被选择性地修改，则可 根据作为在当前条带中选择性修改的参考索引的“list_entry_l0”82来修改L0 列表的参考顺序，其中，改变量与属于L0列表的参考索引的最大数量83一 样多。同样，如果确定L1列表的参考顺序被选择性地修改，则可根据作为在 当前条带中选择性修改的参考索引的“list_entry_l1”85来修改L1列表的参考 顺序，其中，改变量与属于L1列表的参考索引的最大数量86一样多。

根据实施例的多视点视频预测编码设备10和多视点视频预测解码设备 20可通过使用与现有参考列表组合的新的参考列表来执行帧间预测或视点间 预测。

图9示出根据实施例的组合的参考列表。

也就是，可通过组合属于基本L0列表41的重建画面与属于基本L1参 考列表45的重建画面来产生新的基本LC列表90。

可以以Z字型顺序交替地参考属于基本L0列表41和基本L1参考列表 45的重建画面的顺序来确定根据另一实施例的属于基本LC列表90的重建画 面的参考顺序。

例如，可以按照从作为基本L0列表41的第一重建画面的VID 5/POC 17 画面32开始的基本L1列表45的VID 5/POC 19画面34、基本L0列表 41的VID 5/POC 16画面33、基本L1列表45的VID 5/POC 17画面32、 基本L1列表41的VID 5/POC 19画面34、基本L1列表45的VID 5/POC 16画面33、基本L0列表41的VID 3/POC 18画面35、基本L1列表45 的VID 7/POC 18画面37的参考顺序来确定基本LC列表90。

图10和图11是用于解释根据实施例的改变组合的参考列表的处理的示 图。

根据另一实施例的多视点视频预测编码设备10和多视点视频预测解码 设备20可在当前条带中选择性地修改组合的参考列表，即属于基本LC列表 90的重建画面的参考顺序。因此，基本LC列表90不用于当前条带。代替地， 多视点视频预测编码设备10和多视点视频预测解码设备20可通过参考图10 的参考索引表来使用基本L0列表40和基本L1列表41的重建画面，从而产 生修改LC列表11。

在根据实施例的参考索引表50中，参考索引101Idx是修改LC列表111 中的重建画面的参考顺序的号码。“pic_from_list_0_flag”103可指示属于修改 LC列表111的每个重建画面是属于基本L0列表41还是属于基本L1列表45。 “ref_idx_list_curr”105可指示基本L0列表41或基本L1列表45中的相应重 建画面的参考索引。

因此，属于修改LC列表111的重建画面可根据pic_from_list_0_flag”103 或“ref_idx_list_curr”105被确定为按照参考顺序的基本L0列表41的VID 5/POC 17画面32、基本L1列表45的VID 5/POC 19画面34、基本L0列 表41的VID 3/POC 18画面35、基本L1列表45的VID 7/POC 18画面 37、基本L0列表41的VID 5/POC 16画面33和基本L0列表41的VID 5/POC 19画面34。

因此，当根据另一实施例的多视点视频预测编码设备10和多视点视频预 测解码设备20使用LC列表时，如果针对当前nal单元允许3D视频的编码 和解码，则参考列表组合参数集“ref_pic_list_3D_combination”和参考列表修改 参数集77“ref_pic_list_3D_modification”可被记录在用于当前条带的条带头 上。根据另一实施例的参考列表组合参数集“ref_pic_list_3D_combination”可包 括用于确定组合的参考列表的参数。

根据另一实施例的多视点视频预测解码设备20可从条带头解析参考列 表组合参数集“ref_pic_list_3D_combination”，以从 “ref_pic_list_3D_combination”读取是否组合L0列表和L1列表并且使用LC列 表。如果确定使用LC列表，则属于LC列表的参考索引的最大数量可被读取。 L0列表和L1列表的重建画面基本上属于Z字型顺序的LC列表，因此如果 属于LC列表的参考索引的最大数量被确定，则属于LC列表的重建画面及其 再现顺序可被确定。

根据另一实施例的多视点视频预测解码设备20可从条带头读取属于LC 列表的重建画面的参考顺序是否被修改。如果属于LC列表的重建画面的参 考顺序被修改，则可在每个参考索引的修改LC列表中按照与属于来自条带 头的LC列表的参考索引的最大数量一样多的数量来重新设置当前参考顺序。

图12是根据实施例的包括多视点视频预测编码设备10的多视点视频编 码设备121的框图。

根据实施例的多视点视频编码设备121包括DPB 42、多视点视频预测编 码设备10、转换量化器46和熵编码器48。

根据实施例的DPB 42存储与当前画面的视点相同的先前重建画面以及 与当前画面的POC数相同并且与当前画面的视点不同的先前重建画面。可在 存储在DPB 42中的重建画面之中确定用于帧间预测和视点间预测的参考画 面。可由多视点视频编码设备121来执行以上参照图1A、图1B以及图3至 图8描述的根据实施例的多视点视频预测编码设备10的操作。

根据实施例的多视点视频预测编码设备10可在作为P条带类型或B条 带类型的当前画面的相同视点图像之中确定L0列表，其中，L0列表包括分 配有先于当前画面的POC的至少一个重建画面和分配有与当前画面的POC 相同的POC并且具有小于当前画面的VID的VID的至少一个重建画面。多 视点视频预测编码设备10可在作为B条带类型的当前画面的相同视点图像之 中确定L1列表，其中，L1列表包括分配有跟随在当前画面之后的POC的至 少一个重建画面和分配有与当前画面的POC相同的POC并且具有大于当前 画面的VID的VID的至少一个重建画面。

因此，多视点视频预测编码设备10可通过使用存储在DPB 42中的重建 画面来确定用于多视点视频的帧间预测和视点间预测的L0列表和L1列表。 根据情况，在L0列表和L1列表中定义的重建画面的参考顺序可被选择性地 修改。

多视点视频预测编码设备10可通过参考L0列表或参考L0列表和L1列 表来确定当前画面的参考画面，并且确定参考画面的参考块以执行从帧间预 测和视点间预测中选择的至少一个。

根据实施例的多视点视频预测编码设备10可通过使用存储在DPB 42中 的重建画面来配置参考列表，通过使用从参考列表选择的参考画面来对当前 图像执行帧间预测和视点间预测，并且产生残差数据。

根据实施例的转换量化器46可对由多视点视频预测编码设备10产生的 残差数据执行转换和量化，并且产生量化转换系数。根据实施例的熵编码器 48可对量化转换系数以及包括运动矢量和参考索引的符号执行熵编码。

根据实施例的多视点视频编码设备121可针对每个块对视频的图像执行 帧间预测，通过对通过帧间预测或视点间预测产生的每个块的残差数据执行 转换和量化来产生每个块的量化转换系数，并且通过对量化转换系数执行熵 编码来输出比特流，从而对视频编码。

多视点视频编码设备121可通过参考存储在DPB 42中的先前重建画面 来执行当前画面的运动补偿或视差补偿，并且产生当前画面的重建画面。当 前画面的重建画面可被用作用于不同图像的帧间预测或视点间预测的参考画 面。因此，多视点视频编码设备121还可执行多视点视频预测解码设备20的 操作，其中，多视点视频预测解码设备20执行用于帧间预测或视点间预测的 运动补偿或视差补偿。

根据实施例的多视点视频编码设备121可与嵌入在其中的内部视频编码 处理器或外部视频编码处理器交互，以输出视频编码结果，从而执行包括帧 内预测、帧间预测、转换和量化的视频编码操作。当根据实施例的多视点视 频编码设备121包括内部视频编码处理器并且多视点视频编码设备121或控 制多视点视频编码设备121的中央处理单元(CPU)或图形处理单元(GPU)包括 视频编码处理模块时，视频编码操作可被执行。

图13是根据实施例的包括多视点视频预测解码设备20的多视点视频解 码设备131的框图。

根据实施例的多视点视频解码设备131可包括接收器52、反量化逆变换 器54、DPB 56、多视点视频预测解码设备20和环路滤波器59。

根据实施例的接收器52可接收比特流，对接收的比特流执行熵解码，并 且对编码图像数据进行解析。

反量化逆变换器54可对由接收器52解析的编码图像数据执行反量化和 逆变换，并且重建残差数据。

根据实施例的接收器52可从比特流解析运动矢量和/或视差矢量。根据 实施例的DPB 56可存储可用作另一图像的运动补偿或视差补偿的参考画面 的先前重建画面。根据实施例的多视点视频预测解码设备20可通过使用存储 在DPB 56中的重建画面来配置参考列表，并且通过使用参考列表来执行使用 运动矢量和残差数据的运动补偿或使用视差矢量和残差数据的视差补偿。

根据实施例的多视点视频预测解码设备20可执行与参照图2A和图2B 描述的多视点视频预测解码设备20的操作相同的操作。

根据实施例的多视点视频预测解码设备20可针对作为P条带类型或B 条带类型的当前画面在相同视点图像之中确定L0列表，其中，L0列表包括 分配有先于当前画面的POC的至少一个重建画面和分配有与当前画面的 POC相同的POC并且具有小于当前画面的VID的VID的至少一个重建画面。

多视点视频预测解码设备20可在作为B条带类型的当前画面的相同视 点图像之中确定L1列表，其中，L1列表包括分配有跟随在当前画面之后的 POC的至少一个重建画面和分配有与当前画面的POC相同的POC并且具有 大于当前画面的VID的VID的至少一个重建画面。

因此，多视点视频预测解码设备20可确定用于多视点视频的帧间预测和 视点间预测的L0列表和L1列表。根据情况，在L0列表和L1列表中定义的 重建画面的参考顺序可被选择性地修改。

多视点视频预测解码设备20可通过参考L0列表或参考L0列表和L1列 表来确定当前画面的参考画面，并且确定参考画面的参考块以执行从帧间预 测和视点间预测中选择的至少一种。

根据实施例的多视点视频解码设备131可根据视点执行对视频的每个图 像的块的解码并且重建视频。接收器52可解析每个块的编码数据以及运动矢 量或视差信息。反量化逆变换器54可对每个块的编码数据执行反量化和逆变 换，并且重建每个块的残余数据。多视点视频预测解码设备20可确定参考画 面之中的由每个块的运动矢量或视差矢量指示的参考块，并且将参考块与残 差数据合成，从而重新产生重建块。

环路滤波器59对由多视点视频预测解码设备20输出的重建画面执行去 块滤波和采样自适应偏移(SAO)滤波。环路滤波器59可针对每个块执行去块 滤波和SAO滤波，并且输出最终重建画面。环路滤波器559的输出图像可被 存储在DPB 56中并且用作用于下一图像的运动补偿的参考画面。

根据实施例的多视点视频解码设备131可与嵌入在其中的内部视频解码 处理器或外部视频解码处理器交互，以输出视频解码结果，从而执行包括反 量化、逆变换、帧内预测和运动补偿的视频解码操作。当根据实施例的多视 点视频解码设备131包括内部视频解码处理器并且多视点视频解码设备131 或控制多视点视频解码设备131的CPU包括视频解码处理模块时，视频解码 操作可被执行。

以上参照图1A至图13描述的多视点视频预测编码设备10、多视点视频 预测解码设备20、多视点视频编码设备121和多视点视频解码设备131可根 据用于本发明的多视点视频的预测编码设备来配置用于多视点视频的帧间预 测和视点间预测的参考列表。用于帧间预测的参考图像和用于视点间预测的 参考图像可被包括在一个参考列表中。

可通过序列参数集和条带头来发送和接收关于明显地反映解码画面集的 状态的参考画面集的信息。根据参考画面集来确定参考列表，并且因此在考 虑解码画面集的状态确定的参考列表中，参考图像可被确定并用于帧间预测/ 运动补偿和视点间预测/视差补偿。

根据本发明的用于多视点视频的预测解码设备可产生包括用于帧间预测 的参考图像和用于视点间预测的参考图像的至少一个参考列表。用于多视点 视频的预测解码设备可通过参考一个参考列表来确定当前图像的参考图像， 在参考图像之中确定参考块，并且执行从运动补偿和视差补偿中选择的至少 一种。

根据实施例的多视点视频预测编码设备10、多视点视频预测解码设备 20、多视点视频编码设备121和多视点视频解码设备131可将视频数据的块 划分为具有树结构的编码单元，并且预测单元可被用于如上所述的编码单元 的帧间预测。下文中，将参照图16至图18描述基于具有树结构的编码单元 和变换单元的视频编码方法、视频编码设备、视频解码方法和视频解码设备。

根据实施例的多视点视频预测编码设备10、根据实施例的多视点视频预 测解码设备20、多视点视频编码设备121和多视点视频解码设备131可将视 频数据的块划分为具有树结构的编码单元，并且编码单元、预测单元和变换 单元可被用于上述的编码单元的视点间预测或帧间预测。下文中，将参照图 14至图26描述基于具有树结构的编码单元和变换单元的视频编码方法、视 频编码设备、视频解码方法和视频解码设备。

原则上，在用于多视点视频的编码和解码处理期间，用于基本视点图像 的编码和解码处理以及用于附加视点图像的编码和解码处理可被单独地执 行。换句话说，当对多视点视频执行视点间预测时，单视点视频的编码和解 码结果可被相互参考，但是根据单视点视频执行单独的编码和解码处理。

因此，由于以下参照图14至图26描述的基于具有树结构的编码单元的 视频编码和解码处理是用于处理单视点视频的视频编码和解码处理，因此仅 执行帧间预测和运动补偿。然而，如以上参照图1A至图13所述，为了对多 视点视频编码和解码，对基本视点图像和附加视点图像执行视点间预测和视 点间视差补偿。

因此，为了使根据实施例的多视点视频预测编码设备10和根据实施例的 多视点视频编码设备121基于具有树结构的编码单元对多视点视频预测编 码，多视点视频预测编码设备10和多视点视频编码设备121可包括与视点数 量一样多的图14的视频编码设备100，以便根据每个单个视点视频执行视频 编码，从而控制每个视频编码设备100对分配的单视点视频编码。另外，用 于对单视点视频编码的视频编码设备100可通过使用用于对不同的视点视频 编码的每个视频编码设备100的各自单个视点的编码结果来执行视点间预 测。多视点视频预测编码设备10和多视点视频编码设备121的每个都可根据 视点产生包括根据视点的编码结果的比特流。

类似地，为了使得根据实施例的多视点视频预测解码设备20和根据实施 例的多视点视频解码设备131基于具有树结构的编码单元对多视点视频预测 解码，多视点视频预测解码设备20和多视点视频解码设备131可包括与多视 点视频的视点的数量一样多的图15的视频编码设备200，以便针对接收的基 本视点图像流和接收的附加视点图像流根据视点执行视频解码，从而控制每 个视频解码设备200对分配的单视点视频解码。另外，用于对单视点视频解 码的视频解码设备200可通过使用用于对不同视点视频解码的每个视频解码 设备200的各自单视点的解码结果来执行视点间预测。因此，多视点视频预 测解码设备20和多视点视频解码设备131每个都可根据视点产生包括根据视 点的解码结果的比特流。

图14是根据本发明的实施例的基于根据树结构的编码单元的视频编码 设备100的框图。

根据实施例的基于根据树结构的编码单元执行视频预测的视频编码设备 100包括最大编码单元划分器110、编码单元确定器120和输出单元130。在 下文中，为了方便描述，将根据实施例的基于根据树结构的编码单元执行视 频预测的视频编码设备100称为“视频编码设备100”。

最大编码单元划分器110可基于作为具有图像的当前画面的最大尺寸的 编码单元的最大编码单元，来对当前画面进行划分。如果当前画面大于最大 编码单元，则可将当前画面的图像数据划分为至少一个最大编码单元。根据 本发明的实施例的最大编码单元可以是尺寸为32×32、64×64、128×128、 256×256等的数据单元，其中，数据单元的形状是宽度和长度为2的若干次 方的正方形。图像数据可按照至少一个最大编码单元被输出到编码单元确定 器120。

根据本发明的实施例的编码单元可由最大尺寸和深度表征。深度表示编 码单元从最大编码单元在空间上被划分的次数，并且随着深度加深，根据深 度的较深层编码单元可从最大编码单元被划分到最小编码单元。最大编码单 元的深度为最高深度，最小编码单元的深度为最低深度。由于随着最大编码 单元的深度加深，与每个深度相应的编码单元的尺寸减小，因此与更高深度 相应的编码单元可包括多个与更低深度相应的编码单元。

如上所述，当前画面的图像数据根据编码单元的最大尺寸被划分为最大 编码单元，并且每个最大编码单元可包括根据深度被划分的较深层编码单元。 由于根据深度对根据本发明的实施例的最大编码单元进行划分，因此可根据 深度对包括在最大编码单元中的空间域的图像数据进行分层地分类。

可预先确定编码单元的最大深度和最大尺寸，所述最大深度和最大尺寸 限制对最大编码单元的高度和宽度进行分层划分的次数。

编码单元确定器120对通过根据深度对最大编码单元的区域进行划分而 获得的至少一个划分区域进行编码，并且根据所述至少一个划分区域来确定 用于输出最终编码的图像数据的深度。换句话说，编码单元确定器120通过 根据当前画面的最大编码单元以根据深度的较深层编码单元对图像数据进行 编码，选择具有最小编码误差的深度，来确定编码深度。确定的编码深度和 根据确定的编码深度的被编码的图像数据被输出到输出单元130。

基于与等于或低于最大深度的至少一个深度相应的较深层编码单元，对 最大编码单元中的图像数据进行编码，并且基于每个较深层编码单元比较对 图像数据进行编码的结果。在对与较深层编码单元的编码误差进行比较之后， 可选择具有最小编码误差的深度。可针对每个最大编码单元选择至少一个编 码深度。

随着编码单元根据深度而被分层地划分并且编码单元的数量增加，最大 编码单元的尺寸被划分。另外，即使在一个最大编码单元中编码单元与同一 深度相应，也通过分别测量每个编码单元的图像数据的编码误差来确定是否 将与同一深度相应的每个编码单元划分为更低深度。因此，即使图像数据被 包括在一个最大编码单元中，在一个最大编码单元中编码误差根据区域而不 同，因此在图像数据中编码深度可根据区域而不同。因此，可在一个最大编 码单元中确定一个或更多个编码深度，并且可根据至少一个编码深度的编码 单元来对最大编码单元的图像数据进行划分。

因此，根据实施例的编码单元确定器120可确定包括在最大编码单元中 的具有树结构的编码单元。根据本发明的实施例的“具有树结构的编码单元” 包括在最大编码单元中包括的所有较深层编码单元中的与确定为编码深度的 深度相应的编码单元。可根据最大编码单元的相同区域中的深度来分层地确 定编码深度的编码单元，并可在不同区域中独立地确定编码深度的编码单元。 类似地，可从另一区域的编码深度独立地确定当前区域中的编码深度。

根据本发明的实施例的最大深度是与从最大编码单元到最小编码单元的 划分的次数有关的索引。根据本发明的实施例的第一最大深度可表示从最大 编码单元到最小编码单元的总划分次数。根据本发明的实施例的第二最大深 度可表示从最大编码单元到最小编码单元的深度等级的总数。例如，当最大 编码单元的深度是0时，对最大编码单元划分一次的编码单元的深度可被设 置为1，对最大编码单元划分两次的编码单元的深度可被设置为2。这里，如 果最小编码单元是对最大编码单元划分四次的编码单元，则存在深度0、1、 2、3和4的5个深度等级，并因此第一最大深度可被设置为4，第二最大深 度可被设置为5。

可根据最大编码单元执行预测编码和变换。还根据最大编码单元，基于 根据等于或小于最大深度的深度的较深层编码单元来执行预测编码和变换。

由于每当根据深度对最大编码单元进行划分时，较深层编码单元的数量 增加，因此对随着深度加深而产生的所有较深层编码单元执行包括预测编码 和变换的编码。为了便于描述，在最大编码单元中，现在将基于当前深度的 编码单元来描述预测编码和变换。

根据实施例的视频编码设备100可不同地选择用于对图像数据进行编码 的数据单元的尺寸或形状。为了对图像数据进行编码，执行诸如预测编码、 变换和熵编码的操作，此时，可针对所有操作使用相同的数据单元，或者可 针对每个操作使用不同的数据单元。

例如，视频编码设备100不仅可选择用于对图像数据进行编码的编码单 元，还可选择不同于编码单元的数据单元，以便对编码单元中的图像数据执 行预测编码。

为了在最大编码单元执行预测编码，可基于与编码深度相应的编码单元 (即，不再被划分成与更低深度相应的编码单元的编码单元)来执行预测编 码。以下，不再被划分且成为用于预测编码的基本单元的编码单元现在将被 称为“预测单元”。通过划分预测单元获得的分区可包括预测单元以及通过对 预测单元的高度和宽度中选择的至少一个进行划分而获得的数据单元。分区 是编码单元的预测单元被划分的数据单元，预测单元可以是具有与编码单元 相同的尺寸的分区。

例如，当2N×2N(其中，N是正整数)的编码单元不再被划分，并且成 为2N×2N的预测单元时，分区的尺寸可以是2N×2N、2N×N、N×2N或N×N。 分区类型的示例包括通过对预测单元的高度或宽度进行对称地划分而获得的 对称分区、通过对预测单元的高度或宽度进行非对称地划分(诸如，1：n或 n:1)而获得的分区、通过对预测单元进行几何地划分而获得的分区、以及具 有任意形状的分区。

预测单元的预测模式可以是从帧内模式、帧间模式和跳过模式中选择的 至少一个。例如，可对2N×2N、2N×N、N×2N或N×N的分区执行帧内模式 或帧间模式。另外，可仅对2N×2N的分区执行跳过模式。可对编码单元中的 一个预测单元独立地执行编码，从而选择具有最小编码误差的预测模式。

根据实施例的视频编码设备100不仅可基于用于对图像数据进行编码的 编码单元还可基于与编码单元不同的数据单元，来对编码单元中的图像数据 执行变换。为了对编码单元执行变换，可基于具有小于或等于编码单元的尺 寸的数据单元，来执行变换。例如，用于变换的数据单元可包括帧内模式的 数据单元和帧间模式的数据单元。

与根据本实施例的根据树结构的编码单元类似，编码单元中的变换单元 可被递归地划分为更小尺寸的区域。因此，可基于根据变换深度的具有树结 构的变换单元，对编码单元中的残差数据进行划分。

根据实施例，还可在变换单元中设置变换深度，其中，变换深度表示对 编码单元的高度和宽度进行划分以获得变换单元的划分的次数。例如，在 2N×2N的当前编码单元中，当变换单元的尺寸是2N×2N时，变换深度可以 为0，而当变换单元的尺寸是N×N时，变换深度可以为1，当变换单元的尺 寸是N/2×N/2时，变换深度可以为2。换句话说，还可根据变换深度设置具 有树结构的变换单元。

根据与编码深度相应的编码单元的编码信息不仅需要关于编码深度的信 息，还需要关于与预测编码和变换相关的信息的信息。因此，编码单元确定 器120不仅确定具有最小编码误差的编码深度，还确定预测单元中的分区类 型、根据预测单元的预测模式和用于变换的变换单元的尺寸。

稍后将参照图16至图26详细描述根据本发明的实施例的最大编码单元 中的根据树结构的编码单元和确定预测单元/分区以及变换单元的方法。

编码单元确定器120可通过使用基于拉格朗日乘数的率失真优化，来测 量根据深度的较深层编码单元的编码误差。

输出单元130在比特流中输出最大编码单元的图像数据和关于根据编码 深度的编码模式的信息，其中，所述最大编码单元的图像数据基于由编码单 元确定器120确定的至少一个编码深度被编码。

可通过对图像的残差数据进行编码来获得编码图像数据。

关于根据编码深度的编码模式的信息可包括关于编码深度的信息、关于 在预测单元中的分区类型的信息、关于预测模式的信息和关于变换单元的尺 寸的信息。

可通过使用根据深度的划分信息来定义关于编码深度的信息，其中，根 据深度的划分信息指示是否对更低深度而不是当前深度的编码单元执行编 码。如果当前编码单元的当前深度是编码深度，则对当前编码单元中的图像 数据进行编码并输出，因此可定义划分信息以不将当前编码单元划分到更低 深度。选择性地，如果当前编码单元的当前深度不是编码深度，则对更低深 度的编码单元执行编码，并因此可定义划分信息以对当前编码单元进行划分 来获得更低深度的编码单元。

如果当前深度不是编码深度，则对被划分到更低深度的编码单元的编码 单元执行编码。由于更低深度的至少一个编码单元存在于当前深度的一个编 码单元中，因此对更低深度的每个编码单元重复执行编码，并因此可对具有 相同深度的编码单元递归地执行编码。

由于针对一个最大编码单元确定具有树结构的编码单元，并且针对编码 深度的编码单元确定关于至少一个编码模式的信息，所以可针对一个最大编 码单元确定关于至少一个编码模式的信息。另外，由于根据深度对图像数据 进行分层划分，因此最大编码单元的图像数据的编码深度可根据位置而不同， 因此可针对图像数据设置关于编码深度和编码模式的信息。

因此，根据实施例的输出单元130可将关于相应的编码深度和编码模式 的编码信息分配给从包括在最大编码单元中的编码单元、预测单元和最小单 元中选择的至少一个。

根据本发明的实施例的最小单元是通过将构成最低深度的最小编码单元 划分为4份而获得的正方形数据单元。可选择地，根据实施例的最小单元可 以是最大正方形数据单元，其中，最大正方形数据单元可包括在包括在最大 编码单元中所包括的所有编码单元、预测单元、分区单元和变换单元中。

例如，由输出单元130输出的编码信息可被分类为根据更深层编码单元 的编码信息和根据预测单元的编码信息。根据更深层编码单元的编码信息可 包括关于预测模式的信息和关于分区尺寸的信息。根据预测单元的编码信息 可包括关于帧间模式的估计方向的信息、关于帧间模式的参考图像索引的信 息、关于运动矢量的信息、关于帧内模式的色度分量的信息、以及关于帧内 模式的插值方法的信息。

根据画面、条带或GOP定义的关于编码单元的最大尺寸的信息和关于最 大深度的信息可被插入到比特流的头、序列参数集或画面参数集。

还可经由比特流的头、序列参数集或画面参数集输出关于当前视频允许 的关于变换单元的最大尺寸的信息和关于变换单元的最小尺寸的信息。输出 单元130可对与预测有关的参考信息、预测信息和条带类型信息进行编码， 并输出这些信息。

在视频编码设备100中，较深层编码单元可以是通过将更高深度的编码 单元(更高一层)的高度或宽度划分成两份而获得的编码单元。换言之，当 当前深度的编码单元的尺寸是2N×2N时，更低深度的编码单元的尺寸是 N×N。另外，尺寸为2N×2N的当前深度的编码单元可包括最多4个更低深度 的编码单元。

因此，视频编码设备100可基于考虑当前画面的特征而确定的最大编码 单元的尺寸和最大深度，通过针对每个最大编码单元确定具有最优形状和最 优尺寸的编码单元来形成具有树结构的编码单元。另外，由于可通过使用各 种预测模式和变换中的任意一个对每个最大编码单元执行编码，因此可考虑 各种图像尺寸的编码单元的特征来确定最优编码模式。

因此，如果以传统宏块对具有高分辨率或大数据量的图像进行编码，则 每个画面的宏块的数量极度增加。因此，针对每个宏块产生的压缩信息的条 数增加，因此难以发送压缩的信息，并且数据压缩效率降低。然而，通过使 用视频编码设备100，由于考虑图像的尺寸，在增加编码单元的最大尺寸的 同时，基于图像的特征来调整编码单元，因此可增加图像压缩效率。

以上参照图1A描述的多视点视频编码设备10可包括与视点的数量一样 多的视频编码设备100，以根据多视点视频的视点对单视点图像进行编码。

当视频编码设备100对单视点图像进行编码时，编码单元确定器120可 针对每个最大编码单元，确定根据具有树结构的编码单元进行帧间预测的预 测单元，并根据预测单元执行帧间预测。

具体地讲，编码单元确定器120可执行参考相同视点重建画面的帧间预 测以及参考不同视点重建画面的视点间预测。根据实施例的编码单元确定器 120可在作为P条带类型或B条带类型的当前画面的相同视点图像之中确定 L0列表，其中，L0列表包括分配有先于当前画面的POC的至少一个重建画 面和分配有与当前画面的POC相同的POC并且具有小于当前画面的VID的 VID的至少一个重建画面。编码单元确定器120可在作为B条带类型的当前 画面的相同视点图像之中确定L1列表，其中，L1列表包括分配有跟随在当 前画面之后的POC的至少一个重建画面和分配有与当前画面的POC相同的 POC并且具有大于当前画面的VID的VID的至少一个重建画面。

因此，编码单元确定器120可通过使用存储在DPB中的重建画面来确定 用于多视点视频的帧间预测和视点间预测的L0列表和L1列表。根据情况， 在L0列表和L1列表中定义的重建画面的参考顺序可在预定条带中被选择性 地修改。

根据实施例的编码单元确定器120可通过参考L0列表或参考L0列表和 L1列表来确定当前画面的参考画面，并且确定参考画面的参考块以执行从帧 间预测和视点间预测中选择的至少一种。

图15是根据本发明的实施例的基于根据树结构的编码单元的视频解码 设备200的框图。

根据实施例的执行基于具有树结构的编码单元的视频预测的视频解码设 备200包括接收器210、图像数据和编码信息提取器220和图像数据解码器 230。在下文中，为了便于描述，根据实施例的基于根据树结构的编码单元执 行视频预测的视频解码设备200被称为“视频解码设备200”。

用于视频解码设备200的解码操作的各种术语(诸如编码单元、深度、 预测单元、变换单元和关于各种编码模式的信息)的定义与参照图14和视频 编码设备100描述的定义相同。

接收器210接收和解析编码视频的比特流。图像数据和编码信息提取器 220从解析的比特流，针对每个编码单元提取编码图像数据，并随后将提取 的图像数据输出到图像数据解码器230，其中，编码单元具有根据每个最大 编码单元的树结构。图像数据和编码信息提取器220可从关于当前画面的头、 序列参数集或序列参数集提取关于当前画面的编码单元的最大尺寸的信息。

另外，图像数据和编码信息提取器220从解析的比特流，根据最大编码 单元，提取关于具有树结构的编码单元的编码深度和编码模式的信息。提取 的关于编码深度和编码模式的信息被输出到图像数据解码器230。换言之， 比特流中的图像数据被划分为最大编码单元，使得图像数据解码器230针对 每个最大编码单元对图像数据进行解码。

可针对关于与编码深度相应的至少一个编码深度的信息设置关于根据最 大编码单元的编码深度和编码模式的信息，关于编码模式的信息可包括关于 与编码深度相应的相应编码单元的分区类型的信息、关于预测模式的信息和 关于变换单元的尺寸的信息。另外，根据深度的划分信息可被提取为关于编 码深度的信息。

关于由图像数据和编码信息提取器220提取的根据每个最大编码单元的 编码深度和编码模式的信息是关于在以下情况下被确定为产生最小编码误差 的编码深度和编码模式的信息，即，在编码端(诸如，视频编码设备100) 根据最大编码单元对根据深度的每个较深层编码单元重复地执行编码的时 候。因此，视频解码设备200可通过根据产生最小编码误差的编码深度和编 码模式对图像数据进行解码来恢复图像。

由于根据实施例的关于编码深度和编码模式的编码信息可被分配给相应 的编码单元、预测单元和最小单元中的预定数据单元，因此图像数据和编码 信息提取器220可根据预定数据单元，提取关于编码深度和编码模式的信息。 如果关于相应最大编码单元的编码深度和编码模式的信息根据预定数据单元 被记录，则可将被分配了相同的关于编码深度和编码模式的信息的预定数据 单元推断为是包括在同一最大编码单元中的数据单元。

图像数据解码器230基于关于根据最大编码单元的编码深度和编码模式 的信息，通过对每个最大编码单元中的图像数据进行解码，来恢复当前画面。 换言之，图像数据解码器230可基于提取出的关于包括在每个最大编码单元 中的具有树结构的编码单元之中的每个编码单元的分区类型、预测模式和变 换单元的信息，对编码的图像数据进行解码。解码处理可包括预测(包含帧 内预测和运动补偿)和逆变换。

图像数据解码器230可基于关于根据编码深度的编码单元的预测单元的 分区类型和预测模式的信息，根据每个编码单元的分区和预测模式，执行帧 内预测或运动补偿。

另外，为了对每个最大编码单元执行逆变换，图像数据解码器230可读 取每个编码单元的根据树结构的变换单元信息，从而基于每个编码单元的变 换单元执行逆变换。通过逆变换，可恢复编码单元的空间域的像素值。

图像数据解码器230可通过使用根据深度的划分信息来确定当前最大编 码单元的编码深度。如果划分信息指示图像数据在当前深度中不再被划分， 则当前深度是编码深度。因此，图像数据解码器230可通过使用关于与编码 深度相应的每个编码单元的预测单元的分区类型、预测模式和变换单元的尺 寸的信息，对当前最大编码单元中的编码数据进行解码。

换言之，可通过观察分配给编码单元、预测单元和最小单元中的预定数 据单元的编码信息集来收集包含包括相同划分信息的编码信息的数据单元， 并且收集的数据单元可被认为是将由图像数据解码器230以相同编码模式进 行解码的一个数据单元。这样，通过获得关于针对每个编码单元的编码模式 的信息来对当前编码单元进行解码。

以上参照图1A和图12描述的多视点视频预测编码设备10和多视点视 频编码设备121可包括与视点的数量一样多的图像数据解码器230，以便根 据多视点视频的视点来产生用于帧间预测和视点间预测的参考画面。

另外，以上参照图2A和图13描述的多视点视频预测解码设备20和多 视点视频解码设备131可包括与视点的数量一样多的视频解码设备200，以 便通过对接收的比特流解码根据视点恢复图像。

当多视点视频之中的预定视点视频的比特流被接收到时，视频解码设备 200的图像数据解码器230可将由图像数据和编码信息提取器230从比特流 提取的图像的样点划分为具有树结构的编码单元。图像数据解码器230可通 过对通过对画面图像的样点进行划分而获得的具有树结构的编码单元，根据 对于帧间预测的预测单元执行运动补偿来恢复图像。

具体地讲，图像数据解码器230可执行参考相同视点重建画面的帧间预 测和参考不同视点重建画面的视点间预测。根据实施例的图像数据解码器230 可在作为P条带类型或B条带类型的当前画面的相同视点图像之中确定L0 列表，其中，L0列表包括分配有先于当前画面的POC的至少一个重建画面 和分配有与当前画面的POC相同的POC并且具有小于当前画面的VID的 VID的至少一个重建画面。图像数据解码器230可在作为B条带类型的当前 画面的相同视点图像之中确定L1列表，其中，L1列表包括分配有跟随在当 前画面之后的POC的至少一个重建画面和分配有与当前画面的POC相同的 POC并且具有大于当前画面的VID的VID的至少一个重建画面。

因此，图像数据解码器230可通过使用存储在DPB中的重建画面来确定 用于多视点视频的帧间预测和视点间预测的L0列表和L1列表。根据情况， 在L0列表和L1列表中定义的重建画面的参考顺序可在预定条带中被选择性 地修改。

根据实施例的图像数据解码器230可通过参考L0列表或参考L0列表和 L1列表来确定当前画面的参考画面。图像数据解码器230可通过使用由图像 数据和编码信息提取器220解析的运动矢量或视差矢量来确定参考图像的参 考预测单元。可通过经由从运动补偿和视差补偿中选择的至少一个对参考预 测单元补偿残差数据，来重建当前预测单元。

因此，视频解码设备200可获得关于当针对每个最大编码单元递归地执 行编码时产生最小编码误差的至少一个编码单元的信息，并且可使用所述信 息来对当前画面进行解码。换言之，被确定为最大编码单元中的最优编码单 元的具有树结构的编码单元可被解码。

因此，即使图像数据具有高分辨率和大数据量，也可通过使用编码单元 的尺寸和编码模式，对图像数据进行有效地解码和恢复，其中，通过使用从 编码器接收到的关于最优编码模式的信息，根据图像数据的特征自适应地确 定所述编码单元的尺寸和编码模式。

图16是用于描述根据本发明的实施例的编码单元的概念的示图。

编码单元的尺寸可被表示为宽度×高度，并可以是64×64、32×32、16×16 和8×8。64×64的编码单元可被划分为64×64、64×32、32×64或32×32的分 区，32×32的编码单元可被划分为32×32、32×16、16×32或16×16的分区， 16×16的编码单元可被划分为16×16、16×8、8×16或8×8的分区，8×8的编 码单元可被划分为8×8、8×4、4×8或4×4的分区。

在视频数据310中，分辨率是1920×1080，编码单元的最大尺寸是64， 最大深度是2。在视频数据320中，分辨率是1920×1080，编码单元的最大尺 寸是64，最大深度是3。在视频数据330中，分辨率是352×288，编码单元 的最大尺寸是16，最大深度是1。图16中示出的最大深度表示从最大编码单 元到最小编码单元的划分总次数。

如果分辨率高或数据量大，则编码单元的最大尺寸可能较大，从而不仅 提高编码效率，而且准确地反映图像的特征。因此，具有比视频数据330更 高分辨率的视频数据310和320的编码单元的最大尺寸可以是64。

由于视频数据310的最大深度是2，因此由于通过对最大编码单元划分 两次，深度加深至两层，因此视频数据310的编码单元315可包括长轴尺寸 为64的最大编码单元和长轴尺寸为32和16的编码单元。由于视频数据330 的最大深度是1，因此由于通过对最大编码单元划分一次，深度加深至一层， 因此视频数据330的编码单元335可包括长轴尺寸为16的最大编码单元和长 轴尺寸为8的编码单元。

由于视频数据320的最大深度是3，因此由于通过对最大编码单元划分 三次，深度加深至3层，因此视频数据320的编码单元325可包括长轴尺寸 为64的最大编码单元和长轴尺寸为32、16和8的编码单元。随着深度加深， 详细信息可被精确地表示。

图17是根据本发明的实施例的基于编码单元的图像编码器400的框图。

根据实施例的图像编码器400执行视频编码设备100的编码单元确定器 120的操作来对图像数据进行编码。换言之，帧内预测器410在帧内模式下 对当前帧405中的编码单元执行帧内预测，运动估计器420和运动补偿器425 通过使用当前帧405和参考帧495，在帧间模式下对当前帧405中的编码单 元分别执行帧间预测和运动补偿。

从帧内预测器410、运动估计器420和运动补偿器425输出的数据通过 变换器430和量化器440被输出为量化后的变换系数。量化后的变换系数通 过反量化器460和逆变换器470被恢复为空间域中的数据，恢复的空间域中 的数据在通过去块单元480和偏移调整单元490后处理之后被输出为参考帧 495。量化后的变换系数可通过熵编码器450被输出为比特流455。

为了将图像编码器400应用到根据实施例的视频编码设备100中，图像 编码器400的所有元件(即，帧内预测器410、运动估计器420、运动补偿器 425、变换器430、量化器440、熵编码器450、反量化器460、逆变换器470、 去块单元480和偏移调整单元490)在考虑每个最大编码单元的最大深度的 同时，基于具有树结构的编码单元中的每个编码单元执行操作。

具体地，帧内预测器410、运动估计器420和运动补偿器425在考虑当 前最大编码单元的最大尺寸和最大深度的同时，确定具有树结构的编码单元 中的每个编码单元的分区和预测模式，变换器430确定具有树结构的编码单 元中的每个编码单元中的变换单元的尺寸。

运动补偿器420可根据预测单元执行参考相同视点图像的帧间预测并且 估计帧间运动。运动补偿器420还可根据预测单元执行参考具有相同再现顺 序的不同视点图像的视点间预测，并且估计视点间视差。

运动补偿器425可根据预测单元执行参考相同视点图像的运动补偿，并 且重建预测单元。运动补偿器425还可根据预测单元执行参考具有相同再现 顺序的不同视点图像的视差补偿，并且重建预测单元。

运动估计器420和运动补偿器425确定参考列表的方法与以上参考图1A 至图11描述的相同。

图18是根据本发明的实施例的基于编码单元的图像解码器500的框图。

解析器510从比特流505解析将被解码的编码图像数据和解码所需的编 码信息。编码图像数据通过熵解码器520和反量化器530被输出为反量化的 数据，反量化的数据通过逆变换器540被恢复为空间域中的图像数据。

针对空间域中的图像数据，帧内预测器550在帧内模式下对编码单元执 行帧内预测，运动补偿器560通过使用参考帧585在帧间模式下编码单元执 行运动补偿。

通过帧内预测器550和运动补偿器560的空间域中的图像数据可在通过 去块单元570和偏移调整器580后处理之后被输出为恢复帧595。另外，通 过去块单元570和偏移调整器580后处理的图像数据可被输出为参考帧585。

为了在视频解码设备200的图像数据解码器230中对图像数据进行解码， 图像解码器500可执行在解析器510执行操作之后执行的操作。

为了将图像解码器500应用到视频解码设备200中，图像解码器500的 所有元件(即，解析器510、根据实施例的熵解码器520、反量化器530、逆 变换器540、帧内预测器550、运动补偿器560、去块单元570和偏移调整器 580)针对每个最大编码单元，基于具有树结构的编码单元执行操作。

具体地，帧内预测器550和运动补偿器560基于具有树结构的每个编码 单元的分区和预测模式来执行操作，逆变换器540基于每个编码单元的变换 单元的尺寸来执行操作。

运动补偿器560可根据预测单元执行参考相同视点图像的运动补偿并且 重建预测单元。运动补偿器560还可根据预测单元执行参考具有相同再现顺 序的不同视点图像的视差补偿，并且重建预测单元。运动补偿器560确定参 考列表的方法与以上参照图1A至图11描述的相同。

图19是示出根据本发明的实施例的根据深度的较深层编码单元以及分 区的示图。

根据实施例的视频编码设备100和根据实施例的视频解码设备200使用 分层编码单元以考虑图像的特征。可根据图像的特征自适应地确定编码单元 的最大高度、最大宽度和最大深度，或可由用户不同地设置编码单元的最大 高度、最大宽度和最大深度。可根据编码单元的预定最大尺寸来确定根据深 度的较深层编码单元的尺寸。

根据本发明的实施例，在根据实施例的编码单元的分层结构600中，编 码单元的最大高度和最大宽度均是64，最大深度是4。在这种情况下，最大 深度表示编码单元从最大编码单元被划分到最小编码单元的总次数。由于根 据实施例沿着分层结构600的垂直轴深度加深，因此较深层编码单元的高度 和宽度均被划分。另外，预测单元和分区沿着分层结构600的水平轴被示出， 其中，所述预测单元和分区是对每个较深层编码单元进行预测编码的基础。

换言之，在分层结构600中，编码单元610是最大编码单元，其中，深 度为0，尺寸为64×64(即，高度乘宽度)。随着深度沿着垂直轴加深，存在 尺寸为32×32和深度为1的编码单元620、尺寸为16×16和深度为2的编码 单元630、尺寸为8×8和深度为3的编码单元640。尺寸为8×8和深度为3 的编码单元640是最小编码单元。

编码单元的预测单元和分区根据每个深度沿着水平轴被排列。换言之， 如果尺寸为64×64和深度为0的编码单元610是预测单元，则可将预测单元 划分成包括在编码单元610中的分区，即，尺寸为64×64的分区610、尺寸 为64×32的分区612、尺寸为32×64的分区614或尺寸为32×32的分区616。

类似地，可将尺寸为32×32和深度为1的编码单元620的预测单元划分 成包括在编码单元620中的分区，即，尺寸为32×32的分区620、尺寸为32×16 的分区622、尺寸为16×32的分区624和尺寸为16×16的分区626。

类似地，可将尺寸为16×16和深度为2的编码单元630的预测单元划分 成包括在编码单元630中的分区，即，包括在编码度单元630中的尺寸为16×16 的分区630、尺寸为16×8的分区632、尺寸为8×16的分区634和尺寸为8×8 的分区636。

类似地，可将尺寸为8×8和深度为3的编码单元640的预测单元划分成 包括在编码单元640中的分区，即，包括在编码单元640中的尺寸为8×8的 分区、尺寸为8×4的分区642、尺寸为4×8的分区644和尺寸为4×4的分区 646。

为了确定构成最大编码单元610的编码单元的至少一个编码深度，根据 实施例的视频编码设备100的编码单元确定器120对包括在最大编码单元610 中的与每个深度相应的编码单元执行编码。

随着深度加深，包括具有相同范围和相同尺寸的数据的根据深度的较深 层编码单元的数量增加。例如，需要四个与深度2相应的编码单元来覆盖包 括在与深度1相应的一个编码单元中的数据。因此，为了根据深度比较对相 同数据进行编码的结果，与深度1相应的编码单元和四个与深度2相应的编 码单元均被编码。

为了针对深度之中的当前深度执行编码，可沿着分层结构600的水平轴， 通过对与当前深度相应的编码单元中的每个预测单元执行编码，来将针对当 前深度选择最小编码误差。选择性地，随着深度沿着分层结构600的垂直轴 加深，可通过针对每个深度执行编码，比较根据深度的最小编码误差，来搜 索最小编码误差。在编码单元610中的具有最小编码误差的深度和分区可被 选为编码单元610的编码深度和分区类型。

图20是用于描述根据本发明的实施例的在编码单元710和变换单元720 之间的关系的示图。

根据实施例的视频编码设备100或根据实施例的视频解码设备200针对 每个最大编码单元，根据具有小于或等于最大编码单元的尺寸的编码单元， 对图像进行编码或解码。可基于不大于相应的编码单元的数据单元，来选择 用于在编码期间进行变换的变换单元的尺寸。

例如，在根据实施例的视频编码设备100或根据实施例的视频解码设备 200中，如果编码单元710的尺寸是64×64，则可通过使用尺寸为32×32的变 换单元720来执行变换。

此外，可通过对小于64×64的尺寸为32×32、16×16、8×8和4×4的每个 变换单元执行变换，来对尺寸为64×64的编码单元710的数据进行编码，然 后可选择具有最小编码误差的变换单元。

图21是用于描述根据本发明的实施例的与编码深度相应的编码单元的 编码信息的示图。

根据实施例的视频编码设备100的输出单元130可对与编码深度相应的 每个编码单元的关于分区类型的信息800、关于预测模式的信息810以及关 于变换单元尺寸的信息820进行编码，并将信息800、信息810和信息820 作为关于编码模式的信息来发送。

信息800指示关于通过划分当前编码单元的预测单元而获得的分区的形 状的信息，其中，所述分区是用于对当前编码单元进行预测编码的数据单元。 例如，可将尺寸为2N×2N的当前编码单元CU_0划分成以下分区中的任意一 个：尺寸为2N×2N的分区802、尺寸为2N×N的分区804、尺寸为N×2N的 分区806以及尺寸为N×N的分区808。这里，关于分区类型的信息800被设 置来指示尺寸为2N×N的分区804、尺寸为N×2N的分区806以及尺寸为N×N 的分区808中的一个。

信息810指示每个分区的预测模式。例如，信息810可指示对由信息800 指示的分区执行的预测编码的模式，即，帧内模式812、帧间模式814或跳 过模式816。

信息820指示当对当前编码单元执行变换时所基于的变换单元。例如， 变换单元可以是第一帧内变换单元822、第二帧内变换单元824、第一帧间变 换单元826或第二帧内变换单元828。

视频解码设备200的图像数据和编码信息提取器220可根据每个较深层 编码单元，提取并使用用于解码的信息800、810和820。

图22是根据本发明的实施例的根据深度的较深层编码单元的示图。

划分信息可用来指示深度的改变。划分信息指示当前深度的编码单元是 否被划分成更低深度的编码单元。

用于对深度为0和尺寸为2N_0×2N_0的编码单元900进行预测编码的预 测单元910可包括以下分区类型的分区：尺寸为2N_0×2N_0的分区类型912、 尺寸为2N_0×N_0的分区类型914、尺寸为N_0×2N_0的分区类型916和尺 寸为N_0×N_0的分区类型918。图9仅示出了通过对称地划分预测单元910 而获得的分区类型912至918，但是分区类型不限于此，并且预测单元910 的分区可包括非对称分区、具有预定形状的分区和具有几何形状的分区。

根据每种分区类型，对尺寸为2N_0×2N_0的一个分区、尺寸为2N_0×N_0 的两个分区、尺寸为N_0×2N_0的两个分区和尺寸为N_0×N_0的四个分区重 复地执行预测编码。可对尺寸为2N_0×2N_0、N_0×2N_0、2N_0×N_0和 N_0×N_0的分区执行帧内模式和帧间模式下的预测编码。可仅对尺寸为 2N_0×2N_0的分区执行跳过模式下的预测编码。

如果在分区类型912至916中的一个分区类型中编码误差最小，则可不 将预测单元910划分到更低深度。

如果在分区类型918中编码误差最小，则深度从0改变到1以在操作920 中划分分区类型918，并对深度为2和尺寸为N_0×N_0的编码单元930重复 地执行编码来搜索最小编码误差。

用于对深度为1和尺寸为2N_1×2N_1(＝N_0×N_0)的编码单元930进 行预测编码的预测单元940可包括以下分区类型的分区：尺寸为2N_1×2N_1 的分区类型942、尺寸为2N_1×N_1的分区类型944、尺寸为N_1×2N_1的分 区类型946以及尺寸为N_1×N_1的分区类型948。

如果在分区类型948中编码误差最小，则深度从1改变到2以在操作950 中划分分区类型948，并对深度为2和尺寸为N_2×N_2的编码单元960重复 执行编码来搜索最小编码误差。

当最大深度是d时，根据每个深度的划分操作可被执行直到深度变成 d-1，并且划分信息可被编码直到深度是0到d-2中的一个。换句话说，当编 码被执行直到在与d-2的深度相应的编码单元在操作970中被划分之后深度 是d-1时，用于对深度为d-1和尺寸为2N_(d-1)×2N_(d-1)的编码单元980进 行预测编码的预测单元990可包括以下分区类型的分区：尺寸为 2N_(d-1)×2N(d-1)的分区类型992、尺寸为2N_(d-1)×N(d-1)的分区类型994、 尺寸为N_(d-1)×2N(d-1)的分区类型996和尺寸为N_(d-1)×N(d-1)的分区类型 998。

可对分区类型992至998中的尺寸为2N_(d-1)×2N_(d-1)的一个分区、尺 寸为2N_(d-1)×N_(d-1)的两个分区、尺寸为N_(d-1)×2N_(d-1)的两个分区、尺 寸为N_(d-1)×N_(d-1)的四个分区重复地执行预测编码，以搜索具有最小编码 误差的分区类型。

即使当分区类型998具有最小编码误差时，由于最大深度是d，因此深 度为d-1的编码单元CU_(d-1)也不再被划分到更低深度，构成当前最大编码 单元900的编码单元的编码深度被确定为d-1，并且当前最大编码单元900的 分区类型可被确定为N_(d-1)×N(d-1)。此外，由于最大深度是d，并且具有最 低深度d-1的最小编码单元980不再被划分到更低深度，因此不设置最小编 码单元980的划分信息。

数据单元999可以是用于当前最大编码单元的“最小单元”。根据本发明 的实施例的最小单元可以是通过将最小编码单元980划分成4份而获得的正 方形数据单元。通过重复地执行编码，视频编码设备100可通过比较根据编 码单元900的深度的编码误差来选择具有最小编码误差的深度以确定编码深 度，并将相应分区类型和预测模式设置为编码深度的编码模式。

这样，在所有深度1至d中对根据深度的最小编码误差进行比较，并且 具有最小编码误差的深度可被确定为编码深度。编码深度、预测单元的分区 类型和预测模式可作为关于编码模式的信息被编码并发送。另外，由于编码 单元从0的深度被划分到编码深度，因此仅编码深度的划分信息被设置为0， 并且除了编码深度以外的深度的划分信息被设置为1。

根据实施例的视频解码设备200的图像数据和编码信息提取器220可提 取并使用关于编码单元900的编码深度和预测单元的信息，来对分区912进 行解码。根据实施例的视频解码设备200可通过使用根据深度的划分信息， 将划分信息为0的深度确定为编码深度，并且使用关于相应深度的编码模式 的信息来进行解码。

图23至图25是用于描述根据本发明的实施例的编码单元1010、预测单 元1060和变换单元1070之间的关系的示图。

编码单元1010是最大编码单元中的与由视频编码设备100确定的编码深 度相应的具有树结构的编码单元。预测单元1060是每个编码单元1010中的 预测单元的分区，变换单元1070是每个编码单元1010的变换单元。

当在编码单元1010中最大编码单元的深度是0时，编码单元1012和编 码单元1054的深度是1，编码单元1014、1016、1018、1028、1050和1052 的深度是2，编码单元1020、1022、1024、1026、1030、1032和1048的深 度是3，编码单元1040、1042、1044和1046的深度是4。

在预测单元1060中，通过划分编码单元1010中的编码单元来获得一些 编码单元1014、1016、1022、1032、1048、1050、1052和1054。换句话说， 编码单元1014、1022、1050和1054中的分区类型的尺寸是2N×N，编码单 元1016、1048和1052中的分区类型的尺寸是N×2N，编码单元1032的分区 类型的尺寸就N×N。编码单元1010的预测单元和分区小于或等于每个编码 单元。

在小于编码单元1052的数据单元中的变换单元1070中，对编码单元 1052的图像数据执行变换或逆变换。另外，在尺寸和形状方面，变换单元1070 中的编码单元1014、1016、1022、1032、1048、1050和1052不同于预测单 元1060中的编码单元1014、1016、1022、1032、1048、1050和1052。换句 话说，根据实施例的视频编码设备100和视频解码设备200可对同一编码单 元中的数据单元独立地执行帧内预测、运动估计、运动补偿、变换和逆变换。

因此，对最大编码单元的每个区域中的具有分层结构的每个编码单元递 归地执行编码来确定最优编码单元，从而可获得具有递归树结构的编码单元。 编码信息可包括关于编码单元的划分信息、关于分区类型的信息、关于预测 模式的信息和关于变换单元的尺寸的信息。表1示出可由根据实施例的视频 编码设备100和视频解码设备200设置的编码信息。

[表1]

根据实施例的视频编码设备100的输出单元130可输出关于具有树结构 的编码单元的编码信息，根据实施例的视频解码设备200的图像数据和编码 信息提取器220可从接收到的比特流提取关于具有树结构的编码单元的编码 信息。

划分信息指示是否将当前编码单元划分成更低深度的编码单元。如果当 前深度d的划分信息是0，则当前编码单元不再被划分成更低深度的的深度 是编码深度，从而可针对所述编码深度来定义关于分区类型、预测模式和变 换单元的尺寸的信息。如果当前编码单元根据划分信息被进一步划分，则对 更低深度的四个划分编码单元独立地执行编码。

预测模式可以是帧内模式、帧间模式和跳过模式中的一种。可针对所有 分区类型定义帧内模式和帧间模式，仅针对尺寸为2N×2N的分区类型定义跳 过模式。

关于分区类型的信息可指示通过对称地划分预测单元的高度或宽度而获 得的尺寸为2N×2N、2N×N、N×2N和N×N的对称分区类型，以及通过非对 称地划分预测单元的高度或宽度而获得的尺寸为2N×nU、2N×nD、nL×2N和 nR×2N的非对称分区类型。可通过按1:3和3:1来划分预测单元的高度来分 别获得尺寸为2N×nU和2N×nD的非对称分区类型，可通过按1:3和3:1来划 分预测单元的宽度来分别获得尺寸为nL×2N和nR×2N的非对称分区类型。

可将变换单元的尺寸设置成帧内模式下的两种类型和帧间模式下的两种 类型。换句话说，如果变换单元的划分信息是0，则变换单元的尺寸可以是 2N×2N，即当前编码单元的尺寸。如果变换单元的划分信息是1，则可通过 对当前编码单元进行划分来获得变换单元。另外，如果尺寸为2N×2N的当前 编码单元的分区类型是对称分区类型时，则变换单元的尺寸可以是N×N，如 果当前编码单元的分区类型是非对称分区类型，则变换单元的尺寸可以是 N/2×N/2。

关于根据实施例的具有树结构的编码单元的编码信息可包括从与编码深 度相应的编码单元、预测单元和最小单元中选择的至少一个。与编码深度相 应的编码单元可包括从包含相同编码信息的预测单元和最小单元中选择的至 少一个。

因此，通过比较邻近数据单元的编码信息来确定邻近数据单元是否被包 括在与编码深度相应的同一编码单元中。另外，通过使用数据单元的编码信 息来确定与编码深度相应的相应编码单元，并因此可确定最大编码单元中的 编码深度的分布。

因此，如果基于邻近数据单元的编码信息来对当前编码单元进行预测， 则可直接参考并使用与当前编码单元邻近的较深层编码单元中的数据单元的 编码信息。

选择性地，如果基于邻近数据单元的编码信息来对当前编码单元进行预 测，则使用数据单元的编码信息来搜索与当前编码单元邻近的数据单元，并 可参考搜索到的邻近编码单元以对当前编码单元进行预测。

图26是用于描述根据表1的编码模式信息的编码单元、预测单元和变换 单元之间的关系的示图。

最大编码单元1300包括编码深度的编码单元1302、1304、1306、1312、 1314、1316和1318。这里，由于编码单元1318是编码深度的编码单元，因 此划分信息可以被设置成0。可将关于尺寸为2N×2N的编码单元1318的分 区类型的信息设置成以下分区类型中的一种：尺寸为2N×2N的分区类型 1322、尺寸为2N×N的分区类型1324、尺寸为N×2N的分区类型1326、尺寸 为N×N的分区类型1328、尺寸为2N×nU的分区类型1332、尺寸为2N×nD 的分区类型1334、尺寸为nL×2N的分区类型1336以及尺寸为nR×2N的分区 类型1338。

变换单元的划分信息(TU尺寸标记)是一类变换索引。与变换索引相 应的变换单元的尺寸可根据编码单元的预测单元类型或分区类型而改变。

例如，当分区类型被设置成对称(即，分区类型1322、1324、1326或 1328)时，如果变换单元的TU尺寸标记是0，则设置尺寸为2N×2N的变换 单元1342，如果TU尺寸标记是1，则设置尺寸为N×N的变换单元1344。

当分区类型被设置成非对称(例如，分区类型1332、1334、1336或1338) 时，如果TU尺寸标记是0，则设置尺寸为2N×2N的变换单元1352，如果TU 尺寸标记是1，则设置尺寸为N/2×N/2的变换单元1354。

参照图20，TU尺寸标记是具有值0或1的标记，但是TU尺寸标记不 限于1比特，在TU尺寸标记从0增加的同时，变换单元可被分层划分以具 有树结构。变换单元的划分信息(TU尺寸标记)可以是变换索引的示例。

在这种情况下，根据本发明的实施例，可通过使用变换单元的TU尺寸 标记以及变换单元的最大尺寸和最小尺寸来表示实际上已使用的变换单元的 尺寸。视频编码设备100能够对最大变换单元尺寸信息、最小变换单元尺寸 信息和最大TU尺寸标记进行编码。对最大变换单元尺寸信息、最小变换单 元尺寸信息和最大TU尺寸标记进行编码的结果可被插入SPS。视频解码设 备200可通过使用最大变换单元尺寸信息、最小变换单元尺寸信息和最大TU 尺寸标记来对视频进行解码。

例如，(a)如果当前编码单元的尺寸是64×64并且最大变换单元尺寸是 32×32，则(a-1)当TU尺寸标记为0时，变换单元的尺寸可以是32×32，(a-2) 当TU尺寸标记为1时，变换单元的尺寸可以是16×16，(a-3)当TU尺寸标 记为2时，变换单元的尺寸可以是8×8。

作为另一示例，(b)如果当前编码单元的尺寸是32×32并且最小变换单 元尺寸是32×32，则(b-1)当TU尺寸标记为0时，变换单元的尺寸可以是 32×32。这里，由于变换单元的尺寸不能够小于32×32，因此TU尺寸标记不 能够被设置为除了0以外的值。

作为另一示例，(c)如果当前编码单元的尺寸是64×64并且最大TU尺 寸标记为1，则TU尺寸标记可以是0或1。这里，TU尺寸标记不能够被设 置为除了0或1以外的值。

因此，当TU尺寸标记为0时，如果定义最大TU尺寸标记为 “MaxTransformSizeIndex”，最小变换单元尺寸为“MinTransformSize”，变换单 元尺寸为“RootTuSize”，则可通过等式(1)来定义可在当前编码单元中确定 的当前最小变换单元尺寸“CurrMinTuSize”：

CurrMinTuSize＝max(MinTransformSize,RootTuSize/(2^MaxTransformSizeIndex)) …  (1)

与可在当前编码单元中确定的当前最小变换单元尺寸“CurrMinTuSize” 相比，当TU尺寸标记为0时，变换单元尺寸“RootTuSize”可指示可在系统中 选择的最大变换单元尺寸。在等式(1)中， “RootTuSize/(2∧MaxTransformSizeIndex)”指示当TU尺寸标记为0时，变换单元 尺寸“RootTuSize”被划分了与最大TU尺寸标记相应的次数时的变换单元尺 寸，“MinTransformSize”指示最小变换尺寸。因此， “RootTuSize/(2^MaxTransformSizeIndex)”和“MinTransformSize”中较小的值可以是 可在当前编码单元中确定的当前最小变换单元尺寸“CurrMinTuSize”。

根据本发明的实施例，最大变换单元尺寸RootTuSize可根据预测模式的 类型而改变。

例如，如果当前预测模式是帧间模式，则可通过使用以下的等式(2)来 确定“RootTuSize”。在等式(2)中，“MaxTransformSize”指示最大变换单元 尺寸，“PUSize”指示当前预测单元尺寸：

RootTuSize＝min(MaxTransformSize,PUSize)……  (2)

也就是说，如果当前预测模式是帧间模式，则当TU尺寸标记为0时的 变换单元尺寸“RootTuSize”可以是最大变换单元尺寸和当前预测单元尺寸中 较小的值。

如果当前分区单元的预测模式是帧内模式，则可通过使用以下的等式(3) 来确定“RootTuSize”。在等式(3)中，“PartitionSize”指示当前分区单元的尺 寸：

RootTuSize＝min(MaxTransformSize,PartitionSize)……  (3)

也就是说，如果当前预测模式是帧内模式，则当TU尺寸标记为0时的 变换单元尺寸“RootTuSize”可以是最大变换单元尺寸和当前分区单元的尺寸 之中较小的值。

然而，根据分区单元中的预测模式的类型而改变的当前最大变换单元尺 寸“RootTuSize”仅是示例，本发明不限于此。

根据如上参照图14至图26描述的基于具有树结构的编码单元的视频编 码方法，针对树结构的每个编码单元对空间域的图像数据进行编码。根据基 于具有树结构的编码单元的视频解码方法，针对每个最大编码单元执行解码 以恢复空间域的图像数据。因此，可恢复画面和视频(即，画面序列)。恢复 后的视频可通过再现设备被再现，可被存储在存储介质中，或者可通过网络 被发送。

根据本发明的实施例可被编写为计算机程序，并可在使用计算机可读记 录介质执行程序的通用数字计算机中被实现。计算机可读记录介质的示例包 括磁存储介质(例如，ROM、软盘、硬盘等)和光记录介质(例如，CD-ROM 或DVD)。

为了便于解释，以上参照图1A至图20描述的根据多视点视频预测方法、 多视点视频预测恢复方法或多视点视频编码方法的视频编码方法将被统称为 “根据本发明的视频编码方法”。另外，以上参照图1A至图20描述的根据多 视点视频预测恢复方法或多视点视频解码方法将被称为“根据本发明的视频 解码方法”。

另外，已参照图1A至图26描述的视频编码设备(包括多视点视频预测 编码设备10、多视点视频编码设备121、视频编码设备100或图像编码器400) 将被称为“根据本发明的视频编码设备”。另外，已参照图1A至图26描述的 视频解码设备(包括多视点视频预测解码设备20、多视点视频解码设备131、 视频解码设备200或图像解码器500)将被称为“根据本发明的视频解码设 备”。

现在将详细描述根据本发明的实施例的存储程序的计算机可读记录介质 (例如，盘26000)。

图27是根据本发明的实施例的存储程序的盘26000的物理结构。作为存 储介质的盘26000可以是硬盘驱动器、致密盘只读存储器(CD-ROM)盘、 蓝光盘或数字多功能盘(DVD)。盘26000包括多个同心磁道Tr，每个同心 磁道Tr沿盘26000的圆周方向被划分成特定数量的扇区Se。在盘26000的特 定区域中，可分配并存储执行如上所描述的量化参数确定方法、视频编码方 法和视频解码方法的程序。

现在将参照图28来描述使用存储以下程序的存储介质来实现的计算机 系统，其中，所述程序用于执行如上所述的视频编码方法和视频解码方法。

图28是通过使用盘26000来记录并读取程序的盘驱动器26800的示图。 计算机系统27000可经由盘驱动器26800将执行从根据本发明的实施例的视 频编码方法和视频解码方法中选择的至少一个的程序存储在盘26000中。为 了在计算机系统27000中运行存储在盘26000中的程序，可通过使用盘驱动 器26800从盘26000读取程序并将程序发送到计算机系统27000。

执行从根据本发明的实施例的视频编码方法和视频解码方法中选择的至 少一个的程序不仅可被存储在图27或图28中示出的盘26000中，还可被存 储在存储卡、ROM卡带或固态驱动器(SSD)中。

以下将描述应用以上所描述的视频编码方法和视频解码方法的系统。

图29是提供内容分布服务的内容供应系统11000的整体结构的示图。将 通信系统的服务区域划分成预定尺寸的小区，并将无线基站11700、11800、 11900和12000分别安装在这些小区中。

内容供应系统11000包括多个独立装置。例如，诸如计算机12100、个 人数字助理(PDA)12200、视频相机12300和移动电话12500的多个独立装 置经由互联网服务提供商11200、通信网络11400和无线基站11700、11800、 11900和12000连接到互联网11100。

然而，内容供应系统11000不限于如图29中所示，并且装置可选择性地 被连接到内容供应系统11000。多个独立装置可不经由无线基站11700、11800、 11900和12000而直接连接到通信网络11400。

视频相机12300是能够捕捉视频图像的成像装置，例如，数字视频相机。 移动电话12500可利用各种协议(例如，个人数字通信(PDC)、码分多址 (CDMA)、宽带码分多址(W-CDMA)、全球移动通信系统(GSM)和个人 手持电话系统(PHS))中的至少一种通信方法。

视频相机12300可经由无线基站11900和通信网络11400连接到流服务 器11300。流服务器11300允许经由视频相机12300从用户接收到的内容经由 实时广播被流传输。可使用视频相机12300或流服务器11300来对从视频相 机12300接收到的内容进行编码。通过视频相机12300捕捉到的视频数据可 经由计算机12100被发送到流服务器11300。

通过相机12600捕捉到的视频数据也可经由计算机12100被发送到流服 务器11300。与数码相机类似，相机12600是能够捕捉静止图像和视频图像 两者的成像装置。可使用相机12600或计算机12100对通过相机12600捕捉 到的视频数据进行编码。可将对视频执行编码和解码的软件存储在可由计算 机12100访问的计算机可读记录介质(例如，CD-ROM盘、软盘、硬盘驱动 器、SSD或存储卡)中。

如果视频数据通过内置在移动电话12500中的相机被捕捉到，则可从移 动电话12500接收视频数据。

还可通过安装在视频相机12300、移动电话12500或相机12600中的大 规模集成电路(LSI)系统来对视频数据进行编码。

内容供应系统1100可对由用户使用视频相机12300、相机12600、移动 电话12500或另一成像装置所记录的内容数据(例如，在音乐会期间记录的 内容)进行编码，并将编码后的内容数据发送到流服务器11300。流服务器 11300可将编码后的内容数据以流内容的形式发送到请求内容数据的其它客 户端。

客户端是能够对编码后的内容数据进行解码的装置，例如，计算机 12100、PDA 12200、视频相机12300或移动电话12500。因此，内容供应系 统11000允许客户端接收并再现编码后的内容数据。此外，内容供应系统 11000允许客户端实时接收编码后的内容数据并对编码后的内容数据进行解 码和再现，从而能够进行个人广播。

包括在内容供应系统11000中的多个独立装置的编码和解码操作可类似 于根据本发明的实施例的视频编码设备和视频解码设备的编码和解码操作。

现在将参照图30和图31更加详细地描述包括在根据本发明的实施例的 内容供应系统11000中的移动电话12500。

图30示出根据本发明的实施例的应用视频编码方法和视频解码方法的 移动电话12500的外部结构。移动电话12500可以是智能电话，所述智能电 话的功能不受限，并且所述智能电话的大量功能可被改变或扩展。

移动电话12500包括可与图21的无线基站12000交换射频(RF)信号 的内部天线12510，并包括用于显示由相机12530捕捉到的图像或经由天线 12510接收到的和解码的图像的显示屏12520(例如，液晶显示器(LCD)或 有机发光二极管(OLED)屏幕)。移动手机12500包括包含有控制按钮和触 摸面板的操作面板12540。如果显示屏12520是触摸屏，则操作面板12540 还包括显示屏12520的触摸感测面板。移动电话12500包括用于输出语音和 声音的扬声器12580或另一类型声音输出单元、以及用于输入语音和声音的 麦克风12550或另一类型声音输入单元。移动电话12500还包括用于捕捉视 频和静止图像的相机12530，诸如电荷耦合器件(CCD)相机。移动电话12500 还可包括：存储介质12570，用于存储例如通过相机12530捕捉到的视频或 静止图像、经由电子邮件接收到的编码/解码数据、或根据各种方式获得的编 码/解码数据；插槽12560，存储介质12570经由插槽12560被装入移动电话 12500中。存储介质12570可以是闪存，例如，包括在塑料壳中的安全数字 (SD)卡或电可擦和可编程只读存储器(EEPROM)。

图31示出根据本发明的实施例的移动电话12500的内部结构。为了系统 地控制包括显示屏12520和操作面板12540的移动电话12500的部件，供电 电路12700、操作输入控制器12640、图像编码单元12720、相机接口12630、 LCD控制器12620、图像解码单元12690、复用器/解复用器12680、记录/读 取单元12670、调制/解调单元12660以及声音处理器12650经由同步总线 12730被连接到中央控制器12710。

如果用户操作电源按钮，并从“电源关闭”状态设置为“电源开启”状态， 则供电电路12700从电池组向移动电话12500的所有部件供电，从而将移动 电话12500设置为操作模式。

中央控制器12710包括CPU、ROM和RAM。

在移动电话12500将通信数据发送到外部的同时，在中央控制器12710 的控制下，由移动电话12500产生数字信号。例如，声音处理器12650可产 生数字声音信号，图像编码单元12720可产生数字图像信号，并且消息的文 本数据可经由操作面板12540和操作输入控制器12640被产生。当在中央控 制器12710的控制下数字信号被发送到调制/解调单元12660时，调制/解调单 元12660对数字信号的频带进行调制，并且通信电路12610对频带调制数字 声音信号执行数模转换(DAC)和频率转换。从通信电路12610输出的发送 信号可经由天线12510被发送到语音通信基站或无线基站12000。

例如，当移动电话12500处于通话模式时，在中央控制器12710的控制 下，经由麦克风12550获得的声音信号通过声音处理器12650被变换成数字 声音信号。数字声音信号可经由调制/解调单元12660和通信电路12610被变 换成发送信号，并可经由天线12510被发送。

当文本消息(例如，电子邮件)在数据通信模式下被发送时，文本消息 的文本数据经由操作面板12540被输入，并经由操作输入控制器12640被发 送到中央控制器12610。在中央控制器12610的控制下，文本数据经由调制/ 解调单元12660和通信电路12610被变换成发送信号，并经由天线12510被 发送到无线基站12000。

为了在数据通信模式下发送图像数据，由相机12530捕捉到的图像数据 经由相机接口12630被提供给图像编码单元12720。捕捉到的图像数据可经 由相机接口12630和LCD控制器12620被直接显示在显示屏12520上。

图像编码单元12720的结构可与以上描述的视频编码设备100的结构相 应。图像编码单元12720可根据由以上描述的视频编码方法，将从相机12530 接收到的图像数据变换为压缩和编码后的图像数据，并然后将编码后的图像 数据输出到复用器/解复用器12680。在相机12530的记录操作期间，由移动 电话12500的麦克风12550获得的声音信号可经由声音处理器12650被变换 成数字声音数据，并且数字声音数据可被发送到复用器/解复用器12680。

复用器/解复用器12680对从图像编码单元12720接收到的编码后的图像 数据与从声音处理器12650接收到的声音数据一起进行复用。对数据进行复 用的结果可经由调制/解调单元12660和通信电路12610被变换成发送信号， 然后可经由天线12510被发送。

当移动电话12500从外部接收通信数据时，可对经由天线12510接收到 的信号执行频率恢复和ADC以将信号变换成数字信号。调制/解调单元12660 对数字信号的频带进行调制。根据频带调制后的数字信号的类型将所述数字 信号发送到视频解码单元12690、声音处理器12650或LCD控制器12620。

在通话模式下，移动电话12500对经由天线12510接收到的信号进行放 大，并通过对放大后的信号执行频率转换和ADC来获得数字声音信号。在中 央控制器12710的控制下，接收到的数字声音信号经由调制/解调单元12660 和声音处理器12650被变换成模拟声音信号，并且模拟声音信号经由扬声器 12580被输出。

当在数据通信模式下时，接收在互联网网站上访问的视频文件的数据， 经由调制/解调单元12660将经由天线12510从无线基站12000接收到的信号 输出为复用数据，并将复用数据发送到复用器/解复用器12680。

为了对经由天线12510接收到的复用数据进行解码，复用器/解复用器 12680将复用数据解复用成编码后的视频数据流和编码后的音频数据流。经 由同步总线12730，编码后的视频数据流和编码后的音频数据流分别被提供 给视频解码单元12690和声音处理器12650。

图像解码单元12690的结构可与以上描述的视频解码设备200的结构相 应。图像解码单元12690可根据由以上描述的视频解码设备200或图像解码 器500所使用的视频解码方法，对编码后的视频数据进行解码来获得恢复后 的视频数据，并经由LCD控制器12620将恢复后的视频数据提供给显示屏 12520。

因此，可将在互联网网站上访问的视频文件的数据显示在显示屏12520 上。同时，声音处理器12650可将音频数据变换成模拟声音信号，并将模拟 声音信号提供给扬声器12580。因此，也可经由扬声器12580再现在互联网 网站上访问的视频文件中包含的音频数据。

移动电话12500或另一类型的通信终端可以是包括根据本发明的实施例 的视频编码设备和视频解码设备两者的收发终端，可以是仅包括视频编码设 备的收发终端，或者可以是仅包括视频解码设备的收发终端。

根据本发明的通信系统不限于以上参照图30描述的通信系统。例如，图 32示出根据本发明的实施例的采用通信系统的数字广播系统。图32的数字 广播系统可通过使用根据本发明的实施例的视频编码设备和视频解码设备来 接收经由卫星或地面网络发送的数字广播。

具体地，广播站12890通过使用无线电波将视频数据流发送到通信卫星 或广播卫星12900。广播卫星12900发送广播信号，广播信号经由家用天线 12860被发送到卫星广播接收器。在每个房屋中，可通过TV接收器12810、 机顶盒12870或另一装置对编码后的视频流进行解码并再现。

当根据本发明的实施例的视频解码设备被实现在再现设备12830中时， 再现设备12830可对记录在存储介质12820(诸如用于恢复数字信号的盘或 存储卡)上的编码后的视频流进行解析和解码。因此，可在例如监视器12840 上再现恢复后的视频信号。

在被连接到用于卫星/地面广播的天线12860或用于接收有线电视(TV) 广播的线缆天线12850的机顶盒12870中，可安装根据本发明的实施例的视 频解码设备。从机顶盒12870输出的数据也可被再现在TV监视器12880上。

如另一示例，可将根据本发明的实施例的视频解码设备安装在TV接收 器12810中，而不是机顶盒12870中。

具有适当天线12910的汽车12920可接收从卫星12900或无线基站11700 发送的信号。可在安装在汽车12920中的汽车导航系统12930的显示屏上再 现解码后的视频。

视频信号可由根据本发明的实施例的视频编码设备来编码，然后可被存 储在存储介质中。具体地，可由DVD记录器将图像信号存储在DVD盘12960 中，或可由硬盘记录器12950将图像信号存储在硬盘中。如另一示例，可将 视频信号存储在SD卡12970中。如果硬盘记录器12950包括根据本发明的 实施例的视频解码设备，则记录在DVD盘12960、SD卡12970或另一存储 介质上的视频信号可被再现于TV监视器12880上。

汽车导航系统12930可不包括图31的相机12530、相机接口12630和图 像编码单元12720。例如，计算机12100和TV接收器12810可不包括在图 31的相机12530、相机接口12630和图像编码单元12720中。

图33是示出根据本发明的实施例的使用视频编码设备和视频解码设备 的云计算系统的网络结构的示图。

云计算系统可包括云计算服务器14000、用户数据库(DB)14100、多 个计算资源14200和用户终端。

响应于来自用户终端的请求，云计算系统经由数据通信网络(例如，互 联网)提供多个计算资源14200的点播外包服务。在云计算环境下，服务提 供商通过使用虚拟技术组合位于不同的物理位置的数据中心处的计算资源， 来为用户提供想要的服务。服务用户不必将计算资源(例如，应用、存储器、 操作系统(OS)和安全)安装在他/她拥有的终端中以使用它们，但可在想要 的时间点在通过虚拟技术产生的虚拟空间中从服务中选择和使用想要的服 务。

被指定的服务用户的用户终端经由包括互联网和移动通信网络的数据通 信网络被连接到云计算服务器14000。可从云计算服务器14000向用户终端 提供云计算服务，特别是视频再现服务。用户终端可以是能够被连接到互联 网的各种类型的电子装置，例如，桌上型PC 14300、智能TV 14400、智能电 话14500、笔记本计算机14600、便携式多媒体播放器(PMP)14700、平板 PC 14800等。

云计算服务器14000可组合分布在云网络中的多个计算资源14200，并 向用户终端提供组合的结果。所述多个计算资源14200可包括各种数据服务， 并可包括从用户终端上载的数据。如上所描述的，云计算服务器14000可通 过根据虚拟技术组合分布在不同区域中的视频数据库来向用户终端提供想要 的服务。

将关于已经订购云计算服务的用户的用户信息存储在用户DB 14100中。 用户信息可包括用户的注册信息、地址、姓名和个人信用信息。用户信息还 可包括视频的索引。这里，所述索引可包括已经被再现的视频的列表、正在 被再现的视频的列表，之前被再现的视频的暂停点等。

可在用户装置之间共享存储在用户DB 14100中的关于视频的信息。例 如，当响应于来自笔记本计算机14600的请求将视频服务提供给笔记本计算 机14600时，视频服务的再现历史被存储在用户DB 14100中。当从智能电话 14500接收到用于再现此视频服务的请求时，云计算服务器14000基于用户 DB 14100搜索并再现此视频服务。当智能电话14500从云计算服务器14000 接收到视频数据流时，通过对视频数据流进行解码来再现视频的处理与以上 参照图30描述的移动电话12500的操作类似。

云计算服务器14000可参考存储在用户DB 14100中的想要的视频服务 的再现历史。例如，云计算服务器14000从用户终端接收用于再现存储在用 户DB 14100中的视频的请求。如果此视频之前被再现过，则由云计算服务器 14000执行的对此视频进行流传输的方法可根据来自用户终端的请求(即， 根据是将从视频的起点还是视频的暂停点来再现视频)而不同。例如，如果 用户终端请求从视频的起点开始再现视频，则云计算服务器14000将从视频 的第一帧开始的视频的流数据发送到用户终端。如果用户终端请求从视频的 暂停点开始再现视频，则云计算服务器14000将从与暂停点相应的帧开始的 视频的流数据发送到用户终端。

在此情况下，用户终端可包括如以上参照图1A至图26描述的视频解码 设备。如另一示例，用户终端可包括如以上参照图1A至图26描述的视频编 码设备。选择性地，用户终端可包括如以上参照图1A至图26描述的视频解 码设备和视频编码设备两者。

以上已经参照图27至图33描述了以上参照图1A至图26描述的根据本 发明的实施例的视频编码方法、视频解码方法、视频编码设备和视频解码设 备的各种应用。然而，根据本发明的各种实施例的将视频编码方法和视频解 码方法存储在存储介质中的方法，或者将视频编码设备和视频解码设备实现 在装置中的方法不限于以上参照图27至图33描述的实施例。

虽然已参照本发明的实施例具体示出并描述了本发明，但是本领域的普 通技术人员将理解，在不脱离由所附权利要求书限定的本发明的精神和范围 的情况下，可在其中进行形式和细节上的各种改变。实施例应该仅被认为是 描述意义的而不是限制的目的。因此，本发明的范围不是由本发明的详细描 述来限定，而是所附权利要求限定，并且落在范围内的所有差别将被解释为 包括在本发明中。