本发明涉及视频编码和解码。
背景技术:
1、联合视频专家组(jvet)(由mpeg和itu-t第16研究组的vceg组成的合作团队)发布了称为多功能视频编码(vvc)的新视频编码标准。vvc的目标是在现有hevc标准上提供压缩性能的显著改进(即,通常是以前的两倍)。主要目标应用和服务包括但不限于360度和高动态范围(hdr)视频。在超高清(uhd)视频测试材料上示出了特定的效果。因此,针对最终标准,我们可以预期压缩效率的提高将远超过作为目标的50%。
2、自vvc v1标准结束以来,jvet通过建立探索软件(ecm)启动了探索阶段。jvet收集了附加工具并且改进了vvc标准的基础上的现有工具,以实现更好的编码效率。
3、与hevc相比,除了其他修改,vvc具有修改的用于运动矢量预测的“合并模式”的集合,这以更大的复杂性为代价实现了更好的编码效率。运动矢量预测是通过导出“运动矢量预测器候选”的列表来实现的,其中所选择的候选的索引在位流中被用信号通知。针对各个编码单元(cu)生成合并候选列表。但是cu可以被拆分成更小的块,以用于解码器侧运动矢量修正(decoder-side motion vector refinement(dmvr))或其他方法。
4、该列表的组成和顺序可能对编码效率产生显著影响,因为准确的运动矢量预测器减小了块预测器的残差或失真的大小,并且在列表的顶端具有这样的候选减少了用信号通知所选择的候选所需的位的数量。本发明旨在改进这些方面中的至少一个。
5、修改被并入vvc v1和ecm中意味着可以有多达10个运动矢量预测器候选;这实现了候选的多样性,但是如果选择了列表中较低的候选,位速率可能增加。本发明广泛涉及对运动矢量预测器候选的列表中的候选的排序的改进。特别地,候选的计算成本不代表该候选有多大可能被选择的实例。对列表进行重新排序可以导致编码效率提高,并且重新排序的有效率方法可以导致复杂性降低。本发明的各种实施例实现了这些优点中的一个或这两个。
6、根据本发明的一个方面,提供一种用于生成运动矢量预测器候选的列表的方法,所述运动矢量预测器候选用于预测图像部分中的运动,所述方法包括:向所述列表添加第一集合的运动矢量预测器候选;在所述第一集合的运动矢量预测器候选的数量低于最大候选数量的情况下,向所述列表添加第二集合的运动矢量预测器候选,使得候选的总数量等于所述最大候选数量;对候选的所述列表进行重新排序,其中,从所述重新排序中排除所述第二集合的候选。可选地,所述第一集合不包括重复。
7、在本发明的另一方面,提供一种用于生成运动矢量预测器候选的列表的方法,所述运动矢量预测器候选用于预测图像部分中的运动,所述方法包括:向所述列表添加第一集合的运动矢量预测器候选;确定所述列表中的重复候选;在所述第一集合的运动矢量预测器候选的数量低于最大候选数量的情况下,向所述列表添加第二集合的运动矢量预测器候选,使得候选的总数量等于所述最大候选数量;对候选的所述列表进行重新排序,其中,从所述重新排序中排除所述重复候选。可选地,还从所述重新排序中排除所述第二集合的候选。
8、以下声明可应用于以上提及的方面中的任一个:
9、可选地,所述第二集合运动矢量预测器是零候选,以及所述第一集合的候选不是零候选。
10、所述第一集合的候选可以是从先前解码或编码后的至少一个运动信息导出的候选。可选地,所述第一集合的候选是从包括时间候选、空间候选、历史候选、先前使用的候选、以及从其他候选导出的候选中的一者或多于一者的真正样本导出的候选。
11、所述重新排序可以是基于所计算出的所述候选的相对成本的。任选地,至少一个所述候选是从至少一个空间或时间匹配的模板导出的,其中,定界区域内的模板是可用的,而所述定界区域外的模板是不可用的,以及在至少一个模板不可用的情况下,计算针对所述候选的非零成本。
12、在本发明的又一方面,提供一种用于生成运动矢量预测器候选的列表的方法,所述运动矢量预测器候选用于预测图像部分中的运动,所述方法包括:向列表添加多个运动矢量预测器候选;计算与所述列表中的至少一个候选相关联的成本,其中,所述至少一个候选是从至少一个空间或时间匹配的模板导出的,其中,相对于所述图像部分的定界区域内的模板是可用的,而所述定界区域外的模板是不可用的,以及在至少一个模板不可用的情况下,计算针对所述候选的非零成本,并且根据所计算出的成本对所述列表进行重新排序。
13、可以基于导出所述候选的一个或多于一个模板的大小来确定所述成本。
14、可以基于可用模板的样本的数量和不可用模板来确定所述成本。例如,可以基于可用样本与不可用样本的比率来确定所述成本。
15、可选地,用于确定所述成本的除法近似于移位操作。
16、可选地,将针对不可用模板的成本值设置为等于相关可用模板的成本值。
17、可选地,在没有模板可用的情况下,将所述成本设置为最大值。例如,在所添加的运动矢量预测器候选的数量低于最大候选数量的情况下,没有相关模板可用的候选可以在所述列表中被重新排序在紧挨在所添加的运动矢量预测器候选之上,使得候选的总数量等于所述最大候选数量。可选地,在所添加的运动矢量预测器候选的数量低于最大候选数量的情况下,所述最大值低于被分配给所添加的运动矢量预测器候选的成本,使得候选的总数量等于所述最大候选数量。
18、在实施例中,针对所述候选的成本被分配最大值。
19、可选地,所述至少一个候选是具有两个空间匹配的模板的双向候选,以及在确定所述双向候选的成本时,使用可用模板的成本来代替不可用模板的成本。
20、可选地,所述至少一个候选是具有两个空间匹配的模板的双向候选,以及仅使用可用模板来计算所述双向候选的成本。
21、在一个模板是部分可用的情况下,可以针对可用的样本计算成本,或者针对不可用模板的成本对应于相关可用模板的成本。
22、该方法还可以包括在模板不是可用的情况下将权重应用于所计算出的候选的成本。
23、在本发明的又一方面,提供一种用于生成运动矢量预测器候选的列表的方法,所述运动矢量预测器候选用于预测图像部分中的运动,所述方法包括:向列表添加多个运动矢量预测器候选,其中,所述列表中的至少一个候选是从至少一个空间或时间匹配的模板导出的,其中,相对于所述图像部分的定界区域内的模板是可用的,而所述定界区域外的模板是不可用的,以及除非至少一个模板不可用,否则对所述列表进行重新排序。
24、可选地,除非所有模板都不可用,否则进行所述重新排序。
25、在本发明的另一方面,提供一种用于生成运动矢量预测器候选的列表的方法,所述运动矢量预测器候选用于预测图像部分中的运动,所述方法包括:确定与所述图像部分的模板相关的至少一个模板的可用性;以及根据该模板的可用性来导出所述运动矢量预测器候选。
26、可选地,在至少一个模板不可用的情况下,所述方法包括向所述列表添加另外的至少一个时间候选。
27、可选地,无论所述模板的可用性如何,时间候选的数量都是相同的。
28、可选地,所述方法还包括减少最大候选数量。
29、可选地,所述方法还包括在添加所述另外的时间候选之前减小运动矢量阈值。
30、可以基于与所述列表中的候选相关联的至少一个样本与至少一个其他样本之间的比较度量来计算该候选的成本。可以基于预测器块的相邻样本与当前块的相邻样本之间的差来计算针对候选的所述成本。可选地,通过计算两个块的预测器的差来计算针对候选的所述成本。可选地,通过计算与所述列表中的另一候选的差来计算针对候选的所述成本。可选地,所述另一候选是可能性最高的候选。可选地,所述成本是基于所述预测器的样本或相邻的子采样的。可选地,所述成本是基于与根据另一分辨率的图像相对应的样本的。可选地,对用于计算所述成本的样本的值进行预处理。
31、可选地,所述成本对应于失真。所述失真可以是sad、satd、sse或ssim。
32、可选地,所述成本包括权重。所述权重可以在运动矢量预测器候选之间不同。所述方法还可以包括:导出与所述第一集合中的运动矢量预测器候选的数量相对应的变量,并且根据所述变量来进行所述列表的重新排序。
33、在上述方面和实施例中,可选地,所述变量识别来自所述第二集合的运动矢量预测器候选中的第一候选。可以将所述第二集合中的各个运动矢量预测器候选与变量相关联,并且根据这些变量来进行所述重新排序。所述方法可选地包括将未重新排序的运动矢量预测器候选设置到所述列表的末尾。
34、所述方法可以包括对所述未重新排序的运动矢量预测器候选进行第二重新排序处理。
35、所述方法可以包括:在所述第一集合包含不多于一个候选时,对所述未重新排序的运动矢量预测器候选进行第二重新排序处理。
36、所述方法可以包括根据编码模式对所述未重新排序的运动矢量预测器候选进行第二重新排序处理。
37、可选地,不针对子块合并模式应用所述第二重新排序。
38、可选地,所述方法还包括:在模式具有大于阈值的数量的候选时,对所述未重新排序的运动矢量预测器候选进行第二重新排序处理。
39、在本发明的另一方面,提供一种用于将图像数据编码到位流中的方法,所述方法包括根据上述方面和实施例中的任一者的用于生成运动矢量预测器候选的列表的方法。
40、在本发明的另一方面,提供一种用于从位流中解码图像数据的方法,所述方法包括根据上述方面和实施例中的任一者的用于生成运动矢量预测器候选的列表的方法。
41、在本发明的另一方面,提供一种用于将图像数据编码到位流中的装置,所述装置被配置为进行根据上述方面和实施例中的任一者的用于生成运动矢量预测器候选的列表的方法。
42、在本发明的另一方面,提供一种用于从位流中解码图像数据的装置,所述装置被配置为进行根据上述方面和实施例中的任一者的用于生成运动矢量预测器候选的列表的方法。
43、在本发明的另一方面,提供一种计算机程序,其在执行时使得进行根据上述方面和实施例中的任一者的方法。计算机程序可以被存储在可以是暂态或非暂态的计算机可读载体介质上。
44、本发明的其他方面涉及相应的编码方法、编码装置、解码装置和可操作以执行本发明的解码和/或编码方法的计算机程序。
45、程序可以独立地提供,或者可以在载体介质上、由载体介质承载或在载体介质中承载。载体介质可以是非暂态的,例如存储介质,特别是计算机可读存储介质。载体介质也可以是暂态的,例如信号或其他传输介质。信号可以经由任何合适的网络(包括因特网)传输。本发明的其他特征由独立权利要求和从属权利要求表征。
46、本发明一个方面中的任何特征可以以任何适当的组合应用于本发明的其他方面。特别地,方法方面可以应用于设备方面,反之亦然。
47、此外,硬件中实现的特征可以在软件中实现,反之亦然。本文中对软件和硬件特征的任何引用都应被相应地解释
48、如本文所述的任何设备特征也可以被提供为方法特征,反之亦然。如本文所使用的,部件加功能特征可以替代地在其相应结构(诸如适当编程的处理器和相关联的存储器)方面来表达。
49、还应当理解,可以独立地实现和/或提供和/或使用在本发明的任何方面中描述和定义的各种特征的特定组合。
50、本发明的其他方面由独立权利要求和从属权利要求提供。
技术实现思路
1.一种用于生成运动矢量预测器候选的列表的方法,所述运动矢量预测器候选用于预测图像部分中的运动,所述方法包括:
2.根据权利要求1所述的方法,其中,所述第一集合不包括重复。
3.一种用于生成运动矢量预测器候选的列表的方法,所述运动矢量预测器候选用于预测图像部分中的运动,所述方法包括:
4.根据权利要求3所述的方法,其中,还从所述重新排序中排除所述第二集合的候选。
5.根据前述权利要求中任一项所述的方法,其中,所述第二集合的运动矢量预测器候选是零候选,以及所述第一集合的候选不是零候选。
6.根据前述权利要求中任一项所述的方法,其中,所述第一集合的候选是从先前解码或编码后的至少一个运动信息导出的候选。
7.根据权利要求6所述的方法,其中,所述第一集合的候选是从与时间候选、空间候选、历史候选、先前使用的候选、以及从其他候选导出的候选中的一者或多于一者相对应的真正样本导出的候选。
8.根据前述权利要求中任一项所述的方法,其中,所述重新排序是基于所计算出的所述候选的相对成本的。
9.根据权利要求8所述的方法,其中,至少一个所述候选是从至少一个空间或时间匹配的模板导出的,
10.一种用于生成运动矢量预测器候选的列表的方法,所述运动矢量预测器候选用于预测图像部分中的运动,所述方法包括:
11.根据权利要求9或10所述的方法,其中,基于导出所述候选的一个或多于一个模板的大小来确定所述成本。
12.根据权利要求9至11中任一项所述的方法,其中,基于可用模板的样本的数量和不可用模板来确定所述成本。
13.根据权利要求12所述的方法,其中,基于可用样本与不可用样本的比率来确定所述成本。
14.根据权利要求11至13所述的方法,其中,用于确定所述成本的除法近似于移位操作。
15.根据权利要求9至10中任一项所述的方法,将针对不可用模板的成本值设置为等于相关可用模板的成本值。
16.根据权利要求9至23中任一项所述的方法,其中,在没有模板可用的情况下,将所述成本设置为最大值。
17.根据权利要求16所述的方法,其中,在所添加的运动矢量预测器候选的数量低于最大候选数量的情况下,没有相关模板可用的候选在所述列表中被重新排序在紧挨在所添加的运动矢量预测器候选之上,使得候选的总数量等于所述最大候选数量。
18.根据权利要求16或17所述的方法,其中,在所添加的运动矢量预测器候选的数量低于最大候选数量的情况下,所述最大值低于被分配给所添加的运动矢量预测器候选的成本,使得候选的总数量等于所述最大候选数量。
19.根据权利要求9至18中任一项所述的方法,其中,针对所述候选的成本被分配最大值。
20.根据权利要求9至19中任一项所述的方法,其中,所述至少一个候选是具有两个空间匹配的模板的双向候选,以及
21.根据权利要求9至19中任一项所述的方法,其中,所述至少一个候选是具有两个空间匹配的模板的双向候选,以及
22.根据权利要求20或21所述的方法,其中,在一个模板是部分可用的情况下,针对可用的样本计算成本,或者针对不可用模板的成本对应于相关可用模板的成本。
23.根据权利要求9至22中任一项所述的方法,还包括在模板不是可用的情况下将权重应用于所计算出的候选的成本。
24.一种用于生成运动矢量预测器候选的列表的方法,所述运动矢量预测器候选用于预测图像部分中的运动,所述方法包括:
25.根据权利要求24所述的方法,其中,除非所有模板都不可用,否则进行所述重新排序。
26.一种用于生成运动矢量预测器候选的列表的方法,所述运动矢量预测器候选用于预测图像部分中的运动,所述方法包括:
27.根据权利要求26所述的方法,其中,在至少一个模板不可用的情况下,所述方法包括向所述列表添加另外的至少一个时间候选。
28.根据权利要求26或27所述的方法,其中,无论所述模板的可用性如何,时间候选的数量都是相同的。
29.根据权利要求26至28中任一项所述的方法,包括:减少最大候选数量。
30.根据权利要求26至29中任一项所述的方法,包括:减小运动矢量阈值。
31.根据权利要求8至30中任一项所述的方法,其中,基于与所述列表中的候选相关联的至少一个样本与至少一个其他样本之间的比较度量来计算该候选的成本。
32.根据权利要求31所述的方法,其中,基于预测器块的相邻样本与当前块的相邻样本之间的差来计算针对候选的所述成本。
33.根据权利要求31所述的方法,其中,通过计算两个块预测器的差来计算针对候选的所述成本。
34.根据权利要求31所述的方法,其中,通过计算与所述列表中的另一候选的差来计算针对候选的所述成本。
35.根据权利要求34所述的方法,其中,所述另一候选是可能性最高的候选。
36.根据权利要求31所述的方法,其中,所述成本是基于所述预测器的样本或相邻的子采样的。
37.根据权利要求31所述的方法,其中,所述成本是基于与根据另一分辨率的图像相对应的样本的。
38.根据权利要求31至37中任一项所述的方法,其中,对用于计算所述成本的样本的值进行预处理。
39.根据权利要求31至38中任一项所述的方法,其中,所述成本对应于失真。
40.根据权利要求39所述的方法,其中,所述失真是sad、satd、sse或ssim。
41.根据权利要求8至40中任一项所述的方法,其中,所述成本包括权重。
42.根据权利要求41所述的方法,其中,所述权重在运动矢量预测器候选之间不同。
43.根据前述权利要求中任一项所述的方法,包括:导出与所述第一集合中的运动矢量预测器候选的数量相对应的变量,并且根据所述变量来进行所述列表的重新排序。
44.根据权利要求43所述的方法,其中,所述变量识别来自所述第二集合的运动矢量预测器候选中的第一候选。
45.根据权利要求1或2所述的方法,其中,将所述第一集合中的各个运动矢量预测器候选与变量相关联,并且根据这些变量来进行所述重新排序。
46.根据前述权利要求中任一项所述的方法,包括:将未重新排序的运动矢量预测器候选设置到所述列表的末尾。
47.根据权利要求46所述的方法,包括:对未重新排序的运动矢量预测器候选进行第二重新排序处理。
48.根据权利要求46所述的方法,包括:在所述第一集合包含不多于一个候选时,对未重新排序的运动矢量预测器候选进行第二重新排序处理。
49.根据权利要求46所述的方法,包括:根据编码模式对未重新排序的运动矢量预测器候选进行第二重新排序处理。
50.根据权利要求49所述的方法,其中,不针对子块合并模式应用所述第二重新排序。
51.根据权利要求46所述的方法,包括:在模式具有大于阈值的数量的候选时,对未重新排序的运动矢量预测器候选进行第二重新排序处理。
52.一种用于将图像数据编码到位流中的方法,所述方法包括根据权利要求1至51中任一项所述的用于生成运动矢量预测器候选的列表的方法。
53.一种用于从位流中解码图像数据的方法,所述方法包括根据权利要求1至51中任一项所述的用于生成运动矢量预测器候选的列表的方法。
54.一种用于将图像数据编码到位流中的装置,所述装置被配置为进行根据权利要求1至51中任一项所述的用于生成运动矢量预测器候选的列表的方法。
55.一种用于从位流中解码图像数据的装置,所述装置被配置为进行根据权利要求1至51中任一项所述的用于生成运动矢量预测器候选的列表的方法。
56.一种计算机程序,其在执行时使得进行根据权利要求1至51中任一项所述的方法。
57.一种计算机可读载体介质,其上存储有根据权利要求56所述的计算机程序。
