视频帧的编码模式筛选方法、装置及电子设备.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN114157868A(43)申请公布日2022.03.08(21)申请号202210116116.6(22)申请日2022.02.07(71)申请人杭州未名信科科技有限公司地址311200浙江省杭州市萧山区宁围街道钱江世纪公园C区1幢101室申请人浙江省北大信息技术高等研究院(72)发明人张鹏陈长鑫向国庆黄晓峰严伟范益波(74)专利代理机构北京辰权知识产权代理有限公司11619代理人支宇鑫(51)Int.Cl.H04N19/147(2014.01)权利要求书2页说明书11页附图6页(54)发明名称视频帧的编码模式筛选方法、装置及电子设备(57)摘要本申请公开了一种视频帧的编码模式筛选方法、装置及电子设备。其中，该方法包括：根据当前编码单元CU的编码数据，判断当前CU的相邻CU集合中是否存在编码模式为仿射模式的仿射CU子集；确定当前CU在仿射模式下的第一率失真代价，以及获取第二率失真率代价集合；在相邻CU集合中不存在编码模式为仿射模式的仿射CU子集的情况下，在当前CU存在父CU且父CU的最优模式为跳跃SKIP模式的情况下，获取第二率失真率代价集合；将第一率失真代价和第二率失真率代价集合中最小率失真代价对应的预测模式作为当前CU的目标编码预测模式。本申请解决了相关技术中的确定CU的帧间预测模式效率较低的技术问题。CN114157868ACN114157868A权利要求书1/2页1.一种视频帧的编码模式筛选方法，其特征在于，包括：根据当前编码单元CU的编码数据，判断所述当前CU的相邻CU集合中是否存在编码模式为仿射模式的仿射CU子集，所述仿射CU子集中的每个CU均为已编码单元；在所述相邻CU集合中存在编码模式为仿射模式的仿射CU子集的情况下，确定所述当前CU在所述仿射模式下的第一率失真代价，以及获取第二率失真率代价集合；其中，所述第二率失真率代价集合为所述当前CU在AVS3标准的每个非仿射模式下的率失真代价的集合；在所述相邻CU集合中不存在编码模式为仿射模式的仿射CU子集的情况下，判断所述当前CU是否存在父CU且所述父CU的最优模式为直接SKIP模式；在所述当前CU存在父CU且所述父CU的最优模式为跳跃SKIP模式的情况下，获取所述第二率失真率代价集合；其中，所述非仿射模式包括所述跳跃SKIP模式；在所述当前CU不存在父CU且所述父CU的最优模式为跳跃SKIP模式的情况下，确定所述当前CU在所述仿射模式下的第一率失真代价；将第一率失真代价和第二率失真率代价集合中最小率失真代价对应的预测模式作为所述当前CU的目标编码预测模式。2.根据权利要求1所述的方法，其特征在于，所述仿射模式包括仿射合并AffineMerge模式，所述判断所述当前CU的相邻CU集合中是否存在编码模式为仿射模式的仿射CU子集，包括：判断所述当前CU的相邻CU集合中是否存在编码模式为AffineMerge模式的仿射CU子集。3.根据权利要求1所述的方法，其特征在于，所述仿射模式包括仿射跳跃AffineSkip模式，所述判断所述当前CU的相邻CU集合中是否存在编码模式为仿射模式的仿射CU子集，包括：判断所述当前CU的相邻CU集合中是否存在编码模式为所述AffineSkip模式的仿射CU子集。4.根据权利要求1所述的方法，其特征在于，所述在所述相邻CU集合中存在编码模式为仿射模式的仿射CU子集的情况下，确定所述当前CU在所述仿射模式下的第一率失真代价，包括：在所述相邻CU集合中存在编码模式为仿射模式的仿射CU子集的情况下，判断所述相邻CU集合中每个CU与所述当前CU的运动矢量的角度差异；当存在与当前CU的角度差异大于预设阈值时，确定出所述当前CU在所述仿射模式下的第一率失真代价。5.根据权利要求1至4中任一项中所述的方法，其特征在于，所述非仿射模式还包括整像素预测模式，分像素预测模式，直接Direct模式；所述获取第二率失真率代价集合，包括：分别获取所述当前CU在整像素预测模式，分像素预测模式，跳跃SKIP模式和直接Direct模式下的率失真代价，得到所述第二率失真率代价集合。6.根据权利要求1所述的方法，其特征在于，在确定所述当前CU在所述仿射模式下的第一率失真代价之前，还包括：通过以下公式预测所述当前CU的运动矢量信息：2CN114157868A权利要求书2/2页其中，为当前CU的控制点在水平方向上的运动矢量，为当前CU的控制点在竖直方向上的运动矢量，a，b，c，d，e，f为调整参数。7.一种视频帧的编码模式筛选装置，其特征在于，包括：第一判断单元，用于根据当前编码单元CU的编码数据，判断所述当前CU的相邻CU集合中是否存在编码模式为仿射模式的仿射CU子集，所述仿射CU子集中的每个CU均为已