H264帧内预测模式的快速选择算法.pdf

http://www.paper.edu.cn

H.264帧内预测模式的快速选择算法

程飞
北京邮电大学电信工程学院，北京（100876）
E-mail：[e-mail]
摘要：H.264视频压缩编码标准比先前的H.261和H.263标准有更好的编码效果。这主要
归功于H.264标准中在编码过程中采用的大量复杂的编码压缩方法。多模式帧内预测就是这
些方法之一。为了达到更好的压缩性能，H.264标准中采用了13种不同的帧内预测模式。
比特率－失真度最优化算法(RDO)被引入到H.264标准中为每一个宏块来选择出最匹配的预
测模式。RDO算法在能够达到很好的编码效果的同时也给整个编码过程带来了很大的计算
量并耗费了大部分的处理时间。本文提出了一种新型的帧内预测模式的快速选择算法，该算
法首先基于图像内部的差异度对16×16和4×4这两类预测模式进行选择，然后基于绝对变
换误差（SATD）对细分的预测模式进行进一步的选择。本文提出的算法简单有效，能够显
著的减小候选模式和RDO的计算量。最终的试验结果表明，文中提出的快速选择算法可以
将整个编码时间减少到采用标准RDO算法时的41%-46%，而且和标准的RDO算法比较，
最终压缩后的视频图像质量也只下降了0.4dB。
关键词：帧内预测，绝对变换误差（SATD），差异度，码率－失真度最优化(RDO)算法
中图分类号：TN915

1.引言
H.264/AVC是由ITUT和MPEG一起联合开发的新一代视频编解码标准，可以在不牺牲
图像质量的前提下提供更高的压缩效率。许多新的技术首次在该标准中采用，例如帧内编码
的空间预测，可变块大小的运动补偿，多个参考帧以及自适应二进制编码。在这新的特性中，
通过运用可变大小块和多个方向预测的技术，帧内预测模式被极大的丰富了。根据[1]的研
究结果，借助于这些新特性H.264/AVC帧内编码的性能超过了JPEG-2000的静态图像压缩
标准。然而，为了达到上述目的，H.264/AVC大大增加了编码器的运算复杂度，从而增大了
H.264编码器的硬件实施难度和实时的应用。
在H.264/AVC的帧内预测部分，总共定义了9种4×4尺寸的预测模式，4种16×16尺
寸的预测模式[2]。为了在这么多的预测模式里选择最佳预测模式，H.264/AVC采用了率失
真优化（RDO）算法。RDO算法是通过计算率失真度（RDcost），根据所得的结果选择最佳
模式，其中使用的计算公式是：

RDcost=Distortion+Rate×λ（1）
其中，Distortion表示的是对应预测模式的失真度，Rate表示编码之后的码流速率，λ
表示的是一个拉格朗日系数。尽管RDO算法可以保证编码后的图像获得最佳的压缩效率和
图像质量，但是由于率失真优化的计算复杂度非常高，而且在H.264的测试软件JM9.8里采
用的是全搜索算法，即对每一种预测模式都要进行RDO计算，从而选出RDcost值最小的
作为最佳预测模式。这导致了帧内预测的计算量十分巨大，需要耗费大量的编码时间，是整
个编码过程中最耗时的部分。所以对帧内预测模式选择算法进行优化是十分必要的，它可以
降低整个H.264编码的复杂度和编码耗时，使得H.264编码技术能够更好的满足实时应用的
需求。
与大量的帧间预测快速算法相比,快速帧内预测这方面的研究工作还不是很多，比较有
代表性的有F.Pang等人提出的基于边缘方向检测预处理的模式选择算法[3]，及C.S.Kim
等人提出的利用绝对差和及方向信息的多级模式预测来减少RDO运算的方法[4]。此外,还有

-0-
http://www.paper.edu.cn

B.J.Meng等人提出的基于预测块的部分计算，提前终止和模式选择的快速帧内预测算法
[5,6],但其算法复杂度较高。Chao-ChungCheng提出了一种快速三步预测模式选择算法[7]，
但是这种算法只是针对帧内4×4预测模式。
在本文中，我们描述了一种高效的快速模式选择算法来进行H.264/AVC中帧内预测模
式的选择。该算法的不同之处在于我们改变了模式选择的架构，即先对16×16和4×4这两
类预测模式进行选择，选择的标准是基于我们提出的一个新的变量—宏块差异度。这种架构
之下可以兼容其它的快速模式选择算法，即做出预测尺寸的选择后，对细分的预测模式选择
可以采用上面提到的或者其它的一些模式选择算法，在本文中，我们采用的是一种更加简单
有效的基于绝对变换误差（SATD）的细分模式选择算法。我们提出的快速算法被整合到了
H.264/AVC的测试软件JM98编解码模块中，最终的试验结果证明我们的算法可以将整个视
频编码时间减少到41%-46%而且保证图像质量的下降只有0.04dB。
2.