H264帧内模式选择快速算法.pdf

http://www.paper.edu.cn

H.264帧内模式选择快速算法
顾正国
河海大学电子信息工程系，南京（210098）
E-mail：[e-mail]
摘要：针对H.264帧内预测的多模式选择问题,提出一种基于二维直方图和编码块预测模
式相关性相结合的模式选择算法.试验结果表明，所提算法在码率只有少许增加的情况下，I
帧编码速度提高了20%，PSNR值基本不变。
关键词：H.264，帧内预测，RDO，SATD，二维直方图
中图分类号：TN919.81

1．引言

ITU-TVCEG(VideoCodingExpertsGroup)和ISO/IECMPEG(MovingPicturesExperts
Group)共同组建的联合视频专家组JVT于2003年正式发布了新一代视频编码标准
H.264/AVC[1]。H.264的压缩效率是MPEG-4或H.263+的2倍左右，将主要用于“视频会话”、
网络视频流和消费电子应用等。
H.264优异的性能是通过运算复杂度的增加来获取的，其帧内编码的复杂度较以往的
H.263或是H.26L都有了显著的增加。在H.264编码标准中I帧图像进行独立编码，不参考
其他帧的图像。由于I帧包含信息量大，为了提高编码效率，需要利用帧内编码来缩减图像
的空间冗余。相邻的宏块通常含有相似的属性。因此，在对一给定宏块编码时，首先可以根
据周围的宏块预测，然后对预测值与实际值的差值进行编码，这样，相对于直接对该帧编码
而言，可以大大减小码率。在H.264中对4x4的像素子宏块采用了9种预测模式，对于16x16
的宏块采用了4种预测模式，这些宏块划分模式和预测模式对编码器压缩性能的提高作出了
一定的贡献。然而对于I帧图像支持三种宏块划分模式（4x4宏块、8x8宏块、16x16宏块）
而对每一划分模式都有几种预测方法，这样要找到一个合适的划分方法及预测模式对编码器
编码速度的提高至关重要。

2．预测模式编码及其选择过程

相邻的块的预测模式之间具有很强的相关性，根据当前块的左边块和上边块的预测模式
可以预测当前的最可能模式（MostProbableModeMPM）.利用该相关性可以达到高效编码
和快速模式选择的目的。
根据邻近块的预测模式的不同，当前块的最佳预测模式是不同的。根据邻近块预测模式
的不同组合得到当前块的一个MPM。将这个MPM与计算得到的当前块的最佳预测模式相
比较：如果相同，则在编码是只需使用1个比特；否则，需发送3个比特来表示剩余8种预
测模式中最佳的一个。
在JM模型中采用RDO技术的帧内预测模式选择过程如下：
1）分别计算4种Intra_16x16模式的SAD（SumofAbsoluteDifference），选择具有最小
SAD的模式。计算该模式下的RD_cost，得到当前宏块Intra_16x16模式下RD_cost16x16。
2）分别计算9种Intra_4x4模式下的代价RD_cost，选择具有最小代价的模式。代价函

数RD_cost=SSD+λMODExRate,其中SSD（SumofSquaredDifference）表示当前块与重建

-1-
http://www.paper.edu.cn

(QP−12)/3
块的差值的平方和；λMODE=0.85×2（QP为量化参数）；Rate表示熵编码后的码率。
3）把16个4x4块最小的RD_cost相加得到当前宏块Intra_4x4模式下RD_cost4x4。
4）比较前面获得的RD_cost4x4、RD_cost16x16，选择代价较小的作为该宏块的帧内预
测模式。
当前对于帧内预测的快速实现可分为两类：一种是简化代价函数；另一种是减少预测模
式的选择。对于第二类方法，可以利用当前块及其周围像素的某些特征，预先排除某些可能
性小的预测模式，或提前终止某些可能性小的模式的代价计算，从而降低帧内预测的复杂度。
为了获取图像的某些特征，可以直接在空间域上进行分析，也可以在变换域上进行分析。文
献[2]提出了基于边缘方向直方图的快速帧内预测模式，采用了数字图像处理中常用的Sobel
算子来获得边缘方向直方图，略去了边缘直方图中幅值小的预测方向，从而就简化了计算;
文献[3]通过对原始图像下采样降低了计算开销，采用简单的代价函数

Cost4=SAD4+4*P*λ减低复杂度，并通过考察16x16块与4x4块的模式预测的相关性
进行针对性的模式选择。文献[4]利用二维直方图来表征宏块的特征，从而反映宏块相邻像
素的变化情况，进而判断宏块采用Intra4x4模式还是Intra16x16模式，达到减少算法复杂度，
提高压缩速度的目的。文献[5]利用变换域和空间域的联合特征预先排除大部分可能性小的
模式，从而