一种快速4x4块帧内预测模式选择方法

摘要

本发明涉及一种快速4x4块帧内预测模式选择方法。本发明方法首先根据H.264编码器框架把一幅图片划分成4x4大小的块图像，计算每一个4x4图像块的七个边缘方向系数；根据边缘方向系数将每一个4x4图像块分成九种边缘模式：包括一种一致性区域块边缘模式和八个不同方向边缘模式；然后根据图像块的边缘模式选择一种或者三种帧内预测模式，如果选择三种预测模式，则根据预编码后计算得到的率失真代价值确定最后帧内预测模式；而对于只选一种预测模式的，这个预测模式就是最后的预测模式。本发明方法在计算复杂度很低的情况，快速决定H.264的4x4块帧内预测模式，并保证率失真效率良好。

主权项

1.一种快速4x4块帧内预测模式选择方法，其特征是该方法包括如下步骤：步骤(1)根据H.264编码器框架把一幅图片划分成4x4大小的块图像，计算每一个4x4图像块的七个边缘方向系数；根据边缘方向系数将每一个4x4图像块分成九种边缘模式：包括一种一致性区域块边缘模式和八个不同方向边缘模式；计算每一个4x4图像块的七个边缘方向系数方法如下：其中H、V、X、A、B、C、D分别表示七个边缘方向系数，S₀₀、S₀₁、S₁₀、S₁₁分别表示一个块的左上、右上、左下、右下四分之一块像素的平均值，u，v＝0，1，i，j为四分之一块像素的索引值；其中p(x，y)为像素的灰度值，x，y＝0，1，2，3为垂直方向从上到下和水平方向从左到右的索引值；scale1＝QPstep/16，其中QPstep为量化步长，scale2为像素个数除以2；表示取最小整数；|·|表示求绝对值；根据以上七个方向系数，将每一个4x4图像块分成九种边缘模式的方法如下：(1-1)如果H＝V＝0，则该4x4图像块属于一致性区域块边缘模式，该边缘模式对应4x4帧内预测的直流预测模式，即帧内预测模式2；(1-2)在|H|＝|V|≠0的情况下，如果Abs(A-D)＞Abs(C-B)，则该块属于DL边缘模式，该边缘模式对应的边缘方向与4x4块帧内预测模式3的预测方向一致；否则，该块属于DR边缘模式，该边缘模式对应的边缘方向与4x4帧内预测模式4的预测方向一致；(1-3)在|H|＞|V|的情况下：V＝0时，则该块属于H边缘模式，该边缘模式对应的边缘方向与帧内预测模式1对应的预测方向一致；V≠0时，如果A或D是A、B、C、D四个数中的最大值，则该块属于HU边缘模式，该边缘模式对应的边缘方向与帧内预测模式8对应预测方向一致；如果B或C是A、B、C、D四个数中的最大值，则该块属于HD边缘模式，该边缘模式对应的边缘方向与帧内预测模式6对应的预测方向一致；(1-4)在|H|＜|V|的情况下：H＝0时，则该块属于V边缘模式，该边缘模式对应的边缘方向与帧内预测模式0对应的预测方向一致；H≠0时，如果A或D是A、B、C、D四个数中的最大值，则该块属于VL边缘模式，该边缘模式对应的边缘方向与帧内预测模式7对应预测方向一致；如果B或C是A、B、C、D四个数中的最大值，则该块属于VR边缘模式，该边缘模式对应的边缘方向与帧内预测模式5对应的预测方向一致；其中帧内预测模式编号与H.264编码器所规定的模式编号一致；步骤(2)根据图像块的边缘模式选择一种或者三种帧内预测模式，如果选择三种预测模式，则根据预编码后计算得到的率失真代价值确定最后帧内预测模式；而对于只选一种预测模式的，这个预测模式就是最后的预测模式；所述的根据图像块的边缘模式对应的方向选择一种预测模式方法：如果这个块属于一致性区域块模式，直接选择DC预测模式为该4x4块的最后编码模式；如果这个块不属于一致性区域块，直接选择与该块的边缘方向一致的预测模式为该块的最后预测模式；所述的根据图像块的边缘模式对应的方向选择三种预测模式方法：如果这个块属于一致性区域块模式，直接选择DC预测模式为该4x4块的最后编码模式；如果这个块不属于一致性区域块，选择的三种预测模式是该块边缘方向所对应的预测模式加上这个方向最邻近的两个预测模式，对这三个预测模式预编码后计算得到率失真代价值，率失真代价值最小的确定为最后预测模式；计算率失真代价值J(s，c，MODE|QP，λ_MODE)的方法如下：J(s，c，MODE|QP，λ_MODE)＝SSD(s，c，MODE|QP)+λ_MODE×R(s，c，MODE|QP)SSD(s，c，MODE|QP)是当前块与重建块的差值的平方和：$\mathrm{SSD}=(s,c,\mathrm{MODE}|\mathrm{QP})=\underset{x=0}{\overset{B_1}{\Sigma }}\underset{y=0}{\overset{B_2}{\Sigma }}{\left|s\right[x,y]-c(x,y)|}^2$B₁表示块的水平像素数、B₂表示块的垂直像素数，取4，s(x，y)和分别为原始图像和重建图像像素值；R(s，c，MODE|QP)表示熵编码后的码率，包括编码预测模式、DCT系数；λ_MODE＝0.85×2^QP/3为拉格朗日乘子，QP为量化系数。