一种应用于HEVC帧间编码的全零块检测方法

摘要

本发明涉及视频图像处理领域，特别涉及一种应用于HEVC帧间编码的全零块检测方法，包括：(1)根据编码块在帧间预测和补偿后的残差数据经过DCT变换后各个频率位置的DCT系数的分布特性，以及位于背景区域的块经过后续的基于运动检测的去噪滤波后其块内预测误差的绝对值之和将有所减小的特性，在变换块进行实际的DCT变换和量化之前，预判变换块是否是一个全零块；(2)在编码器中嵌入了一个基于运动检测的时间域滤波器，在避免去噪滤波引入运动模糊的前提下，通过在判断全零块的阈值中增加一个大于1的放大因子，减少噪声信号对视频编码的影响，将尽可能多的位于背景区域的块判定为全零块，从而有利于减少编码过程的计算代价、提高编码压缩率。

主权项

一种应用于HEVC帧间编码的全零块检测方法，其特征在于，所述方法是针对编码块CB中的各个变换块TB实施的，对于每个变换块，包括以下步骤：(1)判断当前TB内残差数据是否符合以下条件，若是，则判定当前TB为全零块，无需进行后续的DCT变换和量化过程，转步骤(5)，否则转步骤(2)；$\frac{1}{N}\mathrm{SND}<\mathrm{qstep}$并且$\mathrm{SAD}\le \frac{\sqrt{2}M{\alpha }_2}{3\sqrt{\pi {\alpha }_1}}\mathrm{qstep}$其中，N是TB块X和Y方向的尺寸，M＝N×N，qstep是由量化参数QP确定的量化步长，α₁＝Z(0，1)，Z是一个由TB内数据相关程度决定的矩阵，α₂是一个大于1的放大系数，SND和SAD分别按下式计算：$\mathrm{SND}=\underset{x=0}{\overset{N-1}{\Sigma }}\underset{y=0}{\overset{N-1}{\Sigma }}e(x,y)$$\mathrm{SAD}=\underset{x=0}{\overset{N-1}{\Sigma }}\underset{y=0}{\overset{N-1}{\Sigma }}\left|e(x,y)\right|$其中，e(x，y)代表帧间预测补偿后的残差数据；(2)对TB内的残差数据作时间域去噪滤波，按下式计算TB内每个像素的残差滤波值e′(x，y)＝a(x，y)e(x，y)其中e′(x，y)为滤波之后的残差值，滤波系数a(x，y)按下式确定：$a(x,y)=\left\{\begin{array}{cc}1& \mathrm{if}\left|m_e(x,y)\right|\ge T_m\\ 1-\exp (-{\left(\frac{m_e(x,y)}{b}\right)}^2)& \mathrm{otherwise}\end{array}\right.$其中b取常数4，阈值T_m＝6，m_e是TB内(x，y)像素的邻域范围内残差绝对值的均值；(3)由滤波以后的残差数据计算SAD和SND，取α₂等于1，若步骤(1)中的条件成立，则判定当前TB为全零块，无需进行后续的DCT变换和量化过程，否则转步骤(4)；(4)按HEVC标准进行整数形式的二维DCT变换、量化处理；(5)按HEVC标准进行基于上下文的自适应二进制算术编码。