一种用于视频图像编码过程中的量化方法

摘要

本发明公开了一种用于视频图像编码过程中的量化方法，残差块信号D_n经整数变换的核心变换后，其输出信号W再经系数调整与量化处理|Z_ij|＝(|W_ij|·MF_ij [Q_m]+f＞＞qbits，sign(Z_ij)＝sign(W_ij)，得到量化输出信号Z，特点是在量化处理的过程中，首先变换量化器乘法因子，使MF_ij[Q_m]＝MF′[Q_m]·2ⁿ，n为1到13之间的整数，根据四舍五入取整数的原则确定MF′_ij[Q_m]的值，然后用加法器对变换输出信号W进行系数调整与量化处理，与原H.264量化方法相比，优点在于以率失真性能的微小下降为代价，换取量化过程复杂度和功耗的大幅降低，软件算法实现时可节省92％以上运算时间；硬件电路实现时，在相同CMOS工艺下，各量化单元资源面积和功耗平均节省75.2％和76.3％；绝对平均率失真误差小于0.0315dB。

主权项

1、一种用于视频图像编码过程中的量化方法，其处理步骤如下：1)对于输入的4×4残差块信号Dn，进行整数变换的核心变换，得到变换输出信号W：$W=C{D}_n{C}^T=\left[\begin{array}{cccc}1& 1& 1& 1\\ 2& 1& -1& -2\\ 1& -1& -1& 1\\ 1& -2& 2& -1\end{array}\right]D_n\left[\begin{array}{cccc}1& 2& 1& 1\\ 1& 1& -1& -2\\ 1& -1& -1& 2\\ 1& -2& 1& -1\end{array}\right]$ 2)对变换输出信号W进行整数变换的系数调整与量化处理，得到量化输出信号Z：|Ziy|＝(|Wij|·MFij[Qm]+f)＞＞qbits和sign(Zij)＝sign(Wij)其中，|Zij|为量化输出信号Zij的幅值，sign(Zij)则代表其符号，Wij是W＝CDnCT的变换系数，MFij[Qm]为量化器乘法因子，qbits＝15+floor(QP/6)，f＝2qbits/k，为改善恢复图像视觉效果的补偿系数，其特征在于在对变换输出信号W进行整数变换的系数调整与量化处理过程中，首先变换量化器乘法因子，使MFij[Qm]＝MF′ij[Qm]·2n，n为1到13之间的整数，根据四舍五入取整数的原则确定MF′ij[Qm]的值，然后用加法器对变换输出信号W进行系数调整与量化处理，得到量化输出信号Z： |Zij|＝(|Wij|·MF′ij[Qm]+f′)＞＞qbits′和sign(Zij)＝sign(Wij)其中，qbits′＝15-n+floor(QP/6)，f′＝2qbits′/k。