基于AVS的整数变换量化和整数反变换反量化方法

摘要

本发明涉及一种基于AVS的整数变换量化和整数反变换反量化方法，这种方法避免使用乘、除法等复杂的运算，仅仅依靠加法和移位运算就可以实现AVS的整数变换以及反变换。在极大的节约硬件资源的同时，可以显著提高数据处理的速度。

主权项

1.一种基于AVS的整数变换量化和整数反变换反量化方法，其特征在于：整数正变换采用先行变换后列变换，整数反变换采用先列变换后行变换的方式处理数据，其包含以下步骤：步骤1、设置PredDiffEn_IH信号为使能信号，若PredDiffEn_IH为高电平时，表示输入数据PredDiff_I为有效数据，输入数据为9位带符号数，经过整数变换后输出变换系数Trans_M以及输出使能TransEn_MH，其中：8×8整数正变换表达式为：$Y={\mathrm{HXH}}^T=\left[\begin{array}{cccccccc}8& 8& 8& 8& 8& 8& 8& 8\\ 10& 9& 6& 2& -2& -6& -9& -10\\ 10& 4& -4& -10& -10& -4& 4& 10\\ 9& -2& -10& -6& 6& 10& 2& -9\\ 8& -8& -8& 8& 8& -8& -8& 8\\ 6& -10& 2& 9& -9& -2& 10& -6\\ 4& -10& 10& -4& -4& 10& -10& 4\\ 2& -6& 9& -10& 10& -9& 6& -2\end{array}\right]\left[X\right]\left[\begin{array}{cccccccc}8& 10& 10& 9& 8& 6& 4& 2\\ 8& 9& 4& -2& -8& -10& -10& -6\\ 8& 6& -4& -10& -8& 2& 10& 9\\ 8& 2& -10& -6& 8& 9& -4& -10\\ 8& -2& -10& 6& 8& -9& -4& 10\\ 8& -6& -4& 10& -8& -2& 10& -9\\ 8& -9& 4& 2& -8& 10& -10& 6\\ 8& -10& 10& -9& 8& -6& 4& -2\end{array}\right]$X表示8×8的图像残差矩阵，Y表示8×8的变换系数矩阵，H表示8×8的整数正变换矩阵，HT表示8×8的整数正变换矩阵的转置矩阵，设X图像残差矩阵中的输入数据为X(0)，X(1)......X(6)，X(7)，经过单步整数变换后的输出数据为Z(0)，Z(1)，Z(2)，Z(3)，Z(4)，Z(5)，Z(6)，Z(7)，由上述整数变换表达式知，变换矩阵H的偶数行为偶对称，而奇数行为奇对称，因而利用变换矩阵H的对称性，推出以下矩阵：$\left[\begin{array}{c}Z\left(0\right)\\ Z\left(2\right)\\ Z\left(4\right)\\ Z\left(6\right)\end{array}\right]=\left[\begin{array}{cccc}8& 8& 8& 8\\ 10& 4& -4& -10\\ 8& -8& -8& 8\\ 4& -10& 10& -4\end{array}\right]\left[\begin{array}{c}X\left(0\right)+X\left(7\right)\\ X\left(1\right)+X\left(6\right)\\ X\left(2\right)+X\left(5\right)\\ X\left(3\right)+X\left(4\right)\end{array}\right]$$\left[\begin{array}{c}Z\left(1\right)\\ Z\left(3\right)\\ Z\left(5\right)\\ Z\left(7\right)\end{array}\right]=\left[\begin{array}{cccc}10& 9& 6& 2\\ 9& -2& -10& -6\\ 6& -10& 2& 9\\ 2& -6& 9& -10\end{array}\right]\left[\begin{array}{c}X\left(0\right)-X\left(7\right)\\ X\left(1\right)-X\left(6\right)\\ X\left(2\right)-X\left(5\right)\\ X\left(3\right)-X\left(4\right)\end{array}\right],$使运算的次数减半，且能够并行计算；步骤2、若使能信号TransEn_MH为高电平，表明变换系数Trans_M为有效数据，经过量化后，输出量化后的变换系数Quant_O和输出使能QuantEn_OH；步骤3、若使能信号QuantEn_OH为高电平，表明量化后的变换系数是有效数据，经过反量化后，输出变化系数InvTrans_M和输出使能InvTrans_MH；及步骤4、若使能信号InvTrans_MH为高电平，表明反量化后的变换系数为有效数据，经过反变换后，输出预测残差InvPredDiff_I以及预测残差输出使能InvPredDiffEn_IH，其中：输入数据为反量化后的变换系数，设输入数据为Y(0)，Y(1)......Y(6)，Y(7)，整数反变换矩阵$T_8=\left[\begin{array}{cccccccc}8& 10& 10& 9& 8& 6& 4& 2\\ 8& 9& 4& -2& -8& -10& -10& -6\\ 8& 6& -4& -10& -8& 2& 10& 9\\ 8& 2& -10& -6& 8& 9& -4& -10\\ 8& -2& -10& 6& 8& -9& -4& 10\\ 8& -6& -4& 10& -8& -2& 10& -9\\ 8& -9& 4& 2& -8& 10& -10& 6\\ 8& -10& 10& -9& 8& -6& 4& -2\end{array}\right]$T8的偶数列为偶对称，而奇数列为奇对称，若经过单步逆离散余弦运算后的输出数据为Z(0)，Z(1)，Z(2)，Z(3)，Z(4)，Z(5)，Z(6)，Z(7)，利用变换矩阵T8的对称性，推出以下矩阵：$\left[\begin{array}{c}Z\left(0\right)\\ Z\left(1\right)\\ Z\left(2\right)\\ Z\left(3\right)\end{array}\right]=\left[\begin{array}{cccc}8& 10& 8& 4\\ 8& 4& -8& -10\\ 8& -4& -8& 10\\ 8& -10& 8& -4\end{array}\right]\left[\begin{array}{c}Y\left(0\right)\\ Y\left(2\right)\\ Y\left(4\right)\\ Y\left(6\right)\end{array}\right]+\left[\begin{array}{cccc}10& 9& 6& 2\\ 9& -2& -10& -6\\ 6& -10& 2& 9\\ 2& -6& 9& -10\end{array}\right]\left[\begin{array}{c}Y\left(1\right)\\ Y\left(3\right)\\ Y\left(5\right)\\ Y\left(7\right)\end{array}\right]$$\left[\begin{array}{c}Z\left(7\right)\\ Z\left(6\right)\\ Z\left(5\right)\\ Z\left(4\right)\end{array}\right]=\left[\begin{array}{cccc}8& 10& 8& 4\\ 8& 4& -8& -10\\ 8& -4& -8& 10\\ 8& -10& 8& -4\end{array}\right]\left[\begin{array}{c}Y\left(0\right)\\ Y\left(2\right)\\ Y\left(4\right)\\ Y\left(6\right)\end{array}\right]-\left[\begin{array}{cccc}10& 9& 6& 2\\ 9& -2& -10& -6\\ 6& -10& 2& 9\\ 2& -6& 9& -10\end{array}\right]\left[\begin{array}{c}Y\left(1\right)\\ Y\left(3\right)\\ Y\left(5\right)\\ Y\left(7\right)\end{array}\right]$使两个矩阵等式能够同时进行计算。