视频压缩中变换系数的上下文建模方法

摘要

视频压缩中变换系数的上下文建模方法，本发明涉及变换系数的上下文建模技术。本发明是为了解决HEVC中所采用的上下文建模技术不能准确地预测变换系数的统计特性的问题。本发明在当前变换系数为bin0、bin1或bin2的上下文建模过程，使用了当前变换系数的位置信息和当前变换系数的局部模板中非零变换系数信息，同时还利用变换系数在编码组内的位置对亮度分量的变换系数块的编码组进行划分，利用变换系数在变换系数块内的位置对色度分量的变换系数块进行划分，最终实现上下文建模。本发明更加准确地预测变换系数的统计特性，提高了变换系数的压缩效率。本发明应用于视频编码领域。

主权项

视频压缩中变换系数的上下文建模方法，其特征在于，所述上下文建模方法包括以下步骤：步骤一：对bin0的上下文建模，其中所述bin0为一个用于指示当前变换系数是否大于0的二进制符号；对于处在(x,y)处的变换系数的bin0的上下文包含当前变换系数的编码组的位置(x_CG,y_CG)、当前变换系数在当前编码组内的位置(x_InCG,y_InCG)、以及当前变换系数的局部模板LT_(x,y)所覆盖的变换系数中非零变换系数的个数NumSigs，(x,y)为当前待编码的变换系数在当前变换系数块的位置，LT_(x,y)为位于变换系数块(x,y)处的变换系数的局部模板，根据(x,y)求得包含当前变换系数的编码组的位置(x_CG,y_CG)和当前变换系数在当前编码组内的位置(x_InCG,y_InCG)；若当前编码的是亮度分量：如果x_CG+y_CG等于0，则$\mathrm{Re}gIdx=\left\{\begin{array}{ccc}0,& if& x_{InCG}+y_{InCG}<2\\ 1,& if& \begin{array}{ccc}{x}_{InCG}+y_{InCG}\ge 2& and& x_{InCG}+y_{InCG}<5\end{array}\\ 2,& if& x_{InCG}+y_{InCG}\ge 5\end{array}\right.---\left(1\right)$Ctx_bin0＝RegIdx*6+NumSigs   (2)如果x_CG+y_CG大于0，则$\mathrm{Re}gIdx=\left\{\begin{array}{ccc}3,& if& x_{InCG}+y_{InCG}<4\\ 4,& if& x_{InCG}+y_{InCG}\ge 4\end{array}\right.---\left(3\right)$Ctx_bin0＝RegIdx*6+NumSigs   (4)RegIdx为当前变换系数所在的区域，Ctx_bin0为待编码的变换系数的bin0的上下文索引；若当前编码的是色度分量：则$\mathrm{Re}gIdx=\left\{\begin{array}{ccc}0,& if& x+y<4\\ 1,& if& x+y\ge 4\end{array}\right.---\left(5\right)$Ctx_bin0＝RegIdx*6+NumSigs   (6)步骤二：对bin1的上下文建模，其中所述bin1为一个用于指示当前变换系数的绝对值是否大于1的二进制符号；对于处在(x,y)处的变换系数的bin1的上下文包括当前待编码的变换系数在当前变换系数块的位置(x,y)以及当前编码组中已经编码过的绝对值大于1的变换系数个数NumGre1和绝对值等于1的变换系数的个数NumEqu1；若当前编码的是亮度分量：如果x+y小于3，则${\mathrm{Ctx}}_{bin1}=\left\{\begin{array}{ccc}\min \left(NumGre1-1,2\right),& if& NumGre1>0\\ \min \left(NumEqu1,3\right)+3,& if& NumGre1\le 0\end{array}\right.---\left(7\right)$否则，如果x+y小于10，则${\mathrm{Ctx}}_{bin1}=\left\{\begin{array}{ccc}\min \left(NumGre1-1,2\right)+7,& if& NumGre1>0\\ \min \left(NumEqu1,3\right)+10,& if& NumGre1\le 0\end{array}\right.---\left(8\right)$否则，x+y大于或等于10，则${\mathrm{Ctx}}_{bin1}=\left\{\begin{array}{ccc}\min \left(NumGre1-1,2\right)+14,& if& NumGre1>0\\ \min \left(NumEqu1,3\right)+17,& if& NumGre1\le 0\end{array}\right.---\left(9\right)$所述Ctx_bin1为当前待编码的变换系数的bin1的上下文索引；若当前编码的是色度分量：${\mathrm{Ctx}}_{bin1}=\left\{\begin{array}{ccc}\min \left(NumGre1-1,2\right),& if& NumGre1>0\\ \min \left(NumEqu1,3\right)+3,& if& NumGre1\le 0\end{array}\right.---\left(10\right)$步骤三：对bin2的上下文建模，其中所述bin2为一个用于指示当前变换系数的绝对值是否大于2的二进制符号；对于处在(x,y)处的变换系数的bin2的上下文包括当前编码组中已经编码过的绝对值大于1的变换系数个数NumGre1和绝对值大于2的变换系数的个数NumGre2；若当前编码的是亮度分量，则如果NumGre2大于0，则Ctx_bin2＝0   (11)否则，如果NumGre1大于0，则Ctx_bin2＝1   (12)否则，Ctx_bin2＝2   (13)定义Ctx_bin2为当前待编码的变换系数的bin2的上下文索引；若当前编码的是色度分量：如果NumGre2大于0，则Ctx_bin2＝0   (14)否则，如果NumGre1大于0，则Ctx_bin2＝1   (15)否则，Ctx_bin2＝2   (16)。