一种视频编码预测残差块的分解及重建方法

摘要

一种视频编码预测残差块的分解及重建方法，属于信号处理中的视频编码技术领域，减少现有DCT变换矩阵引起的块效应，并解决该矩阵的值不能进行调整的问题。本发明分解方法包括：预测残差块分类，第一、第三、第二多通道滤波器组横向分解，横向分解系数矩阵分类，第一、第三、第二多通道滤波器组纵向分解步骤；本发明重建方法包括：预测残差块的分解系数矩阵分类，第一、第三、第二多通道滤波器组纵向重建，横向分解系数矩阵分类，第一、第三、第二多通道滤波器组横向重建步骤。本发明能有效地进行去相关性，并能减少DCT变换矩阵和预测残差块尺寸不匹配所引起的块效应，提高编码主客观质量。

主权项

1.一种视频编码预测残差块的分解方法，包括：(1)预测残差块分类步骤：对输入的帧内或帧间预测残差块进行分类，当残差块的长边尺寸为4时，进行步骤(2)；当残差块的长边尺寸为8时，进行步骤(3)；当残差块的长边尺寸为16时，进行步骤(4)；(2)第一多通道滤波器组横向分解步骤：使用第一多通道滤波器组对残差块X进行横向分解得到横向分解系数矩阵Y，其分解表达式为：其中，α＝0.1225π；分解完成后，进行步骤(5)；(3)第三多通道滤波器组横向分解步骤：使用第三多通道滤波器组对残差块X进行横向分解得到横向分解系数矩阵Y，其分解表达式为：其中，R₁＝SR₀PSP，T₁＝ST₀PSP，α＝0.4362π，β＝0.38π；分解完成后，进行步骤(5)；(4)第二多通道滤波器组横向分解步骤：使用第二多通道滤波器组对残差块X进行横向分解得到横向分解系数矩阵Y，过程为：(4.1)对残差块X的每个行向量进行横向对称扩展以及分解：对第i个行向量N_i＝[x_i，0x_i，1x_i，2x_i，3x_i，4x_i，5x_i，6x_i，7x_i，8x_i，9x_i，10x_i，11x_i，12x_i，13x_i，14x_i，15]横向对称扩展得到扩展行向量Z_i，Z_i＝[x_i，1x_i，0x_i，0x_i，1x_i，2x_i，3x_i，4x_i，5x_i，6x_i，7x_i，8x_i，9x_i，10x_i，11x_i，12x_i，13x_i，14x_i，15x_i，15x_i，14]，对Z_i进行横向分解得到第i个行向量N_i的横向分解向量M_i：M_i＝[y_i，0y_i，1y_i，2y_i，3y_i，4y_i，5y_i，6y_i，7y_i，8y_i，9y_i，10y_i，11y_i，12y_i，13y_i，14y_i，15]，其中：[y_i，0y_i，1y_i，2y_i，3]＝[x_i，1x_i，0x_i，0x_i，1x_i，2x_i，3x_i，4x_i，5]F₂^T，[y_i，4 y_i，5 y_i，6 y_i，7]＝[x_i，2 x_i，3 x_i，4 x_i，5 x_i，6 x_i，7 x_i，8 x_i，9]F₂^T，[y_i，8 y_i，9 y_i，10 y_i，11]＝[x_i，6 x_i，7 x_i，8 x_i，9 x_i，10 x_i，11 x_i，12 x_i，13]F₂^T，[y_i，12 y_i，13 y_i，14 y_i，15]＝[x_i，10 x_i，11 x_i，12 x_i，13 x_i，14 x_i，15 x_i，15 x_i，14]F₂^T，α＝-0.595π，i为0～k-1，k≤16，k由残差块X的宽边尺寸决定；(4.2)各个行向量的横向分解向量M_i构成横向分解系数矩阵Y，其中，k由残差块X的宽边尺寸决定；分解完成后，进行步骤(5)；(5)横向分解系数矩阵分类步骤：对横向分解系数矩阵Y进行分类，当Y的宽边尺寸为4时，进行步骤(6)；当Y的宽边尺寸为8时，进行步骤(7)；当Y的宽边尺寸为16时，进行步骤(8)；(6)第一多通道滤波器组纵向分解步骤：使用第一多通道滤波器组对横向分解系数矩阵Y进行纵向分解得到残差块的分解系数矩阵D，其分解表达式为：其中，U₀、U₁、W₀、W₁和α的值与步骤(2)中所示相同；分解结束；(7)第三多通道滤波器组纵向分解步骤：使用第三多通道滤波器组对横向分解系数矩阵Y进行纵向分解得到残差块的分解系数矩阵D，其分解表达式为：其中，R₀、R₁、T₀、T₁的值与步骤(3)中所示相同；分解结束；(8)第二多通道滤波器组纵向分解步骤：使用第二多通道滤波器组对横向分解系数矩阵Y进行纵向分解得到残差块的分解系数矩阵D，过程为：(8.1)对横向分解系数矩阵Y的每个列向量进行纵向对称扩展以及分解：对第i个列向量L_i＝[y_0，iy_1，iy_2，iy_3，iy_4，iy_5，iy_6，iy_7，iy_8，iy_9，iy_10，iy_11，iy_12，iy_13，iy_14，iy_15，i]^T纵向对称扩展得到扩展列向量Z_i，Z_i＝[y_1，iy_0，iy_0，iy_1，iy_2，iy_3，iy_4，iy_5，iy_6，iy_7，iy_8，iy_9，iy_10，iy_11，iy_12，iy_13，iy_14，iy_15，iy_15，iy_14，i]^T，对Z_i进行纵向分解得到第i个列向量L_i的纵向分解向量J_i：J_i＝[d_0，id_1，id_2，id_3，id_4，id_5，id_6，id_7，id_8，id_9，id_10，id_11，id_12，id_13，id_14，id_15，i]^T，其中：[d_0，id_1，id_2，id_3，i]^T＝F₂[y_1，iy_0，iy_0，iy_1，iy_2，iy_3，iy_4，iy_5，i]^T，[d_4，id_5，id_6，id_7，i]^T＝F₂[y_2，iy_3，iy_4，iy_5，iy_6，iy_7，iy_8，iy_9，i]^T，[d_8，id_9，id_10，id_11，i]^T＝F₂[y_6，iy_7，iy_8，iy_9，iy_10，iy_11，iy_12，iy_13，i]^T，[d_12，id_13，id_14，id_15，i]^T＝F₂[y_10，iy_11，iy_12，iy_13，iy_14，iy_15，iy_15，iy_14，i]^T，H₀、H₁、H₂、H₃、G₀、G₁、G₂、G₃的值与步骤(4.1)中所示相同，i为0～k-1，k≤16，k由残差块X的长边尺寸决定；(8.2)各个列向量的纵向分解向量J_i构成残差块的分解系数矩阵D，D＝[J₀J₁…J_k-1]，其中k由残差块X的长边尺寸决定；分解结束。