一种随机接入视频编码中层次化时域率失真优化方法

摘要

本发明属于视频编码技术领域，尤其涉及随机接入视频编码中层次化时域率失真优化方法。本发明采用循环的图像组(group of picture，GOP)结构，每8帧为一个GOP，分别分配到不同的层，相同层的帧遵循相似的参考帧及QP分配规则，如图1所示，其中帧的编码顺序表示为EOC，各帧的播放顺序/时间顺序表示为POC。分析随机接入编码中编码单元间在同层及不同层的时域依赖性，并根据随机接入编码中时域依赖性建立嵌套的层次化时域传播链，如图3所示，进而进行层次化时域依赖性的率失真优化建模。求取传播因子κ_v和全局拉格朗日乘子λ_g。最后，本发明根据传播因子κ_v，仅通过对全局拉格朗日乘子λ_g的调整实现时域率失真优化。

主权项

一种随机接入视频编码中层次化时域率失真优化方法，其特征在于，具体步骤如下：S1、根据随机接入视频编码中时域依赖性，建立嵌套的层次化时域传播链，所述嵌套的层次化时域传播链具有如下特性：所述随机接入视频编码中每个GOP中rPOC＝8的帧仅考虑前一key帧对其的影响，rPOC＝1、2、3、4、5、6、7的帧仅考虑相对质量较高的最近两帧对其的影响，如图3所示，通过统计实验得到各参考帧被参考比例，如表2所示：对rPOC＝8的参考帧，Delta POC为(‑4,‑2,‑1,1,2,4,8)的帧以rPOC＝8的帧为参考帧的比例相对最大，为rPOC＝8的参考帧的主要参考关系，将主要参考关系连接成如图2(a)所示，即rPOC＝8的参考帧f_8n+8，帧f_8n+4,f_8n+6,f_8n+7,f_8n+9,f_8n+10,f_8n+12,f_8n+16中(其中，这些帧与f_8n+8的Delta POC分别为‑4,‑2,‑1,1,2,4,8)的编码单元选择参考帧f_8n+8的比例相对最大，对rPOC＝4的参考帧，Delta POC为(‑2,‑1,1,2)的帧以rPOC＝4的帧为参考帧的比例相对最大，为rPOC＝4的参考帧的主要参考关系，将主要参考关系连接成如图2(b)所示，即rPOC＝4的参考帧f_8n+4，帧f_8n+2,f_8n+3,f_8n+5,f_8n+6中(其中，这些帧与f_8n+4的Delta POC分别为‑2,‑1,1,2)的编码单元选择参考帧f_8n+4的比例相对最大，对rPOC＝2的参考帧，Delta POC为(‑1,1)的帧以rPOC＝2的帧为参考帧的比例相对最大，为rPOC＝2的参考帧的主要参考关系，将主要参考关系连接成如图2(c)所示，即rPOC＝2的参考帧f_8n+2，帧f_8n+1,f_8n+3中(其中，这些帧与f_8n+2的Delta POC分别为‑1,1)的编码单元选择参考帧f_8n+2的比例相对最大，对rPOC＝6的参考帧，Delta POC为(‑1,1)的帧以rPOC＝6的帧为参考帧的比例相对最大，为rPOC＝6的参考帧的主要参考关系，将主要参考关系连接成如图2(c)所示，即rPOC＝6的参考帧f_8n+6，帧f_8n+5,f_8n+7中(其中，这些帧与f_8n+6的Delta POC分别为‑1,1)的编码单元选择参考帧f_8n+6的比例相对最大，n＝0,1,2,...,m,...,M，M代表在随机接入视频编码中整个序列中GOP的个数，根据随机接入视频编码中主要参考关系，获得如图3所示嵌套的层次化时域传播链；S2、层次化时域依赖性的率失真优化建模，具体为：定义当前编码单元U_s为帧f_s中第a(a＝1,2,3,...,A)个编码单元，其中，s＝8n+8,8n+4,8n+2,8n+6,8n+1,8n+3,8n+5,8n+7，S21、根据S1所述时域传播链，当前编码单元U_8n+8在rPOC＝8的key帧f_8n+8中时，受所述U_8n+8影响的时域上的编码单元为U_8n+4,U_8n+2,U_8n+1,U_8n+3,U_8n+6,U_8n+5,U_8n+7,U_8n+16,...，当前编码单元U_8n+4在rPOC＝4的非key帧f_8n+4中时，受所述U_8n+4影响的时域上的编码单元为U_8n+2,U_8n+1,U_8n+3,U_8n+6,U_8n+5,U_8n+7，当前编码单元U_8n+2在rPOC＝2的非key帧f_8n+2中时，受所述U_8n+2影响的时域上的编码单元为U_8n+1,U_8n+3，当前编码单元U_8n+6在rPOC＝6的非key帧f_8n+2中时，受所述U_8n+6影响的时域上的编码单元为U_8n+5,U_8n+7，当前编码单元U_8n+1在rPOC＝1的非key帧f_8n+1中时，不存在受所述U_8n+1影响的时域上的编码单元，当前编码单元U_8n+3在rPOC＝1的非key帧f_8n+3中时，不存在受所述U_8n+3影响的时域上的编码单元，当前编码单元U_8n+5在rPOC＝1的非key帧f_8n+5中时，不存在受所述U_8n+5影响的时域上的编码单元，当前编码单元U_8n+7在rPOC＝1的非key帧f_8n+7中时，不存在受所述U_8n+7影响的时域上的编码单元，其中，8n+8、8n+4、8n+2、8n+1、8n+3、8n+6、8n+5、8n+7、8n+16代表当前编码单元所在帧的播放顺序；S22、求时域率失真优化目标方程，包括：S21所述f_8n+8中的U_8n+8的时域率失真优化目标方程，S21所述f_8n+4中的U_8n+4的时域率失真优化目标方程，S21所述f_8n+2中的U_8n+2的时域率失真优化目标方程，S21所述f_8n+6中的U_8n+6的时域率失真优化目标方程，S21所述f_8n+1中的U_8n+1的时域率失真优化目标方程，S21所述f_8n+3中的U_8n+3的时域率失真优化目标方程，S21所述f_8n+5中的U_8n+5的时域率失真优化目标方程，S21所述f_8n+7中的U_8n+7的时域率失真优化目标方程；S3、根据时域率失真优化目标方程，进行编码单元失真估计，估计受当前编码单元U_8n+8影响的编码单元U_8n+4,U_8n+2,U_8n+1,U_8n+3,U_8n+6,U_8n+5,U_8n+7,U_8n+16,...的失真，估计受当前编码单元U_8n+4影响的编码单元U_8n+2,U_8n+1,U_8n+3,U_8n+6,U_8n+5,U_8n+7的失真，估计受当前编码单元U_8n+2影响的编码单元U_8n+1,U_8n+3的失真，估计受当前编码单元U_8n+6影响的编码单元U_8n+5,U_8n+7的失真；S4、将S3中所述编码失真估计代入到S22所述时域率失真优化目标方程，删除所有与当前编码单元的编码参数无关的中间值，得到其中，κ_v,v＝8n+8,8n+6,8n+4,8n+2，具体为：A、当前编码单元U_8n+8在rPOC＝8的key帧f_8n+8中时，得到传播因子β为相互依赖的两个编码单元之间影响程度，具体求解步骤如S3.A所述；B、当前编码单元U_8n+4在rPOC＝4的非key帧f_8n+4中时，得到传播因子其中，γ为相互依赖的两个编码单元之间影响程度，具体求解步骤如S3.B所述；C、当前编码单元U_8n+2在rPOC＝2的非key帧f_8n+2中时，得到传播因子κ_8n+2＝τ_8n+1+τ_8n+3，其中，τ为相互依赖的两个编码单元之间影响程度，具体求解步骤如S3.C所述；D、当前编码单元U_8n+6在rPOC＝2的非key帧f_8n+6中，得到传播因子κ_8n+6＝τ_8n+5+τ_8n+7，其中，τ为相互依赖的两个编码单元之间影响程度，具体求解步骤如S3.D所述；S5、求取全局拉格朗日乘子所有编码单元共享所述全局拉格朗日乘子λ_g，其中，λ_HM4为rPOC＝1帧中编码单元在HEVC中的预定义拉格朗日乘子，为偏导符号；S6、将S4中所述变形为并结合S5中所述全局拉格朗日乘子λ_g及S4所述传播因子κ_v，进行层次化时域率失真优化，具体为：对于在rPOC＝8的帧f_8n+8中的编码单元U_8n+8，采用进行时域率失真优化，对于在rPOC＝4的帧f_8n+4中的编码单元U_8n+4，采用进行时域率失真优化，对于在rPOC＝2的帧f_8n+2中的编码单元U_8n+2，采用进行时域率失真优化，对于在rPOC＝6的帧f_8n+6中的编码单元U_8n+6，采用进行时域率失真优化，对于在rPOC＝1的帧f_8n+1中的编码单元U_8n+1，采用S21所述进行时域率失真优化，对于在rPOC＝3的帧f_8n+3中的编码单元U_8n+3，采用S21所述进行时域率失真优化，对于在rPOC＝5的帧U_8n+5中的编码单元U_8n+5，采用S21所述进行时域率失真优化，对于在rPOC＝7的帧U_8n+7中的编码单元U_8n+7，采用S21所述进行时域率失真优化；S7、依次对rPOC＝8的帧f_8n+8中所有编码单元(共A个编码单元)进行步骤S22.A、S3.A、S4.A、S5、S6的所述的率失真优化，依次对rPOC＝4的帧f_8n+4中所有编码单元(共A个编码单元)进行步骤S22.B、S3.B、S4.B、S5、S6的所述的率失真优化，依次对rPOC＝2的帧f_8n+2中所有编码单元(共A个编码单元)进行步骤S22.C、S3.C、S4.C、S5、S6的所述的率失真优化，依次对rPOC＝6的帧f_8n+6中所有编码单元(共A个编码单元)进行步骤S22.D、S3.D、S4.D、S5、S6的所述的率失真优化，依次对rPOC＝1的帧f_8n+1中所有编码单元(共A个编码单元)进行步骤S22.E、S5、S6的所述的率失真优化，依次对rPOC＝3的帧f_8n+3中所有编码单元(共A个编码单元)进行步骤S22.F、S5、S6的所述的率失真优化，依次对rPOC＝5的帧f_8n+5中所有编码单元(共A个编码单元)进行步骤S22.G、S5、S6的所述的率失真优化，依次对rPOC＝7的帧f_8n+7中所有编码单元(共A个编码单元)进行步骤S22.H、S5、S6的所述的率失真优化；S8、对S1所述随机接入视频编码中其他帧进行步骤S2‑S7的所述率失真优化处理。