视频编码中快速的模式确定方法和装置

摘要

本发明提出一种视频编码中快速的模式确定方法和装置，用于在视频编码中采用多编码模式时快速确定最佳模式，首先计算空码模式，若其成本函数值小于某成本函数阈值T_RD，则最佳模式为空码模式。否则判断16x16模式的所有16个4x4参差块是否均为能量很小的块，若是，则在空码模式和16x16模式中选择最佳模式，否则计算16x16、16x8、8x16、8x8四种模式并在已计算的模式中选择一个准最佳模式。若此准最佳模式不是8x8模式，则停止搜索，此准最佳模式就是最终的最佳模式。否则，若8x8模式对应的16个4x4参差块的能量都很小，则8x8模式为最终的最佳模式，否则在其余的模式中继续搜索最佳模式。本发明可有效降低确定最佳模式的过程的复杂度，减少计算量。便于硬件实现。

主权项

1、一种视频编码中快速的模式确定方法，其特征在于包括以下步骤：步骤1、计算SKIP模式的成本函数值；步骤2、从成本函数值缓存区中取出前一幅图像中与当前编码宏块同样位置宏块的最佳模式的成本函数值T_RD(prev)；步骤3、根据最近编码过的图像中所有SKIP模式的成本函数值小于各自对应阈值T_RD的宏块个数与一幅图像包含总宏块数之比β与所述T_RD(prev)确定T_RD(curr)，T_RD指最近编码过的图像的前一幅图像中与当前编码宏块同样位置宏块的最佳模式的成本函数值，T_RD(curr)指当前编码图像中宏块采用SKIP模式时的成本函数的阈值；比较步骤1所得SKIP模式的成本函数值与T_RD(curr)的大小，若步骤1所得SKIP模式的成本函数值小于T_RD(curr)，则SKIP模式为最佳模式，跳到步骤12，否则执行步骤4；步骤4、对16x16模式进行运动估计；步骤5、计算0.95*((2^qbits-f)/QE[qp_rem][0][0])，其中qbits＝15+QP/6，qp_rem＝QP％6，f＝2^qbits/6，$\mathrm{QE}\left[{\mathrm{qp}}_{\mathrm{rem}}\right]\left[0\right]\left[0\right]=\frac{2^{\mathrm{qbits}-2}}{\mathrm{Qstep}},$QP是量化参数，取0～51内的任何一个整数，Qstep是量化步长；步骤6、根据运动估计中得到的16个4x4参差块中参差数据的绝对值之和判断16个4x4参差块是否全部满足$\underset{i=0}{\overset{3}{\Sigma }}\underset{j=0}{\overset{3}{\Sigma }}\left|x(i,j)\right|<0.95*((2^{\mathrm{qbits}}-f)/\mathrm{QE}[{\mathrm{qp}}_{\mathrm{rem}}\left]\right[0\left]\right[0\left]\right),$若满足则计算16x16模式的成本函数值，在SKIP模式和16x16模式中确定成本函数值最小者为最佳模式，跳到步骤12，否则对16x8、8x16、8x8模式进行运动估计并计算16x16、16x8、8x16、8x8四种模式的成本函数值，然后继续执行步骤7；步骤7、在已编码的所有模式中选择成本函数值最小的模式，若此模式不是8x8模式，则确定此模式为最佳模式，跳到步骤12，否则继续执行步骤8；步骤8、根据8x8模式的运动估计中得到的16个4x4参差块中参差数据的绝对值之和判断8x8模式的16个4x4的参差块是否全都满足$\underset{i=0}{\overset{3}{\Sigma }}\underset{j=0}{\overset{3}{\Sigma }}\left|x(i,j)\right|<0.95*((2^{\mathrm{qbits}}-f)/\mathrm{QE}[{\mathrm{qp}}_{\mathrm{rem}}\left]\right[0\left]\right[0\left]\right),$若满足则确定8x8模式为最佳模式，跳到步骤12，否则继续执行步骤9；步骤9、分别对宏块中的4个8x8块的细划分模式进行运动估计，所述8x8块的细划分模式包括8x8、8x4、4x8及4x4，计算各自的成本函数值并从中选出成本函数值最小的一个模式，从而确定整个宏块所对应的编码模式P8x8；步骤10、对各种帧内模式进行预测编码；步骤11、计算P8x8模式及各种帧内预测模式的成本函数值，从中确定成本函数值最小的模式为最佳模式；步骤12、最佳模式确定过程结束。