一种H.264快速帧间模式选择方法

摘要

本发明公开了一种H.264快速帧间模式选择方法，对skip模式优先进行判断，并在此基础上缩小宏块级的模式判断范围；其次根据亚宏块编码模式与量化参数QP的关系，对亚宏块级模式进行集合划分，对不同的量化参数QP下的宏块选择不同的亚宏块模式集合，缩小亚宏块级模式判断范围。采用上述技术方案的本发明，通过研究分析不同视频序列在不同条件下的各个预测模式的分布情况，发现共同点，来缩小预测模式范围而加快模式判断。另外还通过对不同量化参数QP下的亚宏块模式分布进行研究分析，进一步提出了基于量化参数QP的模式判断方法，这使得能非常有效地在保持图像压缩质量的条件下，进一步提高了编码速度。

主权项

一种H.264快速帧间模式选择方法，其特征在于：对skip模式优先进行判断，并在此基础上缩小宏块级的模式判断范围；其次根据亚宏块编码模式与量化参数QP的关系，对亚宏块级模式进行集合划分，对不同的量化参数QP下的宏块选择不同的亚宏块模式集合，缩小亚宏块级模式判断范围；它包括以下步骤：①进行16×16宏块模式运动估计，并计算失真率代价RD16×16，然后顺序执行步骤②；②若最佳参考帧为当前帧的前一帧，且通过运动搜集得到的最佳运动向量与通过预测得到的运动向量相同，转到步骤③；若最佳参考帧不是当前帧的前一帧，且通过运动搜集得到的最佳运动向量与通过预测得到的运动向量不相同，转到步骤⑤；③对亮度和色度残差进行变换与量化，顺序执行步骤④；④亮度和色度残差进行变换量化后，若量化后系数全部为零，则可优先判断出该宏块的最终编码模式是skip模式；若其量化后系数不全部为零，则转到步骤⑥；⑤进行16×8和8×16宏块模式运动估计，并分别计算它们的失真率代价RD16×8和RD8×16，并判断量化系数QP的取值范围；⑥若量化系数QP＜＝24，对每个8×8亚宏块进行8×8和4×4亚宏块模式运动估计，并分别计算它们的失真率代价RD8×8和RD4×4，为每个8×8亚宏块选出失真率最小的模式，并计算出失真率D8×8的值；若量化系数QP＞24，则执行步骤⑦；⑦若量化系数QP＜＝36，对每个8×8亚宏块进行8×4和4×8亚宏块模式运动估计，并分别计算它们的失真率代价RD8×4和RD4×8，为每个8×8亚宏块选出失真率最小的模式，并计算出失真率D8×8的值；若量化系数QP＞36，则执行步骤⑧；⑧若量化系数QP＞36，对每个8×8亚宏块进行8×8宏块和8×4亚宏块模式运动估计，并分别计算它们的失真率代价RD8×8和RD8×4，为每个8×8亚宏块选出失真率最小的模式，并计算出失真率D8×8的值；⑨根据步骤⑥、⑦、⑧的计算结果，取失真率代价最小的模式为最终模式。