H.264/AVC帧内预测模式的快速选择方法

摘要

本发明涉及一种H.264/AVC实时编码器的帧内预测模式快速选择方法。在H.264/AVC编码器中，帧内编码采用帧内预测方法，利用色度块和亮度块、亮度块的内部以及亮度块预测模式选择间的相关性，根据率失真优化(RDO)准则确定不同判决依据(RDO或SAD)来快速选择帧内预测模式。本发明提供的方法，对比于全搜索方法，可以在信噪比和码率变化很小的同时，可使编码速度平均提高6倍以上。

主权项

1.一种H.264/AVC实时编码器帧内预测模式的快速选择方法，在H.264/AVC编码器中，帧内编码采用帧内预测方法，其特征在于利用当前宏块的色度块和亮度块帧内预测模式间的相关性、4x4亮度块I4和16x16亮度块I16的模式选择之间的相关性以及亮度块预测模式内部的相关性，以简化的率失真优化RDO为判决依据，快速进行帧内预测模式选择；快速选择的步骤如下：a.确定色度块的模式选择具有独立性，即亮度宏块无论选择I16还是I4，色度宏块模式都是一致的，从而首先对色度预测模式以SAD为准则进行独立判决，确定色度的最佳预测模式；b.确定了色度的最佳预测模式后，为亮度快模式判决提供如下依据：对于亮度I16而言，当色度块选择直接D模式，亮度可以选择直接D、水平H、垂直V、平坦P模式；当色度块选择H模式，亮度可以选择直接D、水平H、平坦P模式；当色度块选择垂直V模式，亮度可以选择直流D、垂直V、平坦P模式；当色度块选择平坦P模式，亮度可以选择直流D、平坦P模式；而对于亮度块I4，亮度块I8选择的模式是亮度块I4下绝大多数4x4块可能选择的模式；c.对于宏块，I4的选择概率远远大于I16，因此我们首先进行I4下4x4块的模式判决；根据邻块的模式判断得到当前块的可能模式，并和由步骤b确定的可能模式，分别计算这两种模式下的RDO，并与阈值T0比较，小于T0，则可确定为当前4x4的最佳模式，否则较小值RDO的为可能最佳模式；d.比较步骤c中得到的可能最佳模式的预测方向邻近的模式的RDO，进一步确定可能的最佳模式。如果它是垂直V、水平H或直流D，则比较这三种模式中未曾比较的模式；如果它为其它模式，则比较所有其它未曾比较的模式；e.在完成当前宏块的16个4x4块的模式判决后，计算宏块纹理复杂度，以MSE来衡量，并与阈值T1比较，如果大于T1，提前终止判决，上述得到的结果为宏块最佳模式；如果小于T1，则进行亮度16x16块的模式判决；f.根据步骤b中色度块的最佳模式与亮度块的关系，确定当前宏块I16的可能模式；统计步骤e中I4情况下16个子块的模式，得到概率最大的两种模式；综合考虑这些可能模式，最终确定I16的可能模式；并以SAD为准则，确定I16的最佳预测模式；g.自适应确定步骤e所述的阈值T1来判断是否提前终止I16判决和自适应确定步骤c所述的T0来判断是否提前终止I4的判决；所述的阈值通过自适应方法获取的具体步骤为：阈值T0通过如下公式自适应获取：T0＝α×((2q-bits-qp_const)/quant_coef[qp_rem][0][0])2 其中，α是校正因子，其取值范围在(0，1]，qp_rem＝QP％6，qp_bits＝qp_per+15，qp_const＝(1＜＜q_bits)/6，quant_coef是量化矩阵，QP为量化参数；计算阈值T1的自适应方法为：初始化T1＝1＜＜20；第一个宏块：依次进行I4和I16模式判决，得到二者的MSE(Minimum ofSquare Error)，将均值赋给T1，作为下一宏块的阈值。其它宏块：如果仅判决了I4模式，则T1不变。如果依次进行了I4和I16模式判决，则二者的MSE的均值赋给T1。