基于变换域信息的帧内4×4预测模式选择方法

摘要

本发明公开基于变换域信息的帧内4×4预测模式选择方法，步骤如下：(1)对亮度宏块进行帧内16×16下各模式预测及SATD生成，选取SATD值最小模式作为帧内16×16下最佳预测模式并得到该最佳预测模式代价值；其中，进行帧内16×16下模式2SATD生成时，修改传统的对各4×4子块的Hadamard变换处理方法，从其中间结果中提取各4×4子块方向信息，后对方向信息进行边缘方向直方图统计，得到候选模式集合，在进行帧内4×4预测模式选择时只在候选模式集合范围内搜索；(2)对亮度宏块的各4×4子块分别进行帧内4×4预测模式选择得到最佳预测模式，并得到帧内4×4下的亮度宏块的代价值。(3)比较帧内16×16下的最佳预测模式的代价值和帧内4×4下的亮度宏块的代价值，从中选取亮度宏块的最佳预测模式。

主权项

一种基于变换域信息的帧内4×4预测模式选择方法，其特征在于包括如下步骤：(1)对亮度宏块进行帧内16×16下各模式的预测以及SATD生成，获得所述帧内16×16下各模式的SATD值，选取出SATD值最小的模式作为帧内16×16下的最佳预测模式，并进一步得到所述帧内16×16下的最佳预测模式的代价值；其中，在进行帧内16×16下模式2的SATD生成时，包括首先按以下方式对帧内16×16下模式2的宏块残差矩阵的每个4×4子块进行变换处理的步骤：1)对所述4×4子块的左上、右上、左下和右下2×2子块分别进行2×2Hadamard变换处理得到相应的左上第一中间结果矩阵、右上第一中间结果矩阵、左下第一中间结果矩阵和右下第一中间结果矩阵；然后分别抽取所述四个第一中间结果矩阵的系数相应地组成左上第二中间结果矩阵、右上第二中间结果矩阵、左下第二中间结果矩阵和右下第二中间结果矩阵；所述左上第二中间结果矩阵的第一行第一列的系数来自于左上第一中间结果矩阵的第一行第一列，所述左上第二中间结果矩阵的第一行第二列的系数来自于右上第一中间结果矩阵的第一行第一列，所述左上第二中间结果矩阵的第二行第一列的系数来自于左下第一中间结果矩阵的第一行第一列，所述左上第二中间结果矩阵的第二行第二列的系数来自于右下第一中间结果矩阵的第一行第一列；所述右上第二中间结果矩阵的第一行第一列的系数来自于左上第一中间结果矩阵的第一行第二列，所述右上第二中间结果矩阵的第一行第二列的系数来自于右上第一中间结果矩阵的第一行第二列，所述右上第二中间结果矩阵的第二行第一列的系数来自于左下第一中间结果矩阵的第一行第二列，所述右上第二中间结果矩阵的第二行第二列的系数来自于右下第一中间结果矩阵的第一行第二列；所述左下第二中间结果矩阵的第一行第一列的系数来自于左上第一中间结果矩阵的第二行第一列，所述左下第二中间结果矩阵的第一行第二列的系数来自于右上第一中间结果矩阵的第二行第一列，所述左下第二中间结果矩阵的第二行第一列的系数来自于左下第一中间结果矩阵的第二行第一列，所述左下第二中间结果矩阵的第二行第二列的系数来自于右下第一中间结果矩阵的第二行第一列；所述右下第二中间结果矩阵的第一行第一列的系数来自于左上第一中间结果矩阵的第二行第二列，所述右下第二中间结果矩阵的第一行第二列的系数来自于右上第一中间结果矩阵的第二行第二列，所述右下第二中间结果矩阵的第二行第一列的系数来自于左下第一中间结果矩阵的第二行第二列，所述右下第二中间结果矩阵的第二行第二列的系数来自于右下第一中间结果矩阵的第二行第二列；再分别对所述左上第二中间结果矩阵、右上第二中间结果矩阵、左下第二中间结果矩阵和右下第二中间结果矩阵进行2×2Hadamard变换处理相应得到左上最终结果矩阵、右上最终结果矩阵、左下最终结果矩阵和右下最终结果矩阵；2)从所述四个第一中间结果矩阵的系数以及左上最终结果矩阵的系数中提取一组方向信息；3)将所提取的所述方向信息进行边缘方向直方图统计，得到所述4×4子块的候选模式集合；(2)对所述亮度宏块的16个4×4子块分别进行帧内4×4预测模式选择，得到各4×4子块的帧内4×4下的最佳预测模式，并进一步得到帧内4×4下的所述亮度宏块的代价值；所述各4×4子块的帧内4×4预测模式选择包括如下步骤：i)将所述亮度宏块的4×4子块在其经步骤(1)变换处理后得到的所述候选模式集合内进行帧内模式预测和代价生成，得到该4×4子块的代价值；ii)从所述4×4子块的代价值中选取最小代价值所对应的预测模式作为该4×4子块在帧内4×4下的最佳预测模式；(3)比较所述帧内16×16下的最佳预测模式的代价值和帧内4×4下的所述亮度宏块的代价值，根据比较结果，从帧内16×16预测模式和帧内4×4预测模式中选取所述亮度宏块的最佳预测模式。