视频标准中基于自回归模型的帧内预测快速模式选择方法

摘要

本发明公开了一种视频标准中基于自回归模型的帧内预测快速模式选择方法，主要解决现有H.265/HEVC标准中帧内预测模式选择复杂度高的问题。其实现步骤为：对当前预测单元进行粗略模式选择，得到m种候选模式；加入最有可能模式，得到m1种候选模式；对m1种候选模式的代价函数值进行升序排序；将相邻两个代价值的差值和两者平均值的比值与基于自回归模型得到的门限进行对比，自适应地选出n种最终候选模式进行率失真优化。本发明操作简单，在保持图像压缩性能的同时，缩短了运行时间，为H.265/HEVC标准的实时实现提供了技术基础，可用于所有基于H.265/HEVC标准的视频压缩编码端中的帧内预测模式选择。

主权项

一种视频标准中基于自回归模型的帧内预测快速模式选择方法，包括如下步骤：(1)将待处理视频的帧内图像划分成编码单元，并对编码单元按照帧内划分方式划分为大小为4×4、8×8、16×16、32×32和64×64的若干块，选取其中一块作为预测单元PU；(2)对预测单元PU先进行粗略模式选择RMD过程，再根据哈德玛代价SATD代价函数选出前m种预测模式作为候选模式，记为候选集合M，并把该m种预测模式的SATD代价函数值记为存入数组S1；(3)利用H.265/HEVC标准中给定的最有可能模式MPM算法对预测单元PU进行预测，得到最有可能模式MPM；(4)判断步骤(3)得到最有可能模式MPM是否包含在候选集合M中，如果包含在候选集合M中，则执行步骤(6)，反之，则执行步骤(5)；(5)将最有可能模式MPM加入到候选集合M中，并将最有可能模式MPM对应的SATD代价函数值SatdCost加入到数组S1，然后对数组S1中元素进行从小到大排序，再依据数组S1中元素的顺序更新相应的候选模式在候选集合M中的位置，并将候选集合M中的候选模式记为P₁～P_m1，并把对应的SATD代价函数值记为(6)根据该代价函数值用基于自回归模型的自适应模式选择模型对候选集合M中的候选模式P₁～P_m1进行筛选，选出前n种候选模式作为最终候选模式集合N：(6a)根据所选预测单元PU的尺寸，选择预测单元PU门限值的计算公式：对于选取尺寸为4×4的预测单元PU，则执行步骤(6b)，对于选取尺寸为8×8的预测单元PU，则执行步骤(6c)，对于选取尺寸为16×16的预测单元PU，则执行步骤(6d)，对于选取尺寸为32×32的预测单元PU，则执行步骤(6e)，对于选取尺寸为64×64的预测单元PU，则执行步骤(6f)；(6b)根据H.265/HEVC标准，通过基于自回归模型的公式，计算所选预测单元PU的门限值${\partial }_N=({\partial }_{al}+2\times {\partial }_{l_1}+2\times {\partial }_{a_1})/5,$其中，是与所选预测单元PU相邻且位于所选预测单元PU左上方的基本单元门限值，是与所选预测单元PU相邻且位于所选预测单元PU左侧的基本单元门限值，是与所选预测单元PU相邻且位于所选预测单元PU上方的基本单元门限值；(6c)根据H.265/HEVC标准，通过基于自回归模型的公式，计算所选预测单元PU的门限值${\partial }_N=({\partial }_{al}+2\times ({\partial }_{l_1}+{\partial }_{l_2})+2\times ({\partial }_{a_1}+{\partial }_{a_2}\left)\right)/9,$其中，是与所选预测单元PU相邻且位于所选预测单元PU左上方的基本单元门限值，是与所选预测单元PU相邻且位于下方从上而下依次排列的两个基本单元门限值；是与所选预测单元PU相邻且位于右方从左至右依次排列的两个基本单元门限值；(6d)根据H.265/HEVC标准，通过基于自回归模型的公式，计算所选预测单元PU的门限值${\partial }_N=({\partial }_{al}+2\times ({\partial }_{l_1}+{\partial }_{l_2}+{\partial }_{l_3}+{\partial }_{l_4})+2\times ({\partial }_{a_1}+{\partial }_{a_2}+{\partial }_{a_3}+{\partial }_{a_4}\left)\right)/17,$其中，是与所选预测单元PU相邻且位于所选预测单元PU左上方的基本单元门限值，是与所选预测单元PU相邻且位于下方从上而下依次排列的四个基本单元门限值；是与所选预测单元PU相邻且位于右方从左至右依次排列的四个基本单元门限值；(6e)根据H.265/HEVC标准，用基于自回归模型的公式，计算所选预测单元PU的门限值$\begin{array}{c}{\partial }_N=({\partial }_{al}+2\times ({\partial }_{l_1}+{\partial }_{l_2}+{\partial }_{l_3}+{\partial }_{l_4}+{\partial }_{l_5}+{\partial }_{l_6}+{\partial }_{l_7}+{\partial }_{l_8})\\ +2\times ({\partial }_{a_1}+{\partial }_{a_2}+{\partial }_{a_3}+{\partial }_{a_4}+{\partial }_{a_5}+{\partial }_{a_6}+{\partial }_{a_7}+{\partial }_{a_8}))/33\end{array},$其中，是与所选预测单元PU相邻且位于所选预测单元PU左上方的基本单元门限值，是与所选预测单元PU相邻且位于下方从上而下依次排列的八个基本单元门限值；是与所选预测单元PU相邻且位于右方从左至右依次排列的八个基本单元门限值；(6f)根据H.265/HEVC标准，用基于自回归模型的公式，计算所选预测单元PU的门限值$\begin{array}{c}{\partial }_N=({\partial }_{al}+2\times ({\partial }_{l_1}+{\partial }_{l_2}+{\partial }_{l_3}+{\partial }_{l_4}+{\partial }_{l_5}+{\partial }_{l_6}+{\partial }_{l_7}+{\partial }_{l_8}\\ +{\partial }_{l_9}+{\partial }_{l{`}_{10}}+{\partial }_{l_{11}}+{\partial }_{l_{12}}+{\partial }_{l_{13}}+{\partial }_{l_{14}}+{\partial }_{l_{15}}+{\partial }_{l_{16}})\\ +2\times ({\partial }_{a_1}+{\partial }_{a_2}+{\partial }_{a_3}+{\partial }_{a_4}+{\partial }_{a_5}+{\partial }_{a_6}+{\partial }_{a_7}+{\partial }_{a_8}\\ +{\partial }_{a_9}+{\partial }_{a_{10}}+{\partial }_{a_{11}}+{\partial }_{a_{12}}+{\partial }_{a_{13}}+{\partial }_{a_{14}}+{\partial }_{a_{15}}+{\partial }_{a_{16}}\left)\right)/65\end{array},$其中，是与所选预测单元PU相邻且位于所选预测单元PU左上方的基本单元门限值，是与所选预测单元PU相邻且位于下方从上而下依次排列的十六个基本单元门限值；是与所选预测单元PU相邻且位于右方从左至右依次排列的十六个基本单元门限值；(6g)把SatdCost_p1对应的预测模式P₁作为最终候选模式集合N的初始值，此时N＝{P₁}，初始化候选模式索引n＝1；(6h)计算数组S1中的相邻两个元素的差和两者平均值的比值，如果所得比值与门限的关系满足${\mathrm{SatdCost}}_{p_{n+1}}-{\mathrm{SatdCost}}_{p_n}\le {\partial }_N({\mathrm{SatdCost}}_{p_{n+1}}+{\mathrm{SatdCost}}_{p_n})/2,$则候选模式索引n增加1，继续执行步骤(6h)，反之则结束，输出候选模式索引n；(6i)由候选模式索引n的候选模式为P₁～P_n，得到最终候选预测模式集合N＝{P₁，P₂，···，P_n}；(7)对预测单元PU，依次用步骤(6)得到的最终候选模式集合N中的n种候选模式进行率失真优化RDO过程，选取最小RDO代价函数值对应的候选模式作为最优预测模式；(8)对编码单元的其他预测单元重复步骤(2)～步骤(8)，完成待处理视频的帧内图像的帧内预测模式选择。