基于HEVC标准的帧内预测编码模式快速选择方法

摘要

本发明公开了一种基于HEVC标准的帧内预测编码模式快速选择方法，主要解决现有HEVC标准中帧内预测编码模式选择复杂度高、编码时间长的问题。其实现步骤是：1)将图像划分成一系列基本编码单元，并依次进行方向预测；2)计算最优模式权重函数值f_m及合并阈值T，并根据两者大小关系，判断是否对基本编码单元进行合并、求取最优预测模式；3)对已求得的最优预测模式进行统计，并依据其分布规律，对待求最优预测模式进行直接选取，或求得待选择预测模式后，从待选择预测模式中选取出最优预测模式。本发明在保持图像压缩性能的同时，降低了运算复杂度、缩短了编码时间，可用于所有基于HEVC标准的视频压缩编码端中的帧内预测模式选择。

主权项

一种基于HEVC标准的帧内预测编码模式快速选择方法，包括如下步骤：(1)将待编码图像划分成一系列64×64的最大编码单元LCU；(2)依次将每个最大编码单元LCU划分成256个4×4的基本编码单元BCU；(3)按照HEVC标准使用的zig‑zag顺序依次对每个基本编码单元BCU进行预测，求取其最优预测模式，并判断当前基本编码单元BCU为第4N个基本编码单元BCU是否成立，其中N为整数，若成立，则执行步骤(4)，否则，继续对下一个基本编码单元BCU进行预测；(4)定义最优模式权重函数值f_m及合并阈值T为：f_m＝N_mi×4^MT＝(10‑M)×(MD+M‑4)/2‑(Dr‑M+4)‑(QP＞＞4)，其中M为变量，初始值为0，m_i为前4^M个基本编码单元BCU中使用次数最多的预测模式，N_mi为m_i在前4^M个基本编码单元BCU中使用的次数，MD为最大的划分深度，Dr为与前4^M个基本编码单元BCU相邻且在其左侧和上方的基本编码单元BCU中的划分深度的平均值，QP为量化系数；(5)将最优模式权重函数值f_m与合并阈值T进行比较，若f_m≥T，则合并前4^M个基本编码单元BCU，并执行步骤(6)；若f_m＜T，则以前4^M个基本编码单元BCU的合并结果作为最优的编码单元CU四叉树结构，并返回步骤(3)，对下一个基本编码单元BCU进行预测；(6)判断是否成立，若不成立，则执行步骤(7)；若成立，则直接选取mode_i作为最优预测模式，并执行步骤(10)；(7)判断N_m＜(((5‑M)＞＞2+1)＜＜2)是否成立，其中N_m为前4^M个基本编码单元BCU中使用到的预测模式的种类数，若不成立，则执行步骤(8)；若成立，则跳过HEVC标准中规定的SATD粗选过程，直接使用前4^M个基本编码单元BCU中使用到的预测模式进行方向预测，求解出每种预测模式的率失真代价值RDcost，并从中选取率失真代价值RDcost最小的模式作为最优预测模式，随后执行步骤(10)；(8)判断是否成立，其中m_j为与前4^M个基本编码单元BCU相邻且在其左侧和上方的基本编码单元BCU中使用次数最多的预测模式，N_j为预测模式m_j在前4^M个基本编码单元BCU中的使用次数，若不成立，则执行步骤(9)；若成立，则直接选取m_j作为最优预测模式，并执行步骤(10)；(9)以与前4^M个基本编码单元BCU中使用到的预测模式距离为2的模式作为待选择预测模式，并从这些待选择预测模式中选取出最优预测模式，并执行步骤(10)；(10)比较M值与的大小，若则M取M+1并返回步骤(5)，若则返回步骤(3)，对下一个基本编码单元BCU进行预测。