一种改进的带有预测残差调整的视频编码方法

摘要

本发明提供一种改进的带有预测残差调整的视频编码方法，其中：根据预设的量化参数，获得基于量化的视频编码方法的失真；根据预设的量化参数和预测残差的调整程度，获得在带有预测残差调整的编码方法下，由量化和残差调整所造成的总失真；设得到的两种编码方法的失真相等或近似相等，以此确定在失真等效的意义下，带有预测残差调整的编码方法的等效量化参数；将得到的等效量化参数代入为基于量化的视频编码优化拉格朗日乘子的方法中，得到适用于带有预测残差调整的视频编码的拉格朗日乘子。接着，利用得到的拉格朗日乘子对带有预测残差调整的视频编码进行率失真优化。本发明考虑了由量化和残差调整所造成的总失真，因而能够获得较高的编码效率。

主权项

一种为带有预测残差调整的视频编码优化拉格朗日乘子的方法，其特征在于：所述方法包括如下步骤：①根据预设的量化参数，获得基于量化的视频编码方法的失真；②根据预设的量化参数和预测残差的调整程度，获得在带有预测残差调整的编码方法下，由量化和残差调整所造成的总失真；③设得到的两种编码方法的失真相等或近似相等，以此确定在失真等效的意义下，带有预测残差调整的编码方法的等效量化参数；④将得到的等效量化参数代入为基于量化的视频编码优化拉格朗日乘子的方法中，得到适用于带有预测残差调整的视频编码的拉格朗日乘子；设在带有系数抑制的编码方法下，图像块的平均失真为其中Q_step是预设的量化步长；设在传统的基于量化的编码方法下，图像块的平均失真为如果Q′_step是带有系数抑制的编码的等效量化步长，则有$\overline{{ϵ}_{\mathrm{pro}}^2}\left(Q_{\mathrm{step}}\right)=\overline{{ϵ}_{\mathrm{nor}}^2}\left(Q_{\mathrm{step}}^{\prime }\right);$Q′_step是失真意义上的等效量化步长，将其代入基于量化的编码方法的最优拉格朗日乘子公式，适用于H.264/AVC标准的最优拉格朗日乘子公式中：$\lambda \left(Q_{\mathrm{step}}\right)=c·Q_{\mathrm{step}}^2$或$0.85·2^{(\mathrm{QP}\left(Q_{\mathrm{step}}\right)-12)/3},$其中c是一个常数，Q_step是量化步长，QP(Q_step)是依赖于量化步长的量化参数，得到适用于带有残差调整的编码方法的拉格朗日乘子λ(Q′_step)。