一种面向SATD的拉格朗日因子计算方法

摘要

本发明公开了一种面向SATD的拉格朗日因子计算方法，根据高码率条件下熵受限标量量化的编码器的率失真模型推导出基于SSE的拉格朗日因子λ_mode：哈达玛变换具有能量集中的特性，主要将能量集中在二维矩阵的左上角，由于哈达玛变换与DCT具有类似的特性，因此哈达玛变换残差也被描述为高斯分布：在失真测度为SATD的情况下，得率失真模型，进而得到面向SATD的拉格朗日因子λ_pre。本发明方法通过计算参数δ和δ_h来获取拉格朗日因子λ_pre，具有较低的编码复杂度，仅为现有算法的1％；且从率失真理论的角度得到失真测度SATD下的拉格朗日因子λ_pre，具有高的准确度。

主权项

一种面向SATD的拉格朗日因子计算方法，其特征在于，具体包括如下步骤：步骤1，根据高码率条件下熵受限标量量化的编码器的率失真模型R(D)：$R\left(D\right)=\frac{1}{2}log\left(\frac{{\delta }^2}{D}\right)---\left(5\right)$推导出基于SSE的拉格朗日因子λ_mode：${\lambda }_{\mathrm{mod}e}=-\frac{dD}{dR}=2ln10·{\delta }^2{10}^{-2R}---\left(6\right)$其中R表示码率，D表示失真，δ²表示DCT域残差的方差；步骤2，哈达玛变换具有能量集中的特性，主要将能量集中在二维矩阵的左上角，由于哈达玛变换与DCT具有类似的特性，因此哈达玛变换残差也被描述为高斯分布：$f\left(x\right)={\left(2{\mathrm{\pi \delta }}_h^2\right)}^{1/2}{e}^{-\frac{x^2}{2{\delta }_h^2}}---\left(7\right)$其中x表示哈达玛变换后的残差，δ_h为哈达玛变换后残差的标准差；在失真测度为SATD的情况下，得率失真模型：$R\left(D\right)=\frac{1}{2}log\left(\frac{{\mathrm{\pi \delta }}_h^2}{2eD}\right)---\left(8\right)$则得面向SATD的拉格朗日因子λ_pre：$\begin{array}{c}{\lambda }_{pre}=-\frac{dD}{dR}=\sqrt{\frac{\pi }{2e}}ln10·{\delta }_h{10}^{-R}\\ =\sqrt{\frac{\pi }{4eln10}}ln10.\frac{{\delta }_h}{\delta }\sqrt{{\lambda }_{\mathrm{mod}e}}\\ =c^{\prime }.\frac{{\delta }_h}{\delta }\sqrt{{\lambda }_{\mathrm{mod}e}}\end{array}---\left(9\right).$