一种容错性视频转码中的率失真优化方法

摘要

本发明公开了一种容错性视频转码中的率失真优化方法，包括在帧层对片长度的优化和在宏块层对宏块模式的优化，本发明在帧层对片长度的选择进行率失真优化时，充分考虑片间预测的影响，并推导出具体的拉格朗日乘子公式，从而提高帧层算法的精确性；在宏块层对模式的选择进行率失真优化时，充分利用转码输入视频流的当前帧信息和转码输出视频流的前一帧信息，预测最优模式，从而降低宏块层算法的复杂度。

主权项

一种容错性视频转码中的率失真优化方法，其特征在于包括以下步骤：(1)在对当前帧进行转码前，根据当前帧中宏块转码前的量化步长，计算当前帧转码前的信源失真，具体根据下式计算当前帧转码前的信源失真DFR，s，1： D FR , s , 1 = Σ MB = 0 n ( Q MB , 1 2 12 ) 其中QMB，1为当前帧中宏块MB转码前的量化步长，由转码输入流解码得到，n为当前帧的宏块数目；(2)根据当前帧转码前的信源失真、方差、码率和转码后的码率，计算当前帧转码后的信源失真，具体根据下式计算当前帧转码后的信源失真DFR，s，2： D FR , s , 2 = b b D FR , s , 1 - 2 R FR , 1 R FR , 2 其中b为当前帧转码前的方差，RFR，1为当前帧转码前的码率，均由转码输入流解码得到，RFR，2为当前帧转码后的比特数，由转码后的目标码率决定；(3)根据转码输入流中的运动矢量计算当前帧的掩盖失真DFR，c和扩散失真DFR，p；(4)根据当前帧转码前的方差和转码后的信源失真、码率，计算拉格朗日乘子，具体根据下式计算当前帧的拉格朗日乘子λFR，0： λ FR , 0 = ln 2 · D FR , s , 2 R FR , 2 · log 2 ( b D FR , s , 2 ) 其中b为当前帧转码前的方差，RFR，2为当前帧转码后的比特数，DFR，s，1为当前帧转码前的信源失真，DFR，s，2为当前帧转码后的信源失真；(5)根据当前帧转码后的信源失真和码率，当前帧的掩盖失真DFR，c、扩散失真DFR，p和帧长度，前一帧转码后实际码率与目标码率之间的差值和帧长度，片头的比特数，以及信道的突发错误长度和误码率，计算当前帧的最优片长度，具体根据下式计算当前帧的最优片长度s： s = L · λ FR , 0 · ( s 0 · R head + s ′ · Δ R FR ′ ) BER · ( D FR , c - D FR , s , 2 - D FR , p - λ FR , 0 · R FR , 2 ) 其中Rhead为视频编码标准定义的片头的比特数，s0为当前帧的帧长度，ΔR′FR为前一帧转码后片间预测导致的码率增益，s′为前一帧的帧长度，L为信道的突发错误长度，BER为信道的误码率；(6)在对当前宏块进行转码前，根据其转码前的模式进行如下判断：如果转码前的模式为帧内模式，那么转码后的最优模式仍然为帧内模式；如果转码前的模式为帧间模式，那么转码后的最优模式需要进一步选择；(7)根据当前宏块转码前的码率、方差和当前宏块信源率失真模型参数，计算当前宏块转码前的信源失真，具体根据下式计算当前宏块转码前的信源失真DMB，s，1(minter)： D MB , s , 1 ( m inter ) = b MB , inter 2 R MB , 1 ( m inter ) a MB 其中RMB，1(minter)和bMB，inter分别为当前宏块转码前的码率和方差，均由从转码输入流中解码得到，aMB为当前宏块信源率失真模型参数，基于已实际编码宏块的数据根据H.264参考模型中的线性衰退模型预测得到；(8)根据当前宏块转码前后的量化步长，当前宏块转码前的信源失真、方差，当前宏块信源率失真模型参数，计算当前宏块转码后为帧间模式时的信源失真和码率，具体根据下式分别计算当前宏块转码后为帧间模式时的信源失真DMB，s，2(minter)和码率RMB，2(minter)： D MB , s , 2 ( m inter ) = D MB , s , 1 ( m inter ) · Q MB , 2 2 Q MB , 1 2 R MB , 2 ( m inter ) = a MB log 2 ( b MB , inter D MB , s , 2 ( m inter ) ) 其中QMB，1和QMB，2分别为当前宏块转码前后的量化步长；(9)根据转码输入流中的运动矢量计算当前宏块转码后为帧间模式时的扩散失真DMB，p，2(minter)；(10)根据当前宏块量化步长计算得到当前宏块的拉格朗日乘子λMB，0；(11)根据当前宏块转码后为帧间模式时的信源失真、扩散失真、码率和当前宏块的拉格朗日乘子，计算当前宏块转码后为帧间模式时的率失真函数值，具体根据下式计算当前宏块转码后为帧间模式时的率失真函数值Jinter：Jinter＝DMB，s，2(minter)+DMB，p，2(minter)+λMB，0RMB，2(minter)；(12)根据当前宏块中子块的非零系数比，子块及其在前一帧中对应子块的量化步长，对应子块在帧内模式时的信源失真、方差，计算当前宏块转码后为帧内模式时的信源失真和码率的最大值以及最小值，具体根据下式分别计算当前宏块转码后为帧内模式时的信源失真的最大值DMB，s，2(mintra)和码率的最大值RM，2(mintra)，以及信源失真的最小值DMB，s，2(mintra)和码率的最小值RMB，2(mintra)： D ‾ MB , s , 2 ( m intra ) = Σ B = 0 16 ( D B , s , 2 ′ ( m intra ) · Q B , 2 2 Q B , 2 ′ 2 · ( 1 + ρ B ) ) R ‾ MB , 2 ( m intra ) = a MB log 2 ( Σ B = 0 16 ( b B , intra ′ · ( 1 + ρ B ) ) D ‾ MB , s , 2 ( m intra ) ) D ‾ MB , s , 2 ( m intra ) = Σ B = 0 16 ( D B , s , 2 ′ ( m intra ) · Q B , 2 2 Q B , 2 ′ 2 · ( 1 - ρ B ) ) R ‾ MB , 2 ( m intra ) = a MB log 2 ( Σ B = 0 16 ( b B , intra ′ · ( 1 - ρ B ) ) D ‾ MB , s , 2 ( m intra ) ) 其中ρB为当前宏块中子块B的非零系数比，QB，2和Q′B，2分别为子块B及其在前一帧中对应子块的量化步长，D′B，s，2(mintra)、b′B，intra分别为对应子块在帧内模式时的信源失真、方差；(13)根据当前宏块转码后为帧内模式时的信源失真和码率的最大值以及最小值，计算当前宏块转码后为帧内模式时的率失真函数值的最大值和最小值，具体根据下式分别计算当前宏块转码后为帧内模式时率失真函数值的最大值Jintra和率失真函数值的最小值Jintra：Jintra＝DMB，s，2(mintra)+λMB，0RMB，2(mintra)Jintra＝DMB，s，2(mintra)+λMB，0RMB，2(mintra)；(14)如果当前宏块转码后为帧间模式时的率失真函数值大于为帧内模式时率失真函数值的最大值，则当前宏块转码后的最优模式为帧内模式；如果当前宏块转码后为帧间模式时的率失真函数值小于为帧内模式时率失真函数值的最小值，则当前宏块转码后的最优模式为帧间模式；否则，转入步骤(15)；(15)对当前宏块进行帧内模式编码，得到帧内模式时信源失真和码率的实际值，然后根据信源失真和码率的实际值，计算帧内模式时率失真函数值的实际值，根据下式计算帧内模式时率失真函数值的实际值Jintra：Jintra＝DMB，s，2(mintra)+DMB，p，2(mintra)+λMB，0RMB，2(mintra)其中DMB，s，2(mintra)和RMB，2(mintra)为帧内模式时信源失真和码率的实际值，DMB，p，2(mintra)为帧内模式时的扩散失真；(16)如果当前宏块转码后为帧间模式时的率失真函数值大于为帧内模式时率失真函数值的实际值，则当前宏块转码后的最优模式为帧内模式；否则，当前宏块转码后的最优模式为帧间模式。