一种变换模式的编解码方法和装置

摘要

本发明实施例公开了一种变换模式的编解码方法和装置，其中方法的实现包括：获取视频图象的残差数据块所对应的预测数据块的预测模式，所述预测模式可以为但不限于帧内预测模式；从候选变换模式中择优选择最优变换模式，所述最优变换模式用于使所述待编码视频图像和解码端得到重建视频图像的失真最小和使所述待编码视频图像所需要的编码比特数最小；如果优选变换模式与预测模式相关，则传递信息或者编解码端达成协议，使解码端获知所选变换模式；如果优选变换模式与预测模式无关，则传递信息，使解码端获知所选变换模式；上述传递信息编入码流；上述方案可以节省资源，效率也更高。

主权项

一种变换模式的编码方法，其特征在于，包括：获取待编码视频图像的残差数据块所对应预测数据块的预测模式；从候选变换模式集中选择与所述预测模式对应的变换模式；使用所述变换模式对所述待编码视频图像的残差数据块进行变换操作；所述候选变换模式集与所述预测模式的对应关系，包括：如果所述预测模式为帧内预测模式，则如果所述预测模式的预测像素中超过设定数量的像素编码单元上、右上边界时，选择横向长方块变换作为所述预测模式的对应变换类型；如果所述预测模式的预测像素中超过设定数量的像素编码单元左、左下边界时，选择纵向长方块变换作为所述预测模式的对应变换类型；否则，选择正方块变换作为所述预测模式的对应变换类型；或者，如果所述预测模式为帧内预测模式，则如果所述预测模式的预测像素中超过设定数量的像素编码单元上、右上边界时，选择非纵向长方块变换作为所述预测模式的对应变换类型；如果所述预测模式的预测像素中超过设定数量的像素编码单元左、左下边界时，选择非横向长方块变换作为所述预测模式的对应变换类型；否则，选择所有变换类型中预置的变换类型作为所述预测模式的对应变换类型；或者，如果预测信息表征竖直纹理，选择横向长方块变换作为所述预测模式的对应变换类型；如果预测信息表征水平纹理，选择纵向长方块变换作为所述预测模式的对应变换类型；如果预测信息表征无纹理或者不规则纹理，则，选择正方块变换作为所述预测模式的对应变换类型；或者，如果预测信息表征竖直纹理，选择非纵向长方块变换作为所述预测模式的对应变换类型；如果预测信息表征水平纹理，选择非横向长方块变换作为所述预测模式的对应变换类型；如果预测信息表征无纹理或者不规则纹理，则，对应所有类型变换；或者，如果预测信息表征横向或非纵向长方块变换，选择横向长方块变换作为所述预测模式的对应变换类型；如果预测信息表征纵向或非横向长方块变换，选择纵向长方块变换作为所述预测模式的对应变换类型；如果预测信息表征正方块变换，则，选择正方块变换作为所述预测模式的对应变换类型；或者，如果预测信息表征横向或非纵向长方块变换，选择非纵向长方块变换作为所述预测模式的对应变换类型；如果预测信息表征纵向或非横向长方块变换，选择非横向长方块变换作为所述预测模式的对应变换类型；如果预测信息表征正方块变换，则，对应所有类型变换。