基于AVS的并行量化和反量化方法

摘要

本发明公开了基于AVS的并行量化和反量化方法，量化方法包括：分析量化公式中的参数，分别提取量化公式中的每个参数；分别将每个参数对应的8个值并行送入相应的寄存器中；利用保存有对应参数的寄存器对量化公式进行运算；获得同一行的8个量化结果；重复运算，依次获得8行量化结果。反量化方法包括：分析反量化公式中的参数，分别提取反量化公式中的每个参数；分别将每个参数对应的8个值并行送入相应的寄存器中；利用保存有对应参数的寄存器对反量化公式进行运算；获得同一行的8个反量化结果；重复运算，依次获得8行反量化结果。通过分别将量化和反量化中的参数并行放进寄存器中进行处理，实现高效率地得到量化结果和反量化结果。

主权项

基于AVS的并行量化方法，其特征在于，包括以下步骤：步骤A：分析量化公式中的参数，分别提取量化公式中的每个参数，每个参数均为16位数据，参数数量包括5个，分别记为第一参数、第二参数、第三参数、第四参数和第五参数，第一参数位于第一矩阵内，第二参数位于第二矩阵内，第三参数、第四和第五参数为固定参数；步骤B：分别将第一矩阵的当前行的8个第一参数和第二矩阵的当前行的8个第二参数并行送入相应的寄存器中，将8个第三参数、8个第四参数和8个第五参数亦分别并行送入相应的寄存器中；步骤C：利用保存有对应参数的寄存器对量化公式进行运算；步骤D：获得同一行的8个量化结果；步骤E：重复执行8次步骤B至步骤D，依次获得8行量化结果，得到8*8量化结果矩阵。