一种编码单元级的拉格朗日乘子调节方法及系统

1.本发明涉及视频编码技术领域，特别是涉及一种编码单元级的拉格朗日乘子调节方法及系统。


背景技术：

2.随着视频技术的不断发展，人们对于视频质量和视频传输速度的要求也越来越高。在视频传输过程中，视频编码起着至关重要的作用。视频编码是将原始视频信号进行压缩和转换的过程，目的是使视频信号在传输和存储时占用更少的带宽和存储空间。视频编码过程中，拉格朗日乘子是一个非常重要的参数，其用于权衡输出码率和压缩视频重建质量。较小的拉格朗日乘子使编码器生成较高的码率和较好的视频重建质量。反之，较大的拉格朗日乘子使编码器生成较低的码率和较差的视频重建质量。
3.为了利用视频编码过程中的率失真依赖关系改善编码器压缩性能，一些学者针对hevc编码器提出了ctu级的自适应拉格朗日乘子选择方法，该方法的思想同样可以应用到最新的vvc编码器。然而，ctu级的自适应拉格朗日乘子选择方法以每个ctu作为一个整体进行编码优化，限制了方法的压缩性能提升空间。特别地，对于ctu采用了更大尺寸的vvc编码器，ctu级的自适应拉格朗日乘子选择方法不能较好利用率失真依赖性进行编码优化。因此，亟需一种能够充分利用ctu内不同区域的率失真依赖差异进行编码优化并提高视频编码器压缩性能的方法。


技术实现要素：

4.本发明的目的是提供一种编码单元级的拉格朗日乘子调节方法及系统，可提高视频压缩性能。
5.为实现上述目的，本发明提供了如下方案：
6.一种编码单元级的拉格朗日乘子调节方法，所述方法包括：
7.对于待编码视频的每一待编码帧，执行下述步骤：
8.确定所述待编码帧的初始量化参数和帧级拉格朗日乘子；根据所述待编码帧的初始量化参数和帧级拉格朗日乘子预测所述待编码帧中各像素块的重建失真和运动补偿预测误差；
9.对于所述待编码帧中的每一所述像素块，根据所述像素块的重建失真和运动补偿预测误差计算所述像素块的时域失真传播因子；所述时域失真传播因子表征所述像素块的编码失真对后续帧编码失真的影响程度；
10.根据所述待编码帧中所有所述像素块的时域失真传播因子计算所述待编码帧中每一所述像素块的拉格朗日权重；所述拉格朗日权重表征所述像素块的编码质量在所述待编码帧中的相对不重要程度；
11.对于所述待编码帧中的每一编码树单元，对所述编码树单元进行划分，得到一个第一编码单元或多个第二编码单元；根据所述第一编码单元对应的像素块的拉格朗日权重
计算所述第一编码单元的编码单元级拉格朗日乘子；根据所述第一编码单元的编码单元级拉格朗日乘子计算每一预测模式对应的第一率失真代价；根据所有所述第一率失真代价确定所述编码树单元的第一最佳预测模式；对于每一所述第二编码单元，根据所述第二编码单元对应的像素块的拉格朗日权重计算所述第二编码单元的编码单元级拉格朗日乘子，根据所述第二编码单元的编码单元级拉格朗日乘子计算每一所述预测模式对应的第二率失真代价；根据所有所述第二率失真代价确定所述编码树单元的第二最佳预测模式；根据所述第二最佳预测模式对应的第二率失真代价和所述第一最佳预测模式对应的第一率失真代价确定所述编码树单元的最终编码模式，利用所述最终编码模式对所述编码树单元进行编码；所述预测模式包括skip模式、merge模式、amvp模式和帧内预测模式。
12.可选的，所述对所述编码树单元进行划分，得到一个第一编码单元或多个第二编码单元，具体包括：
13.以第一划分方式对所述编码树单元进行划分，得到一个第一编码单元；所述第一编码单元的尺寸等于所述编码树单元的尺寸；
14.以第二划分方式对所述编码树单元进行划分，得到多个第二编码单元；所述第二编码单元的尺寸小于所述编码树单元的尺寸。
15.可选的，所述第一编码单元的编码单元级拉格朗日乘子的表达式为：
[0016][0017]
其中，λ
ctu
为第一编码单元的编码单元级拉格朗日乘子；l为第一编码单元覆盖的像素块的个数；ωj是第一编码单元覆盖的第j个像素块的拉格朗日权重；λf为帧级拉格朗日乘子。
[0018]
可选的，所述根据所述第一编码单元的编码单元级拉格朗日乘子计算每一预测模式对应的第一率失真代价，具体包括：
[0019]
对于每一预测模式，以所述预测模式对所述编码树单元进行编码，得到所述预测模式对应的重建失真和码率；根据所述预测模式对应的重建失真和码率以及所述第一编码单元的编码单元级拉格朗日乘子计算所述预测模式对应的第一率失真代价。
[0020]
可选的，所述根据所有所述第一率失真代价确定所述编码树单元的第一最佳预测模式，具体包括：
[0021]
将所有所述第一率失真代价中值最小第一率失真代价对应的预测模式作为所述编码树单元的第一最佳预测模式。
[0022]
可选的，所述第二编码单元的编码单元级拉格朗日乘子的表达式为：
[0023][0024]
其中，λ
cu
为第二编码单元的编码单元级拉格朗日乘子；n是第二编码单元覆盖的像素块的个数；n表示第二编码单元覆盖的第n个像素块；ωn为第二编码单元覆盖的第n个像素块的拉格朗日权重；βn是第二编码单元覆盖的第n个像素块包含在第二编码单元中的比率；λf为待编码帧的帧级拉格朗日乘子。
[0025]
可选的，所述根据所有所述第二率失真代价确定所述编码树单元的第二最佳预测
模式，具体包括：
[0026]
根据所有所述第二率失真代价确定每一所述第二编码单元的第三最佳预测模式；
[0027]
根据所有所述第二编码单元的第三最佳预测模式确定所述编码树单元的第二最佳预测模式。
[0028]
可选的，所述时域失真传播因子的表达式为：
[0029][0030]
其中，pi、di和ei分别是待编码帧中第i个像素块的时域失真传播因子、运动补偿预测误差和重建失真。
[0031]
可选的，所述根据所述待编码帧中所有所述像素块的时域失真传播因子计算所述待编码帧中每一所述像素块的拉格朗日权重，具体包括：
[0032]
根据所述待编码帧中所有所述像素块的时域失真传播因子计算中间权重变量；
[0033]
对于每一所述像素块，根据所述中间权重变量和所述像素块的时域失真传播因子计算所述像素块的拉格朗日权重。
[0034]
本发明还提供了一种编码单元级的拉格朗日乘子调节系统，包括：
[0035]
参数确定模块，用于对于待编码视频的每一待编码帧，确定所述待编码帧的初始量化参数和帧级拉格朗日乘子；根据所述待编码帧的初始量化参数和帧级拉格朗日乘子预测所述待编码帧中各像素块的重建失真和运动补偿预测误差；
[0036]
时域失真传播因子计算模块，用于对于所述待编码帧中的每一所述像素块，根据所述像素块的重建失真和运动补偿预测误差计算所述像素块的时域失真传播因子；所述时域失真传播因子表征所述像素块的编码失真对后续帧编码失真的影响程度；
[0037]
拉格朗日权重计算模块，用于根据所述待编码帧中所有所述像素块的时域失真传播因子计算所述待编码帧中每一所述像素块的拉格朗日权重；所述拉格朗日权重表征所述像素块的编码质量在所述待编码帧中的相对不重要程度；
[0038]
最终编码模式确定模块，用于对于所述待编码帧中的每一编码树单元，对所述编码树单元进行划分，得到一个第一编码单元或多个第二编码单元；根据所述第一编码单元对应的像素块的拉格朗日权重计算所述第一编码单元的编码单元级拉格朗日乘子；根据所述第一编码单元的编码单元级拉格朗日乘子计算每一预测模式对应的第一率失真代价；根据所有所述第一率失真代价确定所述编码树单元的第一最佳预测模式；对于每一所述第二编码单元，根据所述第二编码单元对应的像素块的拉格朗日权重计算所述第二编码单元的编码单元级拉格朗日乘子，根据所述第二编码单元的编码单元级拉格朗日乘子计算每一所述预测模式对应的第二率失真代价；根据所有所述第二率失真代价确定所述编码树单元的第二最佳预测模式；根据所述第二最佳预测模式对应的第二率失真代价和所述第一最佳预测模式对应的第一率失真代价确定所述编码树单元的最终编码模式，利用所述最终编码模式对所述编码树单元进行编码；所述预测模式包括skip模式、merge模式、amvp模式和帧内预测模式。
[0039]
根据本发明提供的具体实施例，本发明公开了以下技术效果：本发明提供了一种编码单元级的拉格朗日乘子调节方法及系统，方法包括：根据初始量化参数和帧级拉格朗
tree units,ctu)，hevc的编码树单元尺寸为64
×
64，而vvc的编码树单元尺寸扩大到了128
×
128。根据视频内容特征，ctu会被进一步划分为更小尺寸的单元进行处理，其称为编码单元(coding units，cu)。
[0048]
本发明的目的是提供一种编码单元级的拉格朗日乘子调节方法及系统，通过编码树单元中编码单元的编码单元级拉格朗日乘子以及率失真代价，确定最终编码模式，充分利用ctu内不同区域(编码单元)的率失真依赖差异(时域失真传播因子)进行编码优化，能进一步提高视频编码器压缩性能。
[0049]
为使本发明的上述目的、特征和优点能够更加明显易懂，下面结合附图和具体实施方式对本发明作进一步详细的说明。
[0050]
如图1所示，本发明提供了一种编码单元级的拉格朗日乘子调节方法，所述方法包括：
[0051]
对于待编码视频的每一待编码帧，执行下述步骤：
[0052]
s1：确定所述待编码帧的初始量化参数和帧级拉格朗日乘子；根据所述待编码帧的初始量化参数和帧级拉格朗日乘子预测所述待编码帧中各像素块的重建失真和运动补偿预测误差。
[0053]
s2：对于所述待编码帧中的每一所述像素块，根据所述像素块的重建失真和运动补偿预测误差计算所述像素块的时域失真传播因子；所述时域失真传播因子表征所述像素块的编码失真对后续帧编码失真的影响程度。
[0054]
s3：根据所述待编码帧中所有所述像素块的时域失真传播因子计算所述待编码帧中每一所述像素块的拉格朗日权重；所述拉格朗日权重表征所述像素块的编码质量在所述待编码帧中的相对不重要程度。
[0055]
s4：对于所述待编码帧中的每一编码树单元，对所述编码树单元进行划分，得到一个第一编码单元或多个第二编码单元；根据所述第一编码单元对应的像素块的拉格朗日权重计算所述第一编码单元的编码单元级拉格朗日乘子；根据所述第一编码单元的编码单元级拉格朗日乘子计算每一预测模式对应的第一率失真代价；根据所有所述第一率失真代价确定所述编码树单元的第一最佳预测模式；对于每一所述第二编码单元，根据所述第二编码单元对应的像素块的拉格朗日权重计算所述第二编码单元的编码单元级拉格朗日乘子，根据所述第二编码单元的编码单元级拉格朗日乘子计算每一所述预测模式对应的第二率失真代价；根据所有所述第二率失真代价确定所述编码树单元的第二最佳预测模式；根据所述第二最佳预测模式对应的第二率失真代价和所述第一最佳预测模式对应的第一率失真代价确定所述编码树单元的最终编码模式，利用所述最终编码模式对所述编码树单元进行编码；所述预测模式包括skip模式、merge模式、amvp模式和帧内预测模式等。
[0056]
其中，步骤s1具体为：
[0057]
首先读入待编码视频的每一待编码帧，根据采用的视频编码器配置，初始化帧级量化参数和拉格朗日乘子等编码参数，相关计算公式为：
[0058]
qp＝qp
input
+δqp。
[0059]
λf＝w
·2(qp-12)/3
。
[0060]
其中，qp为待编码帧的初始量化参数(初始化的帧级量化参数)；qp
input
为编码器的输入量化参数值；δqp为待编码帧的量化参数补偿值；λf为帧级拉格朗日乘子；w是编码器
事先设定的计算权重。
[0061]
将每一待编码帧划分为若干个像素块，像素块的尺寸为m
×
m，采用m
×
m尺寸像素块进行帧间预测编码，并记录帧间预测编码后每一像素块的运动补偿预测误差e和重建失真d。其中，m是小于编码树单元尺寸的整数，大小为2m，并且m可设置为3、4、5或6等整数。
[0062]
然后通过上述得到的像素块的运动补偿预测误差e和重建失真d，计算像素块的时域失真传播因子，所述时域失真传播因子的表达式为：
[0063][0064]
其中，pi、di和ei分别是待编码帧中第i个像素块的时域失真传播因子、运动补偿预测误差和重建失真。
[0065]
其中，步骤s3中根据所述待编码帧中所有所述像素块的时域失真传播因子计算所述待编码帧中每一所述像素块的拉格朗日权重，具体包括：
[0066]
根据所述待编码帧中所有所述像素块的时域失真传播因子计算中间权重变量。
[0067]
对于每一所述像素块，根据所述中间权重变量和所述像素块的时域失真传播因子计算所述像素块的拉格朗日权重。
[0068]
拉格朗日权重的计算公式为：
[0069][0070][0071]
其中，ψ是中间权重变量，nm×m是一待编码帧中包含的m
×
m尺寸像素块的个数，ωi是第i个像素块的拉格朗日权重。
[0072]
步骤s4中对所述编码树单元进行划分，得到一个第一编码单元或多个第二编码单元，具体包括：
[0073]
以第一划分方式对所述编码树单元进行划分，得到一个第一编码单元；所述第一编码单元的尺寸等于所述编码树单元的尺寸。
[0074]
以第二划分方式对所述编码树单元进行划分，得到多个第二编码单元；所述第二编码单元的尺寸小于所述编码树单元的尺寸。
[0075]
根据所述第一编码单元的编码单元级拉格朗日乘子计算每一预测模式对应的第一率失真代价，具体包括：
[0076]
对于每一预测模式，以所述预测模式对所述编码树单元进行编码，得到所述预测模式对应的重建失真和码率；根据所述预测模式对应的重建失真和码率以及所述第一编码单元的编码单元级拉格朗日乘子计算所述预测模式对应的第一率失真代价。
[0077]
所述根据所有所述第一率失真代价确定所述编码树单元的第一最佳预测模式，具体包括：
[0078]
将所有所述第一率失真代价中值最小的第一率失真代价对应的预测模式作为所述编码树单元的第一最佳预测模式。
[0079]
具体地，划分深度depth＝0，即采用第一划分方式对当前编码树单元进行划分时，计算第一编码单元的编码单元级拉格朗日乘子，其公式为
[0080][0081]
其中，λ
ctu
为第一编码单元的编码单元级拉格朗日乘子；l为第一编码单元覆盖的像素块的个数；ωj是第一编码单元覆盖的第j个像素块的拉格朗日权重；λf为帧级拉格朗日乘子。此时，第一编码单元的编码单元级拉格朗日乘子即为当前编码树单元的编码树单元级拉格朗日乘子。
[0082]
通过第一编码单元的编码单元级拉格朗日乘子λ
ctu
进行第一编码单元的最佳预测模式判断，即采用多帧预测模式对当前编码树单元进行编码，通过编码器得到每一预测模式对应的重建失真和码率，通过每一预测模式对应的重建失真和码率得到每一预测模式对应的第一率失真代价，选取第一率失真代价中值最小的第一率失真代价对应的预测模式作为第一最佳预测模式，此时，第一最佳预测模式对应的第一率失真代价j
depth＝0
的计算公式为：
[0083]jdepth＝0
＝d+λ
ctu
·
r。
[0084]
其中，d和r是第一编码单元的第一最佳预测模式对应的重建失真和码率。
[0085]
划分深度depth＝1，即采用第二划分方式对当前编码树单元进行划分时，计算第二编码单元的编码单元级拉格朗日乘子，其表达式为：
[0086][0087]
其中，λ
cu
为第二编码单元的编码单元级拉格朗日乘子；n是第二编码单元覆盖的像素块的个数；n表示第二编码单元覆盖的第n个像素块；ωn为第二编码单元覆盖的第n个像素块的拉格朗日权重；λf为待编码帧的帧级拉格朗日乘子；βn是第二编码单元覆盖的第n个像素块包含在第二编码单元中的比率，例如第n个像素块有一半像素包含在当前编码单元中，则βn＝0.5。
[0088]
所述根据所有所述第二率失真代价确定所述编码树单元的第二最佳预测模式，具体包括：
[0089]
根据所有所述第二率失真代价确定每一所述第二编码单元的第三最佳预测模式。
[0090]
根据所有所述第二编码单元的第三最佳预测模式确定所述编码树单元的第二最佳预测模式。
[0091]
采用当前编码单元的编码单元级拉格朗日乘子λ
cu
进行当前编码单元的预测模式和进一步的划分模式判断，最终确定当前编码单元的最佳编码模式(包括划分模式和预测模式)。对于每一第二编码单元，采用多种预测模式对第二编码单元进行编码，根据第二编码单元的编码单元级拉格朗日乘子计算每一预测模式对应的第二率失真代价，选取第二率失真代价值最小时对应的预测模式作为第二编码单元的第三最佳预测模式。通过所有第二编码单元的第三最佳预测模式确定当前编码树单元的第二最佳预测模式。需要说明的是，当划分深度depth对应的cu(编码单元)尺寸达到编码器允许的最小编码单元尺寸后停止进
一步的迭代划分。此时，划分深度depth最大可以为6。
[0092]
第二最佳预测模式对应的第二率失真代价j
depth＝1
，即depth＝1时的率失真代价为：
[0093][0094]
其中，和为第二最佳预测模式对应的重建失真和码率。
[0095]
通过比较j
depth＝0
和j
depth＝1
，选择值小的对应预测模式作为当前编码树单元的最佳编码模式，并利用最佳编码模式对当前编码树单元编码。
[0096]
若当前编码树单元不是当前编码帧的最后一个编码树单元，跳转至步骤s4编码下一个编码树单元；若当前编码树单元是当前帧的最后一个编码树单元，则完成当前帧编码，并跳转至步骤s1开始编码下一待编码帧，直至待编码视频所有待编码帧完成编码。
[0097]
本实施例采用计算机开发环境visual studio 2019，基于通用视频编码(versatile video coding，vvc)标准的参考软件vtm17.0实现本发明方法。
[0098]
在本实施例中，参数m取值为16，即像素块的尺寸为16
×
16。
[0099]
将本发明方法集成进vvc参考软件vtm17.0后，编码器采用低延迟b帧(low delay b-frame，ldb)和低延迟p帧(low delay p-frame，ldp)两种配置进行视频编码测试。测试实验采用vvc通用测试条件(common test conditions，ctc)建议的classb、classc、classd、classe和classf中全部20个标准动态范围(standard-dynamic-range，sdr)视频，每个视频依据ctc测试输入量化参数qp
input
为22、27、32和37的四个码率点。测试实验除了采用本发明方法进行视频编码外，还采用了vvc基准编码器和现有编码树单元级的拉格朗日乘子调节方法(简称：现有编码树单元级方法)进行视频编码。实验结果为：本发明方法和编码树单元级方法相比vvc基准编码器的码率节省采用(delta bit-rate，bd-rate)度量，bd-rate表示在相同客观质量下，测试方法相对于基准编码器的码率节省百分比，正值表示压缩性能损失，负值表示压缩性能改善。如图2和图3分别是视频编码器在低延迟b帧和低延迟p帧编码配置下，本发明方法和现有编码树单元级方法相对vvc基准编码器的码率节省示意图，图中basketballdrive等是被编码视频的名称。由图2和图3中数据可见，在ldb和ldp编码配置下，相比vvc基准编码器，编码树单元级方法获得了平均1.05％的码率节省，而本发明方法获得了平均1.43％的码率节省。本发明方法比现有编码树单元级方法的压缩性能增益提高了0.38％，因为编码单元级拉格朗日乘子调节方法能更有效地利用编码树内不同编码单元的率失真依赖差异，从而使本发明方法获得了更好的视频压缩性能。
[0100]
图4是实施例中本发明方法和vvc基准编码器对测试视频basketballdrill在ldb编码配置下获得的率失真曲线对比示意图，图5是实施例中本发明方法和vvc基准编码器对测试视频arenaofvalor在ldp编码配置下获得的率失真曲线对比示意图。图4和图5中，横坐标bitrate为输出码率，单位为kbps；纵坐标y-psnr为重建压缩视频亮度分量的峰值信噪比，单位为db。通过图4和图5可得出，在相同输出码率下本发明方法编码视频重建质量好于vvc基准编码器编码视频重建质量。
[0101]
本发明提供的编码单元级的拉格朗日乘子调节方法及系统，相对于现有编码树单元级的拉格朗日乘子调节方法，本发明方法能更有效地利用编码树内不同编码单元的率失真依赖差异，从而优化编码模式选择，进一步提升视频编码器压缩性能。
[0102]
本发明还提供了一种编码单元级的拉格朗日乘子调节系统，包括：
[0103]
参数确定模块，用于对于待编码视频的每一待编码帧，确定所述待编码帧的初始量化参数和帧级拉格朗日乘子；根据所述待编码帧的初始量化参数和帧级拉格朗日乘子预测所述待编码帧中各像素块的重建失真和运动补偿预测误差。
[0104]
时域失真传播因子计算模块，用于对于所述待编码帧中的每一所述像素块，根据所述像素块的重建失真和运动补偿预测误差计算所述像素块的时域失真传播因子；所述时域失真传播因子表征所述像素块的编码失真对后续帧编码失真的影响程度。
[0105]
拉格朗日权重计算模块，用于根据所述待编码帧中所有所述像素块的时域失真传播因子计算所述待编码帧中每一所述像素块的拉格朗日权重；所述拉格朗日权重表征所述像素块的编码质量在所述待编码帧中的相对不重要程度。
[0106]
最终编码模式确定模块，用于对于所述待编码帧中的每一编码树单元，对所述编码树单元进行划分，得到一个第一编码单元或多个第二编码单元；根据所述第一编码单元对应的像素块的拉格朗日权重计算所述第一编码单元的编码单元级拉格朗日乘子；根据所述第一编码单元的编码单元级拉格朗日乘子计算每一预测模式对应的第一率失真代价；根据所有所述第一率失真代价确定所述编码树单元的第一最佳预测模式；对于每一所述第二编码单元，根据所述第二编码单元对应的像素块的拉格朗日权重计算所述第二编码单元的编码单元级拉格朗日乘子，根据所述第二编码单元的编码单元级拉格朗日乘子计算每一所述预测模式对应的第二率失真代价；根据所有所述第二率失真代价确定所述编码树单元的第二最佳预测模式；根据所述第二最佳预测模式对应的第二率失真代价和所述第一最佳预测模式对应的第一率失真代价确定所述编码树单元的最终编码模式，利用所述最终编码模式对所述编码树单元进行编码；所述预测模式包括skip模式、merge模式、amvp模式和帧内预测模式。
[0107]
本说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似部分互相参见即可。对于实施例公开的系统而言，由于其与实施例公开的方法相对应，所以描述的比较简单，相关之处参见方法部分说明即可。
[0108]
本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处。综上所述，本说明书内容不应理解为对本发明的限制。

技术特征：
1.一种编码单元级的拉格朗日乘子调节方法，其特征在于，所述方法包括：对于待编码视频的每一待编码帧，执行下述步骤：确定所述待编码帧的初始量化参数和帧级拉格朗日乘子；根据所述待编码帧的初始量化参数和帧级拉格朗日乘子预测所述待编码帧中各像素块的重建失真和运动补偿预测误差；对于所述待编码帧中的每一所述像素块，根据所述像素块的重建失真和运动补偿预测误差计算所述像素块的时域失真传播因子；所述时域失真传播因子表征所述像素块的编码失真对后续帧编码失真的影响程度；根据所述待编码帧中所有所述像素块的时域失真传播因子计算所述待编码帧中每一所述像素块的拉格朗日权重；所述拉格朗日权重表征所述像素块的编码质量在所述待编码帧中的相对不重要程度；对于所述待编码帧中的每一编码树单元，对所述编码树单元进行划分，得到一个第一编码单元或多个第二编码单元；根据所述第一编码单元对应的像素块的拉格朗日权重计算所述第一编码单元的编码单元级拉格朗日乘子；根据所述第一编码单元的编码单元级拉格朗日乘子计算每一预测模式对应的第一率失真代价；根据所有所述第一率失真代价确定所述编码树单元的第一最佳预测模式；对于每一所述第二编码单元，根据所述第二编码单元对应的像素块的拉格朗日权重计算所述第二编码单元的编码单元级拉格朗日乘子，根据所述第二编码单元的编码单元级拉格朗日乘子计算每一所述预测模式对应的第二率失真代价；根据所有所述第二率失真代价确定所述编码树单元的第二最佳预测模式；根据所述第二最佳预测模式对应的第二率失真代价和所述第一最佳预测模式对应的第一率失真代价确定所述编码树单元的最终编码模式，利用所述最终编码模式对所述编码树单元进行编码；所述预测模式包括skip模式、merge模式、amvp模式和帧内预测模式。2.根据权利要求1所述的编码单元级的拉格朗日乘子调节方法，其特征在于，所述对所述编码树单元进行划分，得到一个第一编码单元或多个第二编码单元，具体包括：以第一划分方式对所述编码树单元进行划分，得到一个第一编码单元；所述第一编码单元的尺寸等于所述编码树单元的尺寸；以第二划分方式对所述编码树单元进行划分，得到多个第二编码单元；所述第二编码单元的尺寸小于所述编码树单元的尺寸。3.根据权利要求1所述的编码单元级的拉格朗日乘子调节方法，其特征在于，所述第一编码单元的编码单元级拉格朗日乘子的表达式为：其中，λ
ctu
为第一编码单元的编码单元级拉格朗日乘子；l为第一编码单元覆盖的像素块的个数；ω
j
是第一编码单元覆盖的第j个像素块的拉格朗日权重；λ
f
为待编码帧的帧级拉格朗日乘子。4.根据权利要求1所述的编码单元级的拉格朗日乘子调节方法，其特征在于，所述根据所述第一编码单元的编码单元级拉格朗日乘子计算每一预测模式对应的第一率失真代价，具体包括：
对于每一预测模式，以所述预测模式对所述编码树单元进行编码，得到所述预测模式对应的重建失真和码率；根据所述预测模式对应的重建失真和码率以及所述第一编码单元的编码单元级拉格朗日乘子计算所述预测模式对应的第一率失真代价。5.根据权利要求1所述的编码单元级的拉格朗日乘子调节方法，其特征在于，所述根据所有所述第一率失真代价确定所述编码树单元的第一最佳预测模式，具体包括：将所有所述第一率失真代价中值最小的第一率失真代价对应的预测模式作为所述编码树单元的第一最佳预测模式。6.根据权利要求1所述的编码单元级的拉格朗日乘子调节方法，其特征在于，所述第二编码单元的编码单元级拉格朗日乘子的表达式为：其中，λ
cu
为第二编码单元的编码单元级拉格朗日乘子；n是第二编码单元覆盖的像素块的个数；n表示第二编码单元覆盖的第n个像素块；ω
n
为第二编码单元覆盖的第n个像素块的拉格朗日权重；β
n
是第二编码单元覆盖的第n个像素块包含在第二编码单元中的比率；λ
f
为待编码帧的帧级拉格朗日乘子。7.根据权利要求1所述的编码单元级的拉格朗日乘子调节方法，其特征在于，所述根据所有所述第二率失真代价确定所述编码树单元的第二最佳预测模式，具体包括：根据所有所述第二率失真代价确定每一所述第二编码单元的第三最佳预测模式；根据所有所述第二编码单元的第三最佳预测模式确定所述编码树单元的第二最佳预测模式。8.根据权利要求1所述的编码单元级的拉格朗日乘子调节方法，其特征在于，所述时域失真传播因子的表达式为：其中，p
i
、d
i
和e
i
分别是待编码帧中第i个像素块的时域失真传播因子、运动补偿预测误差和重建失真。9.根据权利要求1所述的编码单元级的拉格朗日乘子调节方法，其特征在于，所述根据所述待编码帧中所有所述像素块的时域失真传播因子计算所述待编码帧中每一所述像素块的拉格朗日权重，具体包括：根据所述待编码帧中所有所述像素块的时域失真传播因子计算中间权重变量；对于每一所述像素块，根据所述中间权重变量和所述像素块的时域失真传播因子计算所述像素块的拉格朗日权重。10.一种编码单元级的拉格朗日乘子调节系统，其特征在于，包括：参数确定模块，用于对于待编码视频的每一待编码帧，确定所述待编码帧的初始量化参数和帧级拉格朗日乘子；根据所述待编码帧的初始量化参数和帧级拉格朗日乘子预测所述待编码帧中各像素块的重建失真和运动补偿预测误差；时域失真传播因子计算模块，用于对于所述待编码帧中的每一所述像素块，根据所述
像素块的重建失真和运动补偿预测误差计算所述像素块的时域失真传播因子；所述时域失真传播因子表征所述像素块的编码失真对后续帧编码失真的影响程度；拉格朗日权重计算模块，用于根据所述待编码帧中所有所述像素块的时域失真传播因子计算所述待编码帧中每一所述像素块的拉格朗日权重；所述拉格朗日权重表征所述像素块的编码质量在所述待编码帧中的相对不重要程度；最终编码模式确定模块，用于对于所述待编码帧中的每一编码树单元，对所述编码树单元进行划分，得到一个第一编码单元或多个第二编码单元；根据所述第一编码单元对应的像素块的拉格朗日权重计算所述第一编码单元的编码单元级拉格朗日乘子；根据所述第一编码单元的编码单元级拉格朗日乘子计算每一预测模式对应的第一率失真代价；根据所有所述第一率失真代价确定所述编码树单元的第一最佳预测模式；对于每一所述第二编码单元，根据所述第二编码单元对应的像素块的拉格朗日权重计算所述第二编码单元的编码单元级拉格朗日乘子，根据所述第二编码单元的编码单元级拉格朗日乘子计算每一所述预测模式对应的第二率失真代价；根据所有所述第二率失真代价确定所述编码树单元的第二最佳预测模式；根据所述第二最佳预测模式对应的第二率失真代价和所述第一最佳预测模式对应的第一率失真代价确定所述编码树单元的最终编码模式，利用所述最终编码模式对所述编码树单元进行编码；所述预测模式包括skip模式、merge模式、amvp模式和帧内预测模式。

技术总结
本发明公开一种编码单元级的拉格朗日乘子调节方法及系统，涉及视频编码领域，方法包括对待编码帧中的每一编码树单元进行划分，得到编码单元，根据编码单元对应的像素块的拉格朗日权重计算编码单元的编码单元级拉格朗日乘子，通过编码单元的编码单元级拉格朗日乘子计算每一预测模式下的率失真代价，并由率失真代价确定编码树单元的最终编码模式，利用最终编码模式对编码树单元进行编码。本发明通过编码树单元中编码单元的编码单元级拉格朗日乘子以及率失真代价，确定最终编码模式，充分利用了编码单元的率失真依赖差异进行编码优化，提高了视频压缩性能。提高了视频压缩性能。提高了视频压缩性能。


技术研发人员：郭红伟 刘婷
受保护的技术使用者：红河学院
技术研发日：2023.04.24
技术公布日：2023/7/22