一种视频编码的编码尺寸判决方法、装置、设备及介质与流程

1.本技术涉及视频编码技术领域，尤其涉及一种视频编码的编码尺寸判决方法、装置、设备及介质。


背景技术：

2.h.265/hevc(high efficiency video coding，高效视频编码)作为新一代视频编码标准，相比上一代视频编码标准h.264/avc在压缩效率上提升了一倍，同时编码复杂度也大大增加。主要是由于hevc中引入了一些新技术，如大尺寸四叉树分割、35种帧内预测模式、rdo(rate distortion optimization，率失真优化)技术和sao(sample adaptive offset，样点自适应偏移)技术等。其中rdo过程需要计算每一种编码尺寸和预测单元的编码代价，从中选择代价最小的作为最佳尺寸和预测模式，因此，rdo过程是编码器编码过程中计算量最大的部分。
3.为了降低帧内编码的复杂度，减少计算量，现有技术采用从空域相关性的角度估计当前编码树单元的深度预测范围的方法来控制编码块的深度划分范围，或者利用编码单元的图像纹理特征采用不同的快速算法进行模式选择和提前终止划分，但只考虑空域相关性或只考虑图像纹理特征对于降低帧内编码复杂度仍具有较大的局限性。
4.因此，现有技术中存在因在视频编码时仅考虑空域相关性或仅考虑图像纹理特征导致帧内编码复杂度仍然很高的问题。


技术实现要素：

5.本技术提供了一种视频编码的编码尺寸判决方法、装置、设备及介质，能够有效地减少视频编码的计算量，降低编码计算复杂度。
6.第一方面，本技术实施例提供了一种视频编码的编码尺寸判决方法，该方法应用于视频编码设备，该方法包括：
7.获取与当前编码树单元相邻的多个相邻编码树单元对应的多个编码深度值；
8.根据各相邻编码树单元的编码深度值和各相邻编码树单元对应的预设权重因子计算得到当前编码树单元的预测深度值；
9.基于罗伯茨梯度算子计算当前编码树单元的纹理复杂度；
10.根据预测深度值和纹理复杂度确定当前编码树单元的初步遍历深度范围；
11.基于初步遍历深度范围对当前编码树单元中划分的当前编码单元执行提前终止划分机制，得到当前编码单元的最优编码尺寸。
12.进一步的，多个相邻编码树单元包括当前编码树单元的左编码树单元、上编码树单元、左上编码树单元和右上编码树单元；左编码树单元和上编码树单元对应的预设权重因子为第一权重因子，左上编码树单元和右上编码树单元对应的预设权重因子为第二权重因子；
13.第一权重因子大于第二权重因子。
14.进一步的，上述基于罗伯茨梯度算子计算当前编码树单元的纹理复杂度，包括：
15.基于罗伯茨梯度算子根据当前编码树单元的宽度值、高度值和多个像素值进行计算，得到当前编码树单元的平均梯度值；
16.根据预设第一纹理阈值、预设第二纹理阈值、预设第三纹理阈值和平均梯度值得到当前编码树单元的纹理复杂度。
17.进一步的，初步遍历深度范围包括第一深度值、第二深度值和第三深度值；
18.基于初步遍历深度范围对当前编码树单元中划分的当前编码单元执行提前终止划分机制，得到当前编码单元的最优编码尺寸，包括：
19.根据第一深度值确定当前编码单元的当前划分尺寸；
20.根据当前划分尺寸和当前编码单元对应的多个像素值计算得到当前编码单元的纹理平坦度，检测纹理平坦度是否小于预设平坦度阈值；若小于，则提前终止划分，并将当前划分尺寸作为最优编码尺寸；若大于等于，则执行率失真代价判断步骤。
21.进一步的，上述执行率失真代价判断步骤，包括：
22.获取当前编码树单元中的尺寸与当前划分尺寸相同的多个已编码单元的第一平均率失真代价，获取左编码树单元、上编码树单元和左上编码树单元中的尺寸和当前划分尺寸相同的多个已编码单元的第二平均率失真代价；
23.根据第一平均率失真代价和第二平均率失真代价计算得到率失真代价阈值；
24.获取当前编码单元的最优率失真代价，检测最优率失真代价是否小于率失真代价阈值；若小于，则提前终止划分，并将当前划分尺寸作为当前编码单元的最优编码尺寸；若大于等于，则执行边缘特征判断步骤。
25.进一步的，上述执行边缘特征判断步骤，包括：
26.根据计算得到的当前编码单元的边缘特征判断当前编码单元是否含有边缘；
27.若当前编码单元含有边缘，则根据当前编码树单元的纹理复杂度、预测深度值和当前划分尺寸判断是否提前终止划分；若提前终止划分，则将当前划分尺寸作为当前编码单元的最优编码尺寸；若不提前终止划分，则执行最优尺寸比较步骤；
28.若当前编码单元不含有边缘，则判断当前编码单元的4个子编码单元是否含有边缘，若含有边缘，则根据当前编码树单元的纹理复杂度和预测深度值判断是否提前终止划分；若提前终止划分，则将当前划分尺寸作为当前编码单元的最优编码尺寸；若不含有边缘或者若不提前终止划分，则执行最优尺寸比较步骤。
29.进一步的，上述执行最优尺寸比较步骤，包括：
30.根据初步遍历深度范围中的第二深度值确定第二划分尺寸；
31.根据第二划分尺寸对当前编码单元进行划分，得到第二尺寸编码单元；
32.计算当前编码单元的率失真代价和第二尺寸编码单元的率失真代价并比较；
33.若当前编码单元的率失真代价大于等于第二尺寸编码单元的率失真代价，则将当前划分尺寸作为当前编码单元的最优编码尺寸；
34.若当前编码单元的率失真代价小于第二尺寸编码单元的率失真代价，则将第二划分尺寸作为当前编码单元的最优编码尺寸。
35.第二方面，本技术实施例提供了一种视频编码的编码尺寸判决装置，该装置应用于视频编码设备，该装置包括：
36.编码深度值获取模块，用于获取与当前编码树单元相邻的多个相邻编码树单元对应的多个编码深度值；
37.预测深度值获取模块，用于根据各相邻编码树单元的编码深度值和各相邻编码树单元对应的预设权重因子计算得到当前编码树单元的预测深度值；
38.纹理复杂度计算模块，用于基于罗伯茨梯度算子计算当前编码树单元的纹理复杂度；
39.初步遍历深度确定模块，用于根据预测深度值和纹理复杂度确定当前编码树单元的初步遍历深度范围；
40.提前终止划分模块，用于基于初步遍历深度范围对当前编码树单元中划分的当前编码单元执行提前终止划分机制，得到当前编码单元的最优编码尺寸。
41.第三方面，本技术实施例提供了一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，处理器执行计算机程序时执行如上述任一实施例的一种视频编码的编码尺寸判决方法的步骤。
42.第四方面，本技术实施例提供了一种计算机可读存储介质，其上存储有计算机程序，计算机程序被处理器执行时实现如上述任一实施例的一种视频编码的编码尺寸判决方法的步骤。
43.综上，与现有技术相比，本技术实施例提供的技术方案带来的有益效果至少包括：
44.本技术实施例提供的一种视频编码的编码尺寸判决方法，本技术根据相邻编码树单元的编码深度值计算当前编码树单元的预测深度值，考虑了编码的空域相关性；再根据预测深度值和纹理复杂度计算当前编码树单元的初步深度遍历范围，即初步深度遍历范围是联合了空域相关性和图像纹理特征得到的，这使得初步深度遍历范围中深度值对应的编码尺寸结果更加精确、准确；再在初步深度遍历范围的基础上，对编码树单元划分编码单元的尺寸时应用提前终止划分机制，能够在初步深度遍历范围中的几个最接近最优编码尺寸的深度值中，进一步缩小范围，从而确定最优的编码尺寸，避免了视频编码的率失真优化过程中对每一种编码尺寸和对应编码代价的遍历计算，减少了视频编码的计算量，降低了编码计算复杂度。
附图说明
45.图1为本技术一个示例性实施例提供的一种视频编码的编码尺寸判决方法的流程图。
46.图2为本技术一个示例性实施例提供的相邻编码树单元的示意图。
47.图3为本技术一个示例性实施例提供的确定初步深度遍历范围的表格图。
48.图4为本技术一个示例性实施例提供的率失真代价判断步骤的流程图。
49.图5为本技术一个示例性实施例提供的一种视频编码的编码尺寸判决装置的结构图。
具体实施方式
50.下面将结合本技术实施例中的附图，对本技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本技术一部分实施例，而不是全部的实施例。基于
本技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本技术保护的范围。
51.请参见图1，本技术实施例提供了一种视频编码的编码尺寸判决方法，该方法应用于视频编码设备，以执行主体是视频编码设备为例进行说明，该方法具体可以包括以下步骤：
52.步骤s1，获取与当前编码树单元相邻的多个相邻编码树单元对应的多个编码深度值。
53.步骤s2，根据各相邻编码树单元的编码深度值和各相邻编码树单元对应的预设权重因子计算得到当前编码树单元的预测深度值。
54.具体地，预测深度值可以由以下公式计算得到：
[0055][0056]
其中，depth
pre
为预测深度值，n为相邻编码树单元的数量，ωi为第i个相邻编码树单元对应的预设权重因子，leveli为第i个相邻编码树单元的编码深度值。
[0057]
步骤s3，基于罗伯茨梯度算子计算当前编码树单元的纹理复杂度。
[0058]
步骤s4，根据预测深度值和纹理复杂度确定当前编码树单元的初步遍历深度范围。
[0059]
步骤s5，基于初步遍历深度范围对当前编码树单元中划分的当前编码单元执行提前终止划分机制，得到当前编码单元的最优编码尺寸。
[0060]
上述实施例提供的一种视频编码的编码尺寸判决方法，根据相邻编码树单元的编码深度值计算当前编码树单元的预测深度值，考虑了编码的空域相关性；再根据预测深度值和纹理复杂度计算当前编码树单元的初步深度遍历范围，即初步深度遍历范围是联合了空域相关性和图像纹理特征得到的，这使得初步深度遍历范围中深度值对应的编码尺寸结果更加精确、准确；再在初步深度遍历范围的基础上，对编码树单元划分编码单元的尺寸时应用提前终止划分机制，能够在初步深度遍历范围中的几个最接近最优编码尺寸的深度值中，进一步缩小范围，从而确定最优的编码尺寸，避免了视频编码的率失真优化过程中对每一种编码尺寸和对应编码代价的遍历计算，减少了视频编码的计算量，降低了编码计算复杂度。
[0061]
请参见图2，在一些实施例中，多个相邻编码树单元包括当前编码树单元的左编码树单元、上编码树单元、左上编码树单元和右上编码树单元。
[0062]
左编码树单元和上编码树单元对应的预设权重因子为第一权重因子，左上编码树单元和右上编码树单元对应的预设权重因子为第二权重因子；第一权重因子大于第二权重因子。
[0063]
其中，ctu为coding tree unit，编码树单元的缩写，cul为左编码树单元，cua为上编码树单元，cula为左上编码树单元，cura为右上编码树单元。
[0064]
具体的，上述计算预测深度值的公式中，n＝4，cul和cua对应的第一权重因子为0.3，即ω1＝ω2＝0.3，cula和cura对应的第二权重因子为0.2，即ω3＝ω4＝0.2。这是因为在空域中，左编码树单元和上编码树单元与当前编码树单元的相关性大一些，而左上编码
树单元和右上编码树单元与当前编码树单元的相关性小一些。
[0065]
上述实施例考虑了当前编码树单元和相邻编码树单元的空域相关性，根据相关性的大小设置了不同的权重因子，使得预测深度值的计算更加准确，进而使得初步深度遍历范围更准确。
[0066]
在一些实施例中，上述基于罗伯茨梯度算子计算当前编码树单元的纹理复杂度，包括：
[0067]
基于罗伯茨梯度算子根据当前编码树单元的宽度值、高度值和多个像素值进行计算，得到当前编码树单元的平均梯度值。
[0068]
根据预设第一纹理阈值、预设第二纹理阈值、预设第三纹理阈值和平均梯度值得到当前编码树单元的纹理复杂度。
[0069]
其中，罗伯茨梯度算子又称roberts梯度算子，是一种利用局部差分算子寻找边缘的算子，在本技术中，平均梯度值的具体计算公式为：
[0070]gx
＝f(x+1,y)-f(x,y)
[0071]gy
＝f(x,y+1)-f(x,y)
[0072]
g(x,y)＝|g
x
+gy|
[0073][0074]
其中，f(x,y)表示位置(x,y)处的像素值，g
x
表示(x,y)的水平方向梯度，gy表示(x,y)的垂直方向梯度，g(x,y)表示(x,y)处的梯度，height为当前编码树单元的高度值，width为当前编码树单元的宽度值，g
avg
表示当前编码树单元的平均梯度值。
[0075][0076]
其中，tc为纹理复杂度，thr1为预设第一纹理阈值，可以为5，thr2为预设第二纹理阈值，可以为10，thr3为预设第三纹理阈值，可以为15。
[0077]
psimple表示当前编码树单元为绝对纹理平坦块，simple表示当前编码树单元为纹理平坦块，common表示当前编码树单元为纹理普通块，complex表示当前编码树单元为纹理复杂块，pcomplex表示当前编码树单元为绝对纹理复杂块。
[0078]
上述实施例通过纹理复杂度的计算和判断，从而得到当前编码树单元图像纹理特征，根据纹理复杂度将当前编码树单元细分为5种类型，方便了后续初步深度遍历范围的确定，使得初步深度遍历范围更准确。
[0079]
在一些实施例中，初步遍历深度范围包括第一深度值、第二深度值和第三深度值；基于初步遍历深度范围对当前编码树单元中划分的当前编码单元执行提前终止划分机制，得到当前编码单元的最优编码尺寸，包括：
[0080]
根据第一深度值确定当前编码单元的当前划分尺寸。
[0081]
根据当前划分尺寸和当前编码单元对应的多个像素值计算得到当前编码单元的
纹理平坦度，检测纹理平坦度是否小于预设平坦度阈值；若小于，则提前终止划分，并将当前划分尺寸作为最优编码尺寸；若大于等于，则执行率失真代价判断步骤。
[0082]
请参见图3，可以看到，预测深度值和纹理复杂度决定了初步深度遍历范围中有几个深度值，在本实施例中，第一深度值并不是遍历深度1，第一深度值为初步深度遍历范围中最小的深度值，若初步深度遍历范围为[1，2，3]，则第一深度值为1，第二深度值为2，第三深度值为3；若初步深度遍历范围为[2，3]，则第一深度值为2，第二深度值为3，没有第三深度值，即初步深度遍历范围中的深度值个数也是由预测深度值和纹理复杂度来决定的。
[0083]
具体地，编码树单元ctu的尺寸为64
×
64，遍历深度1是指将64
×
64的ctu划分为4个编码尺寸为32
×
32的编码单元cu(coding unit)，即遍历深度值1对应32
×
32的编码尺寸，以此类推，遍历深度值2是指划分为16个编码尺寸为16
×
16的编码单元cu，遍历深度值3是指划分为64个编码尺寸为8
×
8的编码单元cu。
[0084]
对于只有一个深度值的初步深度遍历范围，可以直接将该深度值对应的编码尺寸作为最优编码尺寸，无需执行提前终止划分机制，而对于含有至少两个深度值的初步深度遍历范围，则执行提前终止划分机制，如对于初步深度遍历范围为[1，2]的当前编码树单元，第一深度值为1，当前划分尺寸为32
×
32，若在提前终止划分机制中检测到满足提前划分条件，便以32
×
32为最优编码尺寸，不必再进行编码尺寸为16
×
16的划分。
[0085]
具体地，纹理平坦度的计算公式具体如下：
[0086][0087]
其中，mean为当前编码单元cu的所有像素点的像素值的像素平均值，homo表示当前编码单元cu的纹理平坦度，m表示当前编码单元cu的编码尺寸，即m＝32或16，p(i,j)表示当前编码单元cu中位于(i,j)位置的像素值。
[0088]
若homo小于预设平坦度阈值，则当前编码单元cu提前终止划分，否则执行率失真代价判断步骤，在本技术中，预设平坦度阈值可以为0.01*mean。
[0089]
上述实施例中，若homo小于预设平坦度阈值，说明按照当前划分尺寸进行编码的当前编码单元已经足够平坦，当前划分尺寸已经足够准确，不需要进一步划分，提前终止进一步的划分，从而减少了编码的计算量和计算复杂度。
[0090]
请参见图4，在一些实施例中，上述执行率失真代价判断步骤，具体可以包括：
[0091]
步骤s61，获取当前编码树单元中的尺寸与当前划分尺寸相同的多个已编码单元的第一平均率失真代价，获取左编码树单元、上编码树单元和左上编码树单元中的尺寸和当前划分尺寸相同的多个已编码单元的第二平均率失真代价。
[0092]
步骤s62，根据第一平均率失真代价和第二平均率失真代价计算得到率失真代价阈值。
[0093]
具体地，率失真代价rdcost(rate distortion cost)＝d+lamda*bit，其中d表示当前编码单元cu和重建块的差值平方和sse(sum of squared error)，用于衡量采用当前模式编码的失真，bit表示编码当前模式所消耗的比特数，lamba表示参数，重建块是指编码过程中经过反变换反量化和滤波操作后得到的图像块。设第一平均率失真代价为rdcost1，第二平均率失真代价为rdcost2，率失真代价阈值thr可以为：thr＝rdcost1
×
0.6+rdcost2
×
0.4。
[0094]
步骤s63，获取当前编码单元的最优率失真代价，检测最优率失真代价是否小于率失真代价阈值；若小于，则提前终止划分，并将当前划分尺寸作为当前编码单元的最优编码尺寸；若大于等于，则执行边缘特征判断步骤。
[0095]
具体地，当前编码单元的最优率失真代价是指当前编码单元遍历计算图像帧内35种预测模式中35个率失真代价中最小的率失真代价。
[0096]
上述实施例通过比较当前编码单元的最优率失真代价和率失真代价阈值来判断当前尺寸划分的效果是否为最好的，若小于阈值，说明当前划分尺寸对应的编码代价就小，因此提前终止划分，避免了继续划分尺寸可能造成的率失真代价提高，有效减小了编码计算复杂度。
[0097]
在一些实施例中，上述执行边缘特征判断步骤，具体可以包括：
[0098]
根据计算得到的当前编码单元的边缘特征判断当前编码单元是否含有边缘；
[0099]
若当前编码单元含有边缘，则根据当前编码树单元的纹理复杂度、预测深度值和当前划分尺寸判断是否提前终止划分；若提前终止划分，则将当前划分尺寸作为当前编码单元的最优编码尺寸；若不提前终止划分，则执行最优尺寸比较步骤；
[0100]
若当前编码单元不含有边缘，则判断当前编码单元的4个子编码单元是否含有边缘，若含有边缘，则根据当前编码树单元的纹理复杂度和预测深度值判断是否提前终止划分；若提前终止划分，则将当前划分尺寸作为当前编码单元的最优编码尺寸；若不含有边缘或者若不提前终止划分，则执行最优尺寸比较步骤。
[0101]
其中，计算当前编码单元的边缘特征的方法如下：
[0102]
对当前编码单元对应的图像帧进行1/4下采样，将1/4下采样后的图像采用sobel算子计算得到边缘图，并采用大津法otsu对边缘图进行阈值化。
[0103]
对阈值化的边缘图按照四叉树递归划分的方式从32
×
32到4
×
4的建立边缘四叉树。
[0104]
根据1/4下采样图像到全分辨率图像的位置映射关系和边缘四叉树获取当前编码单元及当前编码单元的4个子编码单元的边缘特征。
[0105]
上述1/4下采样是指将图像在水平方向间隔1个像素取像素，在垂直方向上间隔1个像素点取像素，形成1/4下采样图像。
[0106]
判断是否含有边缘特征可以有多种实现方式，例如当计算得到的边缘特征为0时，则判断不含有边缘特征，当边缘特征为1时，则判断有边缘特征。
[0107]
对于不含有边缘特征的当前编码单元，若当前划分尺寸为32
×
32，其所在的编码树单元ctu属于纹理简单块或者纹理绝对简单块，并且预测深度值小于1，则当前编码单元可以提前终止划分，采用32x32尺寸进行编码。
[0108]
若当前划分尺寸为16
×
16，其所在的编码树单元ctu为纹理简单块或者纹理绝对简单块，并且其预测深度值小于2，则可以提前终止划分，采用16x16尺寸进行编码；或者其所在编码树单元ctu为纹理普通块，并且其预测深度值小于1，则也可以提前终止划分，采用16x16尺寸进行编码。若不含有边缘特征的cu不满足上述这些条件，则执行最优尺寸比较步骤。
[0109]
若当前编码单元和其4个子cu均含有边缘特征，其所在的编码树单元ctu为纹理普通块或纹理复杂块，并且其预测深度值大于2，则当前编码单元直接按第二深度值的编码尺
寸划分，如当前划分尺寸为16
×
16的当前编码单元直接采用8x8尺寸进行编码。
[0110]
若当前编码单元含有边缘特征，4个子cu却不含有；或者当前编码单元和其4个子cu均含有边缘特征，但不满足上述纹理特征值和预测深度值的条件，则执行最优尺寸比较步骤。
[0111]
上述实施例根据图像是否含有边缘来判断当前划分尺寸的编码效果，若效果足够好，则不需要继续划分，直接按当前划分尺寸编码，避免了不检测边缘直接划分导致的计算量增大。
[0112]
在一些实施例中，上述执行最优尺寸比较步骤，具体可以包括：
[0113]
根据初步遍历深度范围中的第二深度值确定第二划分尺寸。
[0114]
根据第二划分尺寸对当前编码单元进行划分，得到第二尺寸编码单元。
[0115]
计算当前编码单元的率失真代价和第二尺寸编码单元的率失真代价并比较。
[0116]
若当前编码单元的率失真代价大于等于第二尺寸编码单元的率失真代价，则将当前划分尺寸作为当前编码单元的最优编码尺寸。
[0117]
若当前编码单元的率失真代价小于第二尺寸编码单元的率失真代价，则将第二划分尺寸作为当前编码单元的最优编码尺寸。
[0118]
在具体实施过程中，假设初步深度遍历范围为[2，3]，第一深度值为2，第二深度值为3，当前划分尺寸为16
×
16，则进一步划分为4个8
×
8编码尺寸的第二尺寸编码单元，计算这两种编码尺寸对应的率失真代价，选择率失真代价较小的编码尺寸作为最优编码尺寸进行编码。
[0119]
上述实施例以率失真代价为最终的评判依据，选择率失真代价小的编码尺寸进行编码，有效减少了率失真优化过程中的计算量和计算复杂度。
[0120]
请参见图5，本技术另一实施例提供了一种视频编码的编码尺寸判决装置，该装置应用于视频编码设备，该装置具体可以包括：
[0121]
编码深度值获取模块101，用于获取与当前编码树单元相邻的多个相邻编码树单元对应的多个编码深度值。
[0122]
预测深度值获取模块102，用于根据各相邻编码树单元的编码深度值和各相邻编码树单元对应的预设权重因子计算得到当前编码树单元的预测深度值。
[0123]
纹理复杂度计算模块103，用于基于罗伯茨梯度算子计算当前编码树单元的纹理复杂度。
[0124]
初步遍历深度确定模块104，用于根据预测深度值和纹理复杂度确定当前编码树单元的初步遍历深度范围。
[0125]
提前终止划分模块105，用于基于初步遍历深度范围对当前编码树单元中划分的当前编码单元执行提前终止划分机制，得到当前编码单元的最优编码尺寸。
[0126]
上述实施例提供的一种视频编码的编码尺寸判决装置，其中预测深度值获取模块102根据相邻编码树单元的编码深度值计算当前编码树单元的预测深度值，考虑了编码的空域相关性；初步遍历深度确定模块104根据预测深度值和纹理复杂度计算当前编码树单元的初步深度遍历范围，即初步深度遍历范围是联合了空域相关性和图像纹理特征得到的，这使得初步深度遍历范围中深度值对应的编码尺寸结果更加精确、准确；提前终止划分模块105在初步深度遍历范围的基础上，对编码树单元划分编码单元的尺寸时应用提前终
止划分机制，能够在初步深度遍历范围中的几个最接近最优编码尺寸的深度值中，进一步缩小范围，从而确定最优的编码尺寸，避免了视频编码的率失真优化过程中对每一种编码尺寸和对应编码代价的遍历计算，减少了视频编码的计算量，降低了编码计算复杂度。
[0127]
本实施例中提供的关于一种视频编码的编码尺寸判决装置的具体限定，可以参见上文中关于一种视频编码的编码尺寸判决方法的实施例，于此不再赘述。上述一种视频编码的编码尺寸判决装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中，也可以以软件形式存储于计算机设备中的存储器中，以便于处理器调用执行以上各个模块对应的操作。
[0128]
本技术实施例提供了一种计算机设备，该计算机设备可以包括通过系统总线连接的处理器、存储器、网络接口和数据库。其中，该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统、计算机程序和数据库。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的网络接口用于与外部的终端通过网络连接通信。处计算机程序被处理器执行时，使得处理器执行如上述任一实施例的一种视频编码的编码尺寸判决方法的步骤。
[0129]
本实施例提供的计算机设备的工作过程、工作细节和技术效果，可以参见上文中关于一种视频编码的编码尺寸判决方法的实施例，于此不再赘述。
[0130]
本技术实施例提供了一种计算机可读存储介质，其上存储有计算机程序，计算机程序被处理器执行时实现如上述任一实施例的一种视频编码的编码尺寸判决方法的步骤。其中，所述计算机可读存储介质是指存储数据的载体，可以但不限于包括软盘、光盘、硬盘、闪存、优盘和/或记忆棒(memory stick)等，所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。
[0131]
本实施例提供的计算机可读存储介质的工作过程、工作细节和技术效果，可以参见上文中关于一种视频编码的编码尺寸判决方法的实施例，于此不再赘述。
[0132]
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，所述的计算机程序可存储于一非易失性计算机可读取存储介质中，该计算机程序在执行时，可包括如上述各方法的实施例的流程。其中，本技术所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用，均可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器(rom)、可编程rom(prom)、电可编程rom(eprom)、电可擦除可编程rom(eeprom)或闪存。易失性存储器可包括随机存取存储器(ram)或者外部高速缓冲存储器。作为说明而非局限，ram以多种形式可得，诸如静态ram(sram)、动态ram(dram)、同步dram(sdram)、双数据率sdram(ddrsdram)、增强型sdram(esdram)、同步链路(synchlink)dram(sldram)、存储器总线(rambus)直接ram(rdram)、直接存储器总线动态ram(drdram)、存储器总线动态ram(rdram)等。
[0133]
以上实施例的各技术特征可以进行任意的组合，为使描述简洁，未对上述实施例中的各个技术特征所有可能的组合都进行描述，然而，只要这些技术特征的组合不存在矛盾，都应当认为是本说明书记载的范围。
[0134]
以上所述实施例仅表达了本技术的几种实施方式，其描述较为具体和详细，但并不能因此而理解为对发明专利范围的限制。应当指出的是，对于本领域的普通技术人员来
说，在不脱离本技术构思的前提下，还可以做出若干变形和改进，这些都属于本技术的保护范围。因此，本技术专利的保护范围应以所附权利要求为准。

技术特征：
1.一种视频编码的编码尺寸判决方法，其特征在于，所述方法包括：获取与当前编码树单元相邻的多个相邻编码树单元对应的多个编码深度值；根据各所述相邻编码树单元的所述编码深度值和各所述相邻编码树单元对应的预设权重因子计算得到所述当前编码树单元的预测深度值；基于罗伯茨梯度算子计算所述当前编码树单元的纹理复杂度；根据所述预测深度值和所述纹理复杂度确定所述当前编码树单元的初步遍历深度范围；基于所述初步遍历深度范围对所述当前编码树单元中划分的当前编码单元执行提前终止划分机制，得到所述当前编码单元的最优编码尺寸。2.根据权利要求1所述的方法，其特征在于，多个所述相邻编码树单元包括所述当前编码树单元的左编码树单元、上编码树单元、左上编码树单元和右上编码树单元；所述左编码树单元和所述上编码树单元对应的所述预设权重因子为第一权重因子，所述左上编码树单元和所述右上编码树单元对应的所述预设权重因子为第二权重因子；所述第一权重因子大于所述第二权重因子。3.根据权利要求1所述的方法，其特征在于，所述基于罗伯茨梯度算子计算所述当前编码树单元的纹理复杂度，包括：基于所述罗伯茨梯度算子根据所述当前编码树单元的宽度值、高度值和多个像素值进行计算，得到所述当前编码树单元的平均梯度值；根据预设第一纹理阈值、预设第二纹理阈值、预设第三纹理阈值和所述平均梯度值得到所述当前编码树单元的所述纹理复杂度。4.根据权利要求2所述的方法，其特征在于，所述初步遍历深度范围包括第一深度值、第二深度值和第三深度值；所述基于所述初步遍历深度范围对所述当前编码树单元中划分的当前编码单元执行提前终止划分机制，得到所述当前编码单元的最优编码尺寸，包括：根据所述第一深度值确定所述当前编码单元的当前划分尺寸；根据所述当前划分尺寸和所述当前编码单元对应的多个像素值计算得到所述当前编码单元的纹理平坦度，检测所述纹理平坦度是否小于预设平坦度阈值；若小于，则提前终止划分，并将所述当前划分尺寸作为所述最优编码尺寸；若大于等于，则执行率失真代价判断步骤。5.根据权利要求4所述的方法，其特征在于，所述执行率失真代价判断步骤，包括：获取所述当前编码树单元中的尺寸与所述当前划分尺寸相同的多个已编码单元的第一平均率失真代价，获取所述左编码树单元、所述上编码树单元和所述左上编码树单元中的所述尺寸和所述当前划分尺寸相同的多个所述已编码单元的第二平均率失真代价；根据所述第一平均率失真代价和所述第二平均率失真代价计算得到率失真代价阈值；获取所述当前编码单元的最优率失真代价，检测所述最优率失真代价是否小于所述率失真代价阈值；若小于，则提前终止划分，并将所述当前划分尺寸作为所述当前编码单元的所述最优编码尺寸；若大于等于，则执行边缘特征判断步骤。6.根据权利要求5所述的方法，其特征在于，所述执行边缘特征判断步骤，包括：根据计算得到的所述当前编码单元的边缘特征判断所述当前编码单元是否含有边缘；若所述当前编码单元含有边缘，则根据所述当前编码树单元的所述纹理复杂度、所述
预测深度值和所述当前划分尺寸判断是否提前终止划分；若提前终止划分，则将所述当前划分尺寸作为所述当前编码单元的所述最优编码尺寸；若不提前终止划分，则执行最优尺寸比较步骤；若所述当前编码单元不含有边缘，则判断所述当前编码单元的4个子编码单元是否含有边缘，若含有边缘，则根据所述当前编码树单元的所述纹理复杂度和所述预测深度值判断是否提前终止划分；若提前终止划分，则将所述当前划分尺寸作为所述当前编码单元的所述最优编码尺寸；若不含有边缘或者若不提前终止划分，则执行最优尺寸比较步骤。7.根据权利要求6所述的方法，其特征在于，所述执行最优尺寸比较步骤，包括：根据所述初步遍历深度范围中的所述第二深度值确定第二划分尺寸；根据所述第二划分尺寸对所述当前编码单元进行划分，得到第二尺寸编码单元；计算所述当前编码单元的率失真代价和所述第二尺寸编码单元的所述率失真代价并比较；若所述当前编码单元的所述率失真代价大于等于所述第二尺寸编码单元的所述率失真代价，则将所述当前划分尺寸作为所述当前编码单元的所述最优编码尺寸；若所述当前编码单元的所述率失真代价小于所述第二尺寸编码单元的所述率失真代价，则将所述第二划分尺寸作为所述当前编码单元的所述最优编码尺寸。8.一种视频编码的编码尺寸判决装置，其特征在于，所述装置包括：编码深度值获取模块，用于获取与当前编码树单元相邻的多个相邻编码树单元对应的多个编码深度值；预测深度值获取模块，用于根据各所述相邻编码树单元的所述编码深度值和各所述相邻编码树单元对应的预设权重因子计算得到所述当前编码树单元的预测深度值；纹理复杂度计算模块，用于基于罗伯茨梯度算子计算所述当前编码树单元的纹理复杂度；初步遍历深度确定模块，用于根据所述预测深度值和所述纹理复杂度确定所述当前编码树单元的初步遍历深度范围；提前终止划分模块，用于基于所述初步遍历深度范围对所述当前编码树单元中划分的当前编码单元执行提前终止划分机制，得到所述当前编码单元的最优编码尺寸。9.一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1至7中任一项所述方法的步骤。10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至7中任一项所述方法的步骤。

技术总结
本申请属于视频编码技术领域，公开了一种视频编码的编码尺寸判决方法、装置、设备及介质，该方法包括：获取与当前编码树单元相邻的多个相邻编码树单元对应的多个编码深度值；根据各相邻编码树单元的编码深度值和各相邻编码树单元对应的预设权重因子计算得到当前编码树单元的预测深度值；基于罗伯茨梯度算子计算当前编码树单元的纹理复杂度；根据预测深度值和纹理复杂度确定当前编码树单元的初步遍历深度范围；基于初步遍历深度范围对当前编码树单元中划分的当前编码单元执行提前终止划分机制，得到当前编码单元的最优编码尺寸。本申请能够有效地减少视频编码的计算量，降低编码计算复杂度。码计算复杂度。码计算复杂度。


技术研发人员：李鹏
受保护的技术使用者：厦门亿联网络技术股份有限公司
技术研发日：2023.03.16
技术公布日：2023/7/19