一种深度网络模型的量化精度选择方法及装置与流程

1.本技术涉及深度学习技术领域，尤其涉及一种深度网络模型的量化精度选择方法及装置。


背景技术：

2.现有的深度网络部署过程中，模型的量化是不可缺少的一步。常识上来说，量化位宽越高，量化效果越好，量化位宽越低则量化精度越差。但是高位宽则代表着推理时间变长，低位宽往往量化后模型的精度欠佳。自然地，人们开始研究混合精度量化工具。目前的混合精度量化大多采用强化学习的方法，去自动的决定每层的量化精度。
3.但是现有带有混合精度量化功能的工具，对于混合精度的关注过少。这些工具往往侧重于量化参数的选择，然后再决定量化位宽；或者量化位宽与量化参数一起进行选择，这显然没有对精度的选择给予高度的关注。同时基于深度学习的方法也面临着量化时间过长，工具结构复杂的问题。


技术实现要素：

4.有鉴于此，本技术实施例提供了一种深度网络模型的量化精度选择方法及装置，可以解决相关技术中的至少一个技术问题。
5.第一方面，本技术一实施例提供一种深度网络模型的量化精度选择方法，包括：s110，获取输入图像及待处理的深度网络模型，对深度网络模型的参数进行量化且令量化后的深度网络模型中每一层的量化精度为第一精度；s120，将输入图像输入量化后的深度网络模型得到深度网络模型每一层输出的特征图，利用深度网络模型每一层输出的特征图确定深度网络模型中每一层的量化敏感度；s130，遍历深度网络模型中未变更量化精度的层以选择量化敏感度最小的一层，并变更该层的量化精度为第二精度，第二精度小于第一精度；s140，利用变更量化精度后的所深度网络模型进行推理，若推理时间大于预设目标时间，则返回执行步骤s130；若推理时间小于或等于所述预设目标时间，则结束得到符合预期的深度网络模型。本实施例结合深度网络模型每一层的量化敏感度去调整网络模型的量化精度，在确保网络模型精度的同时，提高了模型量化效率。
6.在一些实施例中，确定深度网络模型中每一层的量化敏感度，包括：获取深度网络模型中每一层输出的特征图的量化值和浮点值；根据每一层的量化值和所述浮点值确定该层的量化敏感度。本实施例结合每一层输出的特征图的量化值和浮点值计算每层的量化敏感度，可以获得准确的量化敏感度的数值，进一步确保了网络模型的精度。
7.在一些实施例中，根据每一层的所述量化值和所述浮点值确定该层的量化敏感度，包括：计算每一层输出的特征图的所述量化值和所述浮点值的误差值作为第一数值；计算每一层输出的特征图的所述浮点值的均值作为第二数值；计算每一层的第一数值与所述第二数值的比值作为该层的量化敏感度；其中，误差值包括：均方差、余弦值、均方根误差、或平均绝对误差。
8.本实施例通过计算误差值(或第一数值)和均值(或第二数值)的比值获得每一层的量化敏感度，可以比较快速的获得量化敏感度，进一步提升了网络模型量化效率。另外，本实施中还根据统计的数据获得量化敏感度，可以获得较为准确的量化敏感度的数值，且计算简单易于本技术实施。
9.第二方面，本技术一实施例提供一种深度网络模型的量化精度选择装置，包括：获取模块，用于获取输入图像及待处理的深度网络模型，对深度网络模型的参数进行量化且令量化后的深度网络模型中每一层的量化精度为第一精度；确定模块，用于将输入图像输入量化后的深度网络模型得到深度网络模型每一层输出的特征图，利用深度网络模型每一层输出的特征图确定深度网络模型中每一层的量化敏感度；选择模块，用于遍历深度网络模型中未变更量化精度的层以选择量化敏感度最小的一层，并变更该层的量化精度为第二精度，第二精度小于第一精度；推理模块，用于利用变更量化精度后的深度网络模型进行推理，若推理时间大于预设目标时间，则返回进入选择模块；若推理时间小于或等于预设目标时间，则结束得到符合预期的深度网络模型。
10.在一些实施例中，确定模块包括第一获取子模块和第二确定子模块。其中，第一获取子模块，用于获取深度网络模型中每一层输出的特征图的量化值和浮点值；第二确定子模块，用于计算每一层输出的特征图的量化值和浮点值的误差值作为第一数值；计算每一层输出的特征图的浮点值的均值作为第二数值；计算每一层的第一数值与第二数值的比值作为该层的量化敏感度；其中，误差值包括：均方差、余弦值、均方根误差、或平均绝对误差。
11.第三方面，本技术一实施例提供一种移植系统，该系统包括数据处理设备及电子设备，数据处理设备用于执行计算机程序时实现如第一方面任一实施例的深度网络模型的量化精度选择方法得到符合预期的深度网络模型，深度网络模型被移植至电子设备以供电子设备使用。
12.第四方面，本技术一实施例提供一种电子设备，包括处理器，如第三方面的移植系统移植深度网络模型移植至电子设备的处理器上，处理器通过搭载的深度网络模型对输入的数据进行处理以执行特定任务。
13.第五方面，本技术一实施例提供一种计算机可读存储介质，计算机可读存储介质存储有计算机程序，计算机程序被数据处理设备执行时实现如第一方面任一实施例的深度网络模型的量化精度选择方法。
14.第六方面，本技术一实施例提供了一种计算机程序产品，当计算机程序产品在数据处理设备上运行时，使得数据处理设备执行如第一方面任一实施例的深度网络模型的量化精度选择方法。
15.应理解，第二方面至第六方面的有益效果可以参见第一方面实施例的相关描述，此处不再赘述。
附图说明
16.为了更清楚地说明本技术实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
17.图1为根据本技术提供的一种深度网络模型的移植系统图；
18.图2是本技术一实施例提供的一种深度网络模型的量化精度选择方法的实现流程示意图；
19.图3是本技术一实施例提供的一种步骤s120的过程示意图；
20.图4是本技术一实施例提供的一种步骤s122的过程示意图；
21.图5是本技术一实施例提供的一种深度网络模型的量化精度选择装置的结构示意图；
22.图6是本技术一实施例提供的一种确定模块的结构示意图。
具体实施方式
23.以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、技术之类的具体细节，以便透彻理解本技术实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本技术。在其它情况中，省略对众所周知的系统、装置、电路以及方法的详细说明，以免不必要的细节妨碍本技术的描述。
24.在本技术说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。
25.在本技术说明书中描述的“一个实施例”或“一些实施例”等意味着在本技术的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此，在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例，而是意味着“一个或多个但不是所有的实施例”，除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”，除非是以其他方式另外特别强调。
26.此外，在本技术的描述中，“多个”的含义是两个或两个以上。术语“第一”和“第二”等仅用于区分描述，而不能理解为指示或暗示相对重要性。
27.为了说明本技术所述的技术方案，下面通过具体实施例来进行说明。
28.图1为根据本技术提供的一种深度网络模型的移植系统图，该系统包括电子设备及数据处理设备，数据处理设备用于根据本技术一个或多个实施例提供的量化精度选择方法对深度网络模型进行处理，得到量化后的深度网络模型；将量化后的模型移植至电子设备以供用户通过电子设备执行特定任务，如图像处理、语音识别、活体检测及人脸识别等任务。具体地，数据处理设备包括但不限于计算机、平板电脑、服务器或可穿戴设备等具有计算能力的电子设备，服务器包括但不限于独立服务器或云服务器等；电子设备包括深度相机、移动设备、支付终端及机器人等。
29.在一个实施例中，深度网络模型由多个层次组成，这些层次从功能上可以分为输入层、隐藏层和输出层，其中，输入层用于接收输入数据，隐藏层用于对输入数据进行一系列的非线性变化和特征提取以便更好地完成特定任务，输出层用于输出执行特定任务的结果。需要说明的是，本技术对输入层、隐藏层和输出层的数量不作限制，其可以是多层，也可以是一层，根据深度网络模型具体所执行的任务限定。
30.在本实施例中，深度网络模型中的深度是指网络模型的层数，其相比于传统的神经网络的层数更多，具有强大的特征提取和表示能力，但也意味着深度网络模型需要更高
的推理成本和更大的存储。为了降低深度网络模型模型的推理成本和存储，在深度网络模型部署过程中需对其进行量化，而量化会损失模型的精度。基于此，本技术提供一种深度网络模型的量化精度选择方法，在保证量化精度高的同时，减少深度网络模型的推理成本和存储消耗，以便深度网络模型亦可在算力低、内存低等有限资源和能力的设备上运行。
31.图2是本技术一实施例提供的一种深度网络模型的量化精度选择方法的实现流程示意图，该方法包括步骤s110至步骤s140。
32.s110，获取输入图像及待处理的深度网络模型，对深度网络模型的参数进行量化且令量化后的深度网络模型中每一层的量化精度为第一精度。
33.在一个实施例中，输入图像可包括一张或多张图像，图像可以是人脸图像、人体图像、手势图像或其他图像，图像具体内容取决于深度网络模型执行的特定任务。
34.在一个实施例中，深度网络模型中的参数为高精度的浮点数，为了减少模型的大小，提高推理的速度及降低内存和功耗，需要将其转换为低精度的定点数，即对深度网络模型的参数进行量化且令量化后的深度网络模型每一层的量化精度为第一精度(记为q1)。相对应地，量化后的深度网络模型每一层的量化位宽为第一位宽，在一些可能的实现方式中，第一位宽例如可以取32bit。
35.s120，将输入图像输入量化后的深度网络模型得到深度网络模型每一层输出的特征图，利用深度网络模型每一层输出的特征图确定深度网络模型中每一层的量化敏感度。
36.其中，量化敏感度表示深度网络模型中每一层对以定点数运算近似原来的浮点数运算的敏感程度；深度网络模型中某一层的量化敏感度越大，则表示该层对量化越敏感；反之，深度网络模型中某一层的量化敏感度越小，则表示该层对量化越不敏感。
37.在本技术一些实施例中，如图3所示，步骤s120可以包括：s121，获取深度网络模型中每一层输出的特征图的量化值和浮点值；s122，根据每一层的量化值和浮点值确定该层的量化敏感度。
38.假设深度网络模型中第j层输出的特征图(feature map)为fj，基于特征图获取第j层输出的特征图fj的量化值和浮点值根据第j层输出的特征图fj的量化值和浮点值计算第j层的量化敏感度。
39.本实施例结合量化值和浮点值确定量化敏感度，并在后续选择量化敏感度较小的层使用低比特位宽进行量化，以此来降低网络模型的推理时间，循环往复，直到推理时间满足目标值，在保证网络精度的同时，提高了量化的效率。
40.作为本技术实施例的一可能实现方式，如图4所示，步骤s122可以包括：s1221，计算每一层输出的特征图的量化值和浮点值的误差值作为第一数值；s1222，计算每一层输出的特征图的浮点值的均值作为第二数值；s1223，计算每一层的第一数值与第二数值的比值作为该层的量化敏感度。
41.在本技术的一些示例中，量化值和浮点值的误差值可以包括但不限于均方差、余弦值、均方根误差、或平均绝对误差等，优选以均方差作为误差值。具体地，深度网络模型第j层输出的特征图fj的量化值为浮点值为第一数值等于其中，第二数值等于即
的均值，则第j层的量化敏感度本实施例利用统计的均方差度量量化敏感度，可以得到更准确的量化敏感度的值，可以进一步确保网络模型的精度。
42.s130，遍历深度网络模型中未变更量化精度的层以选择量化敏感度最小的一层，并变更该层的量化精度为第二精度；其中，第二精度小于第一精度。
43.在本技术一些实施例中，第二精度可以记为q2，q2《q1，相对应地，其量化位宽为第二位宽。在一些可能的实现方式，第二位宽例如可以取16bit或8bit等。本实施例通过选择量化敏感度较小的层使用低比特位宽进行量化，即将这些量化敏感度较小的层由第一精度变更为第二精度，以此来降低网络模型的推理时间。
44.s140，利用变更量化精度后的深度网络模型进行推理，若推理时间大于预设目标时间，则返回执行步骤s130；若推理时间小于或等于预设目标时间，则结束得到符合预期的深度网络模型。
45.在本技术实施例中，先确定各层的量化敏感度，再从未变更量化精度的层中选择量化敏感度最小的层，使用低比特位宽进行量化，循环往复，直到推理时间满足预设目标时间，则结束流程得到符合预期的深度网络模型，在保证网络模型精度的同时，提高了量化的效率。
46.需要说明的是，在其他一些实施例中，当推理时间等于预设目标时间时，也可以执行返回步骤s130的步骤，本领域技术人员可以根据实际情况进行选择，本技术实施例对此不予具体限制。
47.应理解，上述实施例中各步骤的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本技术实施例的实施过程构成任何限定。
48.本技术一实施例提供一种深度网络模型的量化精度选择装置。该量化精度选择装置中未详细描述之处请详见前述量化精度选择方法实施例中的相关描述，此处不再赘述。
49.图5是本技术一实施例提供的一种深度网络模型的量化精度选择装置的结构示意图。所述量化精度选择装置包括：获取模块41，用于获取输入图像及待处理的深度网络模型，对深度网络模型的参数进行量化且令量化后的深度网络模型中每一层的量化精度为第一精度；确定模块42，用于将输入图像输入量化后的深度网络模型得到深度网络模型每一层输出的特征图，利用深度网络模型每一层输出的特征图确定深度网络模型中每一层的量化敏感度；选择模块43，用于遍历深度网络模型中未变更量化精度的层以选择量化敏感度最小的一层，并变更该层的量化精度为第二精度，第二精度小于第一精度；推理模块44，用于利用变更量化精度后的深度网络模型进行推理，若推理时间大于预设目标时间，则返回进入选择模块43；若推理时间小于或等于预设目标时间，则结束得到符合预期的深度网络模型。
50.在一些实施例中，如图6所示，确定模块42包括第一获取子模块421和第二确定子模块422。其中，第一获取子模块421，用于获取深度网络模型中每一层输出的特征图的量化值和浮点值。第二确定子模块422，用于根据每一层的量化值和浮点值确定该层的量化敏感度。
51.在一些实施例中，所述第二确定子模块，具体用于：计算每一层输出的特征图的所
述量化值和所述浮点值的误差值作为第一数值；计算每一层输出的特征图的所述浮点值的均值作为第二数值；计算每一层的所述第一数值与所述第二数值的比值作为该层的量化敏感度。
52.本技术一实施例还提供一种电子设备，电子设备可以包括一个或多个处理器，通过如图1所示的移植系统移植深度网络模型移植至电子设备的处理器上，供处理器通过搭载的深度网络模型对输入的数据进行处理以执行特定任务。
53.在一个实施例中，电子设备还包括相机，相机用于采集二维图像或深度图像并传输至处理器；处理器基于深度网络模型对输入的图像进行处理以执行特定任务，如人脸识别、活体检测或支付任务等。需要说明的是，相机与电子设备可一体化设计或独立设计，两者通过有线或无线的方式进行数据通信，此处不作限制。
54.在一个实施例中，处理器可以是中央处理单元(central processing unit，cpu)，还可以是其他通用处理器、神经网络处理芯片、数字信号处理器(digital signal processor，dsp)、专用集成电路(application specific integrated circuit，asic)、现场可编程门阵列(field-programmable gate array，fpga)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
55.本领域技术人员可以理解，上述仅仅是电子设备的示例，并不构成对电子设备的限定。电子设备可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件，例如电子设备还可以包括输入输出设备、网络接入设备、总线等。
56.所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元、模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将装置的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中，上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。另外，各功能单元、模块的具体名称也只是为了便于相互区分，并不用于限制本技术的保护范围。上述系统中单元、模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
57.本技术一实施例还提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被执行时可实现深度网络模型的量化精度选择方法实施例中的步骤。
58.本技术一实施例提供一种计算机程序产品，当计算机程序产品运行时，可实现深度网络模型的量化精度选择方法实施例中的步骤。
59.在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述或记载的部分，可以参见其它实施例的相关描述。
60.本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本技术的范围。
61.在本技术所提供的实施例中，应该理解到，所揭露的装置/电子设备和方法，可以通过其它的方式实现。例如，以上所描述的装置/电子设备实施例仅仅是示意性的，例如，模块或单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口，装置或单元的间接耦合或通讯连接，可以是电性，机械或其它的形式。
62.集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本技术实现上述实施例方法中的全部或部分流程，也可以通过计算机程序来指令相关的硬件来完成的计算机程序可存储于一计算机可读存储介质中，该计算机程序在被处理器执行时，可实现上述各个方法实施例的步骤。其中，计算机程序包括计算机程序代码，计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。计算机可读介质可以包括：能够携带计算机程序代码的任何实体或装置、记录介质、u盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(read-only memory，rom)、随机存取存储器(random access memory，ram)、电载波信号、电信信号以及软件分发介质等。需要说明的是，计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减，例如在某些司法管辖区，根据立法和专利实践，计算机可读介质不包括电载波信号和电信信号。
63.以上实施例仅用以说明本技术的技术方案，而非对其限制；尽管参照前述实施例对本技术进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本技术各实施例技术方案的精神和范围，均应包含在本技术的保护范围之内。

技术特征：
1.一种深度网络模型的量化精度选择方法，其特征在于，包括：s110，获取输入图像及待处理的深度网络模型，对所述深度网络模型的参数进行量化且令量化后的深度网络模型中每一层的量化精度为第一精度；s120，将所述输入图像输入量化后的所述深度网络模型得到所述深度网络模型每一层输出的特征图，利用所述深度网络模型每一层输出的特征图确定所述深度网络模型中每一层的量化敏感度；s130，遍历所述深度网络模型中未变更量化精度的层以选择所述量化敏感度最小的一层，并变更该层的量化精度为第二精度，所述第二精度小于所述第一精度；s140，利用变更量化精度后的所述深度网络模型进行推理，若推理时间小于或等于所述预设目标时间，则结束得到符合预期的深度网络模型。2.如权利要求1所述的量化精度选择方法，其特征在于，所述利用所述深度网络模型每一层输出的特征图确定所述深度网络模型中每一层的量化敏感度，包括：获取所述深度网络模型中每一层输出的特征图的量化值和浮点值；根据每一层的所述量化值和所述浮点值确定该层的量化敏感度。3.如权利要求2所述的量化精度选择方法，其特征在于，所述根据每一层的所述量化值和所述浮点值确定该层的量化敏感度，包括：计算每一层输出的特征图的所述量化值和所述浮点值的误差值作为第一数值；计算每一层输出的特征图的所述浮点值的均值作为第二数值；计算每一层的所述第一数值与所述第二数值的比值作为该层的量化敏感度。4.如权利要求3所述的量化精度选择方法，其特征在于，所述误差值包括：均方差、余弦值、均方根误差、或平均绝对误差。5.如权利要求4所述的量化精度选择方法，其特征在于，所述误差值为均方差时，所述量化敏感度计算方式为：假设深度网络模型第j层输出的特征图f
j
的量化值为浮点值为第一数值等于其中，第二数值等于即的均值，则第j层的量化敏感度6.如权利要求1至5任一项所述的量化精度选择方法，其特征在于，所述利用变更量化精度后的所述神经网络模型进行推理之后，还包括：若推理时间大于预设目标时间，则返回执行步骤s130。7.一种深度网络模型的量化精度选择装置，其特征在于，包括：获取模块，用于获取输入图像及待处理的深度网络模型，对所述深度网络模型的参数进行量化且令量化后的深度网络模型中每一层的量化精度为第一精度；确定模块，用于将所述输入图像输入量化后的所述深度网络模型得到所述深度网络模型每一层输出的特征图，利用所述深度网络模型每一层输出的特征图确定所述深度网络模型中每一层的量化敏感度；选择模块，用于遍历所述深度网络模型中未变更量化精度的层以选择所述量化敏感度最小的一层，并变更该层的量化精度为第二精度，所述第二精度小于所述第一精度；推理模块，用于利用变更量化精度后的所述深度网络模型进行推理，若推理时间小于
或等于所述预设目标时间，则结束得到符合预期的深度网络模型。8.一种深度网络模型的移植系统，其特征在于，包括数据处理设备和电子设备，其中，所述数据处理设备用于执行如权利要求1至6任一项所述的深度网络模型的量化精度选择方法得到符合预期的深度网络模型，所述深度网络模型被移植至所述电子设备以供所述电子设备使用。9.一种电子设备，包括处理器，其特征在于，如权利要求8所述的移植系统移植所述深度网络模型至所述电子设备的处理器上，所述处理器通过搭载深度网络模型对输入的数据进行处理以执行特定任务。10.一种计算机存储介质，所述计算机存储介质存储有计算机程序，其特征在于，所述计算机程序被执行时实现如权利要求1至6任一项所述的量化精度选择方法。

技术总结
本申请涉及深度学习技术领域，尤其涉及一种深度网络模型的量化精度选择方法及装置。该量化精度选择方法包括：S110，获取待处理的深度网络模型，令所述深度网络模型中每一层的量化精度为第一精度；S120，确定所述深度网络模型中每一层的量化敏感度；S130，遍历所述深度网络模型中未变更量化精度的层以选择所述量化敏感度最小的一层，并变更该层的量化精度为第二精度，所述第二精度小于所述第一精度；S140，利用变更量化精度后的所述神经网络模型进行推理，若推理时间小于或等于所述预设目标时间，则结束得到符合预期的深度网络模型。本实施例在确保网络模型精度的同时，提高了模型量化效率。量化效率。量化效率。


技术研发人员：谷涛 连新涛
受保护的技术使用者：奥比中光科技集团股份有限公司
技术研发日：2023.05.11
技术公布日：2023/8/14