一种基于轻量化网络模型的管件图像分类方法

1.本发明属于图像分类和深度学习领域，具体涉及一种基于轻量化神经网络的管件图像分类方法。


背景技术：

2.随着深度神经网络技术在图像分类领域日趋成熟，传统的神经网络模型vgg16、resnet、inception、xception、densenet等都具备较好的准确率。然而传统的卷积神经网络分类模型体量大、计算速度慢，因此其实际使用过程中受到了很大影响，为了将深度学习更好的应用到现实生活中，减少运行时间，节约运行资源，探索高效的网络架构成为一种趋势。
3.区别于传统的大规模深度学习网络，如今的紧凑型神经网络模型如mobilenet、shufflenet、ghostnet等能在占用极少量资源的情况下获得不弱于传统网络的结果。但是，因为大多数模型都是通过imagenet数据集进行训练验证的，其对imagenet数据集有较强的偏向性，传统分类方法将上述传统分类模型直接应用于尺寸、规模以及类别数量较少的管件图像数据集上，使得模型与数据集的兼容性过底。并且直接训练现有的神经网络模型对管件图像进行分类，计算开销大，对计算机的性能要求高，并且分类精度不高。


技术实现要素：

4.为克服上述现有模型计算量大和对不同种类图片的适应性问题，本发明提出一种基于轻量化卷积神经网络的图像分类方法，通过使用逐点卷积扩充特征图并且增强前后卷积层之间的特征图流通的方式构建，可以根据不同的图像数据集训练出体积小、准确率高并且运行速度快的分类模型，实现图像分类。
5.为解决上述问题，本发明的技术解决方案如下：
6.一种基于轻量化神经网络的图像分类方法，其特点在于，包括以下步骤：
7.s1.获取管件图像数据，分为训练集和测试集；
8.s2.对训练集数据进行归一化预处理和数据增强处理；对测试集数据进行归一化处理；
9.s3.构建轻量化卷积神经网络，并利用训练集数据对该轻量化卷积神经网络进行训练，得到训练后的神经网络图像分类模型；
10.s4.将测试集数据输入所述神经网络图像分类模型，输出该管件图像数据对应所有类别的概率，其中最大概率对应的类别即为该管件图像数据的所属类别。
11.进一步，所述步骤s3利用训练集数据对该轻量化卷积神经网络进行训练，包括如下步骤：
12.s3.1设块结构的输出特征图通道数量c、深度n以及步长s；
13.s3.2获取输入特征图通道数c0，将输入特征定义为历史特征；
14.s3.3以逐点卷积方式处理输入特征图，输出通道数为输入通道数的两倍，将生成
的特征图与输入特征图级联；
15.s3.4将步骤s3.4得到的特征图进行批标准化，并采用relu6激活函数过滤；
16.s3.5判断块结构所需深度n是否为1，若是，则将上一步特征图输入深度可分离卷积后，输出；若不是，则进入步骤s3.6；
17.s3.6循环n-1次一下步骤，当前循环数计为i：
18.s3.6.1将历史特征更新为最后上一步所得特征图与自身的级联
19.s3.6.2用逐点卷积扩展上一步所得特征图，输出通道数为(c0+c0*0.125*(i+1))*2，将生成的特征图与历史特征图级联；
20.s3.6.3将上一步所得的特征图进行批标准化，使用relu6激活函数过滤；
21.s3.6.4若为最后一次循环，则将上一步所得特征图输入深度可分离卷积，深度可分离卷积输出通道数为c，步长为s，将生成的特征图进行批标准化，通过relu6激活函数后输出；若不是最后一次循环，则将上一步所得特征图输入深度可分离卷积，深度可分离卷积输出通道数为(c0+c0*0.125*(i+1))，步长为1。
22.优选的，所述轻量化卷积神经网络包括一个3
×
3标准卷积层、多个块结构、一个全局平均池化层、一个全连接层和一个softmax激活函数，所述块结构中包括多个反向瓶颈结构，不同瓶颈结构的连接方式为：输入与所有瓶颈结构中的每一个融合层、1
×
1卷积连接，所有瓶颈结构中第一个1
×
1卷积与之后的每个融合层、1
×
1卷积连接，所有瓶颈结构中最后一个1
×
1卷积与之后的每个融合层、1
×
1卷积连接，每一个瓶颈结构之间串联；模型层与层之间均加入激活函数和批标准化，除最后用于输出分类结果的softmax激活函数外，模型中其他激活函数均使用relu6激活函数。
23.与现有技术相比，本发明有益效果是：
24.1、本发明采用大量的逐点卷积扩充特征图的维度，扩展了管件图像的特征，使其能在训练数据量较小的情况下保证较高的准确度。
25.2、本发明通过多路复用的方式实现了将历史特征图来扩充当前特征图，节约了大量的逐点卷积计算压力，与传统方法相比时效性更高。
26.3、本发明在复用历史特征的过程中，保证每个瓶颈层的输出递增八分之一，使得复用近处的特征图数量多于远处的特征图，也解决了当前特征对早期特征依赖度不高的问题。
27.4、本发明结构简单，易于训练，对硬件平台要求低。在计算量和参数量在小于其几十倍的情况下，最终的分类准确率依旧远高于传统分类模型。即使与当前最常用的高效分类模型mobilenet相比，也能在准确率几乎相同的情况下，节约几倍的计算量。
附图说明
28.图1是本发明基于轻量化神经网络的图像分类方法的流程图
29.图2是本发明中轻量化卷积神经网络结构示意图
30.图3是本发明基于轻量化神经网络的图像分类方法实施例深度为2的流程示意图。
具体实施方式
31.下面结合附图和实施例对本发明的技术方案进行详细阐述，但不应以此限制本发
明的保护范围。
32.请参阅图1和图2，图1是本发明基于轻量化神经网络的图像分类方法的流程图，图2是本发明中轻量化卷积神经网络结构示意图，如图所示，一种基于轻量化神经网络的图像分类方法，包括如下步骤：
33.1、将图片送入3
×
3卷积层，卷积的输出通，步长为2。块结构属于一种层结构，具体计算步骤如下：道数为32*s，步长为2。
34.2、将上一步所得的特征图送入块结构，输出通道数为16*s，深度为2
35.a、获取输入特征图通道数c0，将输入特征定义为历史特征
36.b、以逐点卷积的方式处理输入特征图，输出通道数为输入通道数的两倍，将生成的特征图与输入特征图级联。
37.c、将上一步的特征图进行批标准化，使用relu6激活函数过滤
38.d、判断块所需深度n是否为1，若是，则将上一步特征图输入深度可分离卷积后，输出；若不是，则继续以下步骤。
39.e、循环n-1次一下步骤，当前循环数计为i：
40.(1)将历史特征更新为最后上一步所得特征图与自身的级联
41.(2)用逐点卷积扩展上一步所得特征图，输出通道数为(c0+c0*0.125*
42.(i+1))*2，将生成的特征图与历史特征图级联。
43.(3)将上一步所得的特征图进行批标准化，使用relu6激活函数过滤
44.(4)若为最后一次循环，则将上一步所得特征图输入深度可分离卷积，深度可分离卷积输出通道数为c，步长为s，将生成的特征图进行批标准化，通过relu6激活函数后输出；
45.若不是最后一次循环，则将上一步所得特征图输入深度可分离卷积，深度可分离卷积输出通道数为(c0+c0*0.125*(i+1))，步长为1。
46.3、将上一步所得的特征图送入步骤2所述块结构，输出通道数为32*s，深度为3，步长为1
47.4、将上一步所得的特征图送入步骤2所述块结构，输出通道数为64*s，深度为4，步长为1
48.5、将上一步所得的特征图送入步骤2所述块结构，输出通道数为96*s，深度为5，步长为2
49.6、将上一步所得的特征图送入步骤2所述块结构，输出通道数为64*s，深度为4，步长为1
50.7、将上一步所得的特征图进行全局平均池化，通过全连接层后，使用softmax激活函数计算得到不同类别的概率。
51.8、将所需识别的图像输入分类模型中，计算得到不同类别的概率，找到其中最大概率对应的类别就是图像所属类别。
52.实施例：
53.1)采集大量的分类目标样本的rgb图像，制作数据集，按照7：3的比例将数据集划分成训练集和测试集。
54.2)对训练集中的图片进行归一化预处理，由于rgb图像像素值在0-255之间，因此归一化公式为：f(x)＝x
÷
255，然后对归一化后的数据并进行随机旋转、随即缩放和随机平
移等数据增强处理。
55.3)对测试集中的图片仅进行上述归一化处理；
56.4)构建轻量化网络模型，用处理好的训练集对模型进行训练；
57.其中上述轻量化神将网络包括一个3
×
3标准卷积、6个块结构、一个全局平均池化层、一个全连接层和一个softmax激活函数，块结构中包括多个反向瓶颈结构，不同瓶颈结构的连接方式为：输入与所有瓶颈结构中的每一个融合层、1
×
1卷积连接，所有瓶颈结构中第一个1
×
1卷积与之后的每个融合层、1
×
1卷积连接，所有瓶颈结构中最后一个1
×
1卷积与之后的每个融合层、1
×
1卷积连接，每一个瓶颈结构之间串联。
58.模型层与层之间均加入激活函数和批标准化，除最后用于输出分类结果的softmax激活函数外，模型中其他激活函数均使用relu6激活函数
59.5)训练完成后，保存神经网络分类模型。
60.6)将测试集图像输入训练好的模型中，模型将输出改图片属于所有类别的概率，概率最大的类别就是该图像所属类别。
61.可以明显看出，与传统的大规模分类模型相比，本发明在计算量和参数量在小于其几十倍的情况下，最终的分类准确率依旧远高于传统分类模型。即使与当前最常用的高效分类模型mobilenet相比，也能在准确率几乎相同的情况下，节约几倍的计算量。

技术特征：
1.一种基于轻量化神经网络的管件图像分类方法，其特征在于，包括以下步骤：s1.获取管件图像数据，分为训练集和测试集；s2.对训练集数据进行归一化预处理和数据增强处理；对测试集数据进行归一化处理；s3.构建轻量化卷积神经网络，并利用训练集数据对该轻量化卷积神经网络进行训练，得到训练后的神经网络图像分类模型；s4.将测试集数据输入所述神经网络图像分类模型，输出该管件图像数据对应所有类别的概率，其中最大概率对应的类别即为该管件图像数据的所属类别。2.根据权利要求1所述的基于轻量化神经网络的管件图像分类方法，其特征在于，所述步骤s3利用训练集数据对该轻量化卷积神经网络进行训练，包括如下步骤：s3.1设块结构的输出特征图通道数量c、深度n以及步长s；s3.2获取输入特征图通道数c0，将输入特征定义为历史特征；s3.3以逐点卷积方式处理输入特征图，输出通道数为输入通道数的两倍，将生成的特征图与输入特征图级联；s3.4将步骤s3.4得到的特征图进行批标准化，并采用relu6激活函数过滤；s3.5判断块结构所需深度n是否为1，若是，则将上一步特征图输入深度可分离卷积后，输出；若不是，则进入步骤s3.6；s3.6循环n-1次一下步骤，当前循环数计为i：s3.6.1将历史特征更新为最后上一步所得特征图与自身的级联s3.6.2用逐点卷积扩展上一步所得特征图，输出通道数为(c0+c0*0.125*(i+1))*2，将生成的特征图与历史特征图级联；s3.6.3将上一步所得的特征图进行批标准化，使用relu6激活函数过滤；s3.6.4若为最后一次循环，则将上一步所得特征图输入深度可分离卷积，深度可分离卷积输出通道数为c，步长为s，将生成的特征图进行批标准化，通过relu6激活函数后输出；若不是最后一次循环，则将上一步所得特征图输入深度可分离卷积，深度可分离卷积输出通道数为(c0+c0*0.125*(i+1))，步长为1。3.根据权利要求1所述的基于轻量化神经网络的管件图像分类方法，其特征在于，所述轻量化卷积神经网络包括一个3
×
3标准卷积层、多个块结构、一个全局平均池化层、一个全连接层和一个softmax激活函数，所述块结构中包括多个反向瓶颈结构，不同瓶颈结构的连接方式为：输入与所有瓶颈结构中的每一个融合层、1
×
1卷积连接，所有瓶颈结构中第一个1
×
1卷积与之后的每个融合层、1
×
1卷积连接，所有瓶颈结构中最后一个1
×
1卷积与之后的每个融合层、1
×
1卷积连接，每一个瓶颈结构之间串联；模型层与层之间均加入激活函数和批标准化，除最后用于输出分类结果的softmax激活函数外，模型中其他激活函数均使用relu6激活函数。

技术总结
本发明提供了一种高效管件图像分类方法，包括，采集管件图像数据集；对采集到的图像进行归一化处理；将数据集分成训练集和测试集两部分；对训练集图片进行数据增强；用瓶颈结构构建轻量化卷积神经网络；使用训练集训练神经网络模型并用测试集验证效果。与传统分类方法相比，本发明能够最更大程度的扩展管件图像的特征维度，对不同管件图片类型的适应性更强，模型的体积更小、运行速度更快。运行速度更快。运行速度更快。


技术研发人员：杨庆华 孙国鑫 魏士皓 姚托
受保护的技术使用者：上海大学
技术研发日：2023.04.18
技术公布日：2023/7/25