一种基于长短期记忆网络的自动调制识别方法及系统

1.本发明涉及一种基于长短期记忆网络的自动调制识别方法及系统，属于信号自动调制识别技术领域。


背景技术：

2.自动调制识别属于无线通信领域的一项重要技术，其在民用和军事领域都有着广泛的应用。而在传输数据以及发送端参数未知的前提下，对无线电信号的调制方式进行盲识别是一个重大的挑战。总体来说，关于调制识别的方法，一般分为两类：基于似然比的调制识别方法和基于特征的调制识别方法。而基于似然比的调制识别方法，需要较强的先验知识，通过对信号的似然函数进行处理，将得到的似然比与设定的阈值进行比较，从而完成调制信号的识别。这种方法计算复杂度较高且严重依赖阈值的设置，对参数偏差比较敏感，模型鲁棒性较差。基于特征的识别方法，主要包括预处理、特征提取和分类器选择三个步骤。传统的调制信号特征提取包括基于高阶累积量的特征参数提取，基于循环谱分析的方法，基于小波变换的特征提取，基于星座图的变换分析等方法，然后再将这些人为提取的专家特征，用决策树或者支持向量机等分类器进行调制方式识别。这类特征都属于专家知识，需要较强的专业知识，且应用范围有限制，有一定的局限性。
3.现有的基于神经网络的调制识别方法主要是利用卷积神经网络或者循环神经网络，通过精心设计的网络模型，完成调制识别。尽管各类型信号存在着差异，但由于脉冲整形、失真和其他信道效应，即使是领域专家也很难区分它们，从时域角度不能很好区分各个调制类型。即使是提高了识别精度，也会导致了较高的模型大小和计算复杂性，在实际部署中，会消耗过多的时间和硬件成本。因此，接下来的工作将集中在更轻量级的识别模型上，在保证识别率的前提下，减小模型大小和缩短识别时间值得进一步研究。


技术实现要素：

4.本发明的目的在于提供一种基于长短期记忆网络的自动调制识别方法及系统，以解决现有技术导致了较高的模型大小和计算复杂性，在实际部署中，会消耗过多的时间和硬件成本的缺陷。
5.一种基于长短期记忆网络的自动调制识别方法，所述方法包括：
6.获取待识别信号数据；
7.将待识别信号数据输入预设轻量化长短期记忆网络模型中，输出识别信号；所述预设轻量化长短期记忆网络模型采用样本集进行训练；
8.其中，所述预设轻量化长短期记忆网络模型包括第一卷积层、第二卷积层、gru网络模块和全连接层，所述第一卷积层用于提取i/q信号的空间特征，所述第二卷积层用于对提取i/q信号的空间特征进一步压缩提取特征，所述gru模块用于对进一步压缩提取的空间特征提取具有128个单元的信号的时间特征，所述全连接层用于完成信号分类任务。
9.进一步地，所述预设轻量化长短期记忆网络模型的训练方法包括：
10.构建初始轻量化长短期记忆网络模型，所述初始轻量化长短期记忆网络模型基于长短期记忆网络lstm基础网络训练；
11.获取样本集，采用所述样本集对长短期记忆网络lstm基础网络进行训练，得到预设轻量化长短期记忆网络模型。
12.进一步地，所述样本集是基于radioml2016.10a数据集上评估了所提出的调制分类模型的数据集，所述数据集包括时延、时间缩放、相位旋转、频率偏移和附加热噪声在内的无线信道效应，以模拟实际无线通信。
13.进一步地，所述样本集中每个样本有i和q两路信号，每路信号包含128个点。
14.进一步地，所述gru网络模块由更新门和重置门组成，所述更新门用于控制前一时刻的输出隐层对当前时刻输出隐层的影响程度，所述重置门用于遗忘隐藏状态中不重要的部分。
15.进一步地，所述gru网络模块公式如下：
16.r
t
＝σ(w
xr
x
t
+w
hrht-1
+br)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(1)
17.其中x
t
是输入，h
t-1
为上一时刻的隐藏状态，w
hr
是其对应的权重，r
t
重置门，w
xr
是更新的权重，br是对应的偏置，σ为sigmoid激活函数，都变到0和1之间；
18.z
t
＝σ(w
xz
x
t
+w
hzht-1
+bz)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(2)
19.式(2)中z
t
是更新门(updategate)，w
xz
是更新的权重，h
t-1
为上一时刻的隐藏状态，w
hz
是对应的权重，bz是对应的偏移；
[0020][0021]
式(3)中利用候选隐状态生成隐状态h
t
，tanh为激活函数，
⊙
表示按元素乘法；
[0022][0023]
式(4)中h
t-1
表示上一次的隐藏状态，若z
t
＝1，则表示不更新过去的状态，忽略x
t
。
[0024]
一种基于长短期记忆网络的自动调制识别系统，所述系统包括：
[0025]
信号获取模块，用于获取待识别信号数据；
[0026]
信号识别模块，用于将待识别信号数据输入预设轻量化长短期记忆网络模型中，输出识别信号；
[0027]
其中，所述信号识别模块包括第一卷积层、第二卷积层、gru网络模块和全连接层，所述第一卷积层用于提取i/q信号的空间特征，所述第二卷积层用于对提取i/q信号的空间特征进一步压缩提取特征，所述gru模块用于对进一步压缩提取的空间特征提取具有128个单元的信号的时间特征，所述全连接层用于完成信号分类任务。
[0028]
与现有技术相比，本发明所达到的有益效果：
[0029]
(1)gru支持隐状态的门控。即模型有专门的可学习的机制来确定应该何时更新隐状态，以及应该何时重置隐状态；
[0030]
(2)在我们的gru模型前加入了卷积，进一步提取特征信息，可以实现特征提取和分类。第一卷积层用于提取信号的空间特征，而第二卷积层进一步压缩提取的特征。减少接收信号的时间偏移、线性混合/旋转和旋转的影响；
[0031]
(3)本算法能够在保证高识别率的基础上，大大减小网络大小。
附图说明
[0032]
图1是本发明gru网络模块结构图；
[0033]
图2是本发明lstm1，gru1，lstm2和gru2模型的识别精度比较；
[0034]
图3是隐藏神经元数量变化对识别率的影响。
具体实施方式
[0035]
为使本发明实现的技术手段、创作特征、达成目的与功效易于明白了解，下面结合具体实施方式，进一步阐述本发明。
[0036]
如图1-图3所示，公开了一种基于长短期记忆网络的自动调制识别方法，所述方法包括：
[0037]
获取待识别信号数据；
[0038]
将待识别信号数据输入预设轻量化长短期记忆网络模型中，输出识别信号；所述预设轻量化长短期记忆网络模型采用样本集进行训练；
[0039]
其中，所述预设轻量化长短期记忆网络模型包括第一卷积层、第二卷积层、gru网络模块和全连接层，所述第一卷积层用于提取i/q信号的空间特征，所述第二卷积层用于对提取i/q信号的空间特征进一步压缩提取特征，所述gru模块用于对进一步压缩提取的空间特征提取具有128个单元的信号的时间特征，所述全连接层用于完成信号分类任务。
[0040]
具体如下：第一卷积层用于提取信号的空间特征，而第二卷积层进一步压缩提取的特征，减少采样的i/q数据受到来自信道的噪声和干扰以及不完善的硬件设计的影响。
[0041]
gru是在长短期记忆网络基础上进行改进，它只有两个门。门控循环单元通过额外的控制单元，使得在构造隐状态时可以选择学习重要部分，遗忘非重点，即序列的每一个值不是同等重要。gru与普通的循环神经网络之间的关键区别在于：gru支持隐状态的门控。即模型有专门的可学习的机制来确定应该何时更新隐状态，以及应该何时重置隐状态。
[0042]
如图1所示是本发明gru单元的结构。从所需要检测的信号群中调取信号，输入门i
t
决定是否忽略掉输入数据，遗忘门f
t
将值朝0减少，输出门o
t
决定是否使用隐状态，gru单元通过额外的控制单元，使得在构造隐状态时可以选择学习重要部分，遗忘非重点，即序列的每一个值不是同等重要。
[0043]
如表1是不同模型最高识别率和参数大小对比，tcls，tcgr，tc2l和tc2gr分别对应lstm1，gru1，lstm2和gru2，都在基础网络上进行了三通道和卷积处理，进一步提取特征和压缩空间大小。tc2ls，tcgl，tclg和tc2gr相比原网络结构，参数增加了近20000，但识别率也没有提高很多，因此，不建议一味增加网络层的数量。tcls和tcgr同样能在减小参数大小的基础上，提高识别率，尤其是tcgr能够达到90.7％识别率，而参数原方法减少了一半。综上，tcgr能够在保证高识别率的基础上，大大减小网络大小。整体识别精度在信噪比为0db之后保持相对稳定，tcgr的识别率基本高于其它方法。
[0044]
名称tclstcgrtc2lstc2grtcgltclg最高识别率87.790.787.1389.989.889.36参数大小9094271614222526170686203198190014
[0045]
如图2不同模型识别率对比，tcls，tcgr，tc2ls和tc2gr分别对应lstm1，gru1，lstm2和gru2。tcgr能够达到90.7％识别率，而参数原方法减少了一半。综上，tcgr能够在保
证高识别率的基础上，大大减小网络大小。
[0046]
如表2是是不同信噪比下的识别精度，由数据可知，所提tcgr方法在最高识别率和平均识别率上都高于其它方法。
[0047][0048][0049]
如表3是隐藏神经元数量对识别率和参数大小的影响，tcgr32参数很小，但识别率下降，tcgr64识别率还有提高空间，tcgr256参数增长过大，识别率下降0.25％，因此选择隐藏神经元为128的tcgr是恰当合适的，保证识别率的基础上，大大减小了参数量。
[0050]
名称tcgr32tcgr64tcgr128tcg256最高识别率83.8189.490.790.45参数大小167022886271614230846
[0051]
如图3是是隐藏神经元数量变化对识别率的影响，可以发现隐藏神经元为256和128的tcgr识别率表现都很良好。
[0052]
如表4是在不同信噪比下不同隐藏神经元数量的识别精度。在不同信噪比的情况下，隐藏神经元为128个的tcgr平均识别率表现最好。
[0053]
本实施例中，gru模型是一种保持了lstm效果、具有更加简单的结构、更少的参数、更好的收敛性的模型。gru模型由更新门(z
t
)和重置门(r
t
)两个门组成。
[0054]
前一个时刻的输出隐层对当前隐层的影响程度由更新门控制，更新门的值越大说明前一时刻的隐层输出对当前隐层的影响越大；前一时刻的隐层信息被忽略的程度由重置门控制，重置门的值越小说明忽略得越多，gru结构更加精简。
[0055]
具体公式如下所示：
[0056]rt
＝σ(w
xr
x
t
+w
hrht-1
+br)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(1)
[0057]
其中x
t
是输入，h
t-1
为上一时刻的隐藏状态，w
hr
是其对应的权重，r
t
重置门，w
xr
是更新的权重，br是对应的偏置，σ为sigmoid激活函数，都变到0和1之间，重置门能够遗忘隐藏状态中不重要的部分。
[0058]zt
＝σ(w
xz
x
t
+w
hzht-1
+bz)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(2)
[0059]
式(2)中z
t
是更新门(updategate)，w
xz
是更新的权重，h
t-1
为上一时刻的隐藏状态，w
hz
是对应的权重，bz是对应的偏移。更新门能够利用重要数据更新隐藏状态，进行传递。
[0060][0061]
式(3)中利用候选隐状态生成隐状态h
t
，tanh为激活函数，
⊙
表示按元素乘法。
[0062][0063]
式(4)中h
t-1
表示上一次的隐藏状态，若z
t
＝1，则表示不更新过去的状态，忽略掉x
t
。若z
t
几乎为0，则情况类似rnn网络模型。
[0064]
本实施例中，所述预设轻量化长短期记忆网络模型的训练方法包括：
[0065]
构建初始轻量化长短期记忆网络模型；
[0066]
初始轻量化长短期记忆网络模型是以长短期记忆网络lstm基础网络为训练基础(lstm(long short-term memory)是长短期记忆网络，是一种时间递归神经网络(rnn)，主要是为了解决长序列训练过程中的梯度消失和梯度爆炸问题。)
[0067]
获取样本集，采用所述样本集对初始轻量化长短期记忆网络模型进行训练，得到预设轻量化长短期记忆网络模型。
[0068]
样本集是基于公开的radioml2016.10a数据集上评估了所提出的调制分类模型的性能数据集，考虑了包括时延、时间缩放、相位旋转、频率偏移和附加热噪声在内的无线信道效应，以模拟实际无线通信。实验共包含11类常见调制信号：8psk，am-dsb，am-ssb，bpsk，cpfsk，gfsk，pam4，qam16，qam64，qpsk，wbfm，每种调制包含20种信噪比，每种信噪比有1000个样本，样本总量为22万。每个样本有i和q两路信号，每路信号包含128个点。数据集总大小为220000
×2×
128，其中，训练样本共132000个(每种调制方式各12000个)，验证样本共44000个(每种调制方式各4000个)，采样率为200khz，为覆盖全面，训练信号信噪比在-20db～18db范围内间隔2db选取。
[0069]
本发明还公开了一种基于长短期记忆网络的自动调制识别系统，所述系统包括：
[0070]
信号获取模块，用于获取待识别信号数据；
[0071]
信号识别模块，用于将待识别信号数据输入预设轻量化长短期记忆网络模型中，输出识别信号；
[0072]
其中，所述信号识别模块包括第一卷积层、第二卷积层、gru网络模块和全连接层，所述第一卷积层用于提取i/q信号的空间特征，所述第二卷积层用于对提取i/q信号的空间特征进一步压缩提取特征，所述gru模块用于对进一步压缩提取的空间特征提取具有128个单元的信号的时间特征，所述全连接层用于完成信号分类任务。
[0073]
以上所述仅是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明技术原理的前提下，还可以做出若干改进和变形，这些改进和变形也应视为本发明的保护范围。

技术特征：
1.一种基于长短期记忆网络的自动调制识别方法，其特征在于，所述方法包括：获取待识别信号数据；将待识别信号数据输入预设轻量化长短期记忆网络模型中，输出识别信号；所述预设轻量化长短期记忆网络模型采用样本集进行训练；其中，所述预设轻量化长短期记忆网络模型包括第一卷积层、第二卷积层、gru网络模块和全连接层，所述第一卷积层用于提取i/q信号的空间特征，所述第二卷积层用于对提取i/q信号的空间特征进一步压缩提取特征，所述gru模块用于对进一步压缩提取的空间特征提取具有128个单元的信号的时间特征，所述全连接层用于完成信号分类任务。2.根据权利要求1所述的基于长短期记忆网络的自动调制识别方法，其特征在于，所述预设轻量化长短期记忆网络模型的训练方法包括：构建初始轻量化长短期记忆网络模型，所述初始轻量化长短期记忆网络模型基于长短期记忆网络lstm基础网络训练；获取样本集，采用所述样本集对长短期记忆网络lstm基础网络进行训练，得到预设轻量化长短期记忆网络模型。3.根据权利要求1所述的基于长短期记忆网络的自动调制识别方法，其特征在于，所述样本集基于radioml2016.10a数据集上评估了所提出的调制分类模型的数据集，所述调制分类模型的数据集包括时延、时间缩放、相位旋转、频率偏移和附加热噪声在内的无线信道效应，以模拟实际无线通信。4.根据权利要求1所述的基于长短期记忆网络的自动调制识别方法，其特征在于，所述样本集中每个样本有i和q两路信号，每路信号包含128个点。5.根据权利要求1所述的基于长短期记忆网络的自动调制识别方法，其特征在于，所述gru网络模块由更新门和重置门组成，所述更新门用于控制前一时刻的输出隐层对当前时刻输出隐层的影响程度，所述重置门用于遗忘隐藏状态中不重要的部分。6.根据权利要求1所述的基于长短期记忆网络的自动调制识别方法，其特征在于，所述gru网络模块公式如下：r
t
＝σ(w
xr
x
t
+w
hr
h
t-1
+b
r
)
ꢀꢀꢀꢀꢀꢀ
(1)其中x
t
是输入，h
t-1
为上一时刻的隐藏状态，w
hr
是其对应的权重，r
t
重置门，w
xr
是更新的权重，b
r
是对应的偏置，σ为sigmoid激活函数；z
t
＝σ(w
xz
x
t
+w
hz
h
t-1
+b
z
)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(2)式(2)中z
t
是更新门(updategate)，w
xz
是更新的权重，h
t-1
为上一时刻的隐藏状态，w
hz
是对应的权重，b
z
是对应的偏移；式(3)中利用候选隐状态生成隐状态h
t
，tanh为激活函数，
⊙
表示按元素乘法；式(4)中h
t-1
表示上一次的隐藏状态，若z
t
＝1，则表示不更新过去的状态，忽略x
t
。7.一种基于长短期记忆网络的自动调制识别系统，其特征在于，所述系统包括：信号获取模块，用于获取待识别信号数据；信号识别模块，用于将待识别信号数据输入预设轻量化长短期记忆网络模型中，输出
识别信号；其中，所述信号识别模块包括第一卷积层、第二卷积层、gru网络模块和全连接层，所述第一卷积层用于提取i/q信号的空间特征，所述第二卷积层用于对提取i/q信号的空间特征进一步压缩提取特征，所述gru模块用于对进一步压缩提取的空间特征提取具有128个单元的信号的时间特征，所述全连接层用于完成信号分类任务。

技术总结
本发明公开了一种基于长短期记忆网络的自动调制识别方法，所述方法包括：获取待识别信号数据；将待识别信号数据输入预设轻量化长短期记忆网络模型中，输出识别信号；所述预设轻量化长短期记忆网络模型采用样本集进行训练；其中，所述预设轻量化长短期记忆网络模型包括第一卷积层、第二卷积层、GRU网络模块和全连接层，所述第一卷积层用于提取I/Q信号的空间特征，所述第二卷积层用于对提取I/Q信号的空间特征进一步压缩提取特征，所述GRU模块用于对进一步压缩提取的空间特征提取具有128个单元的信号的时间特征，所述全连接层用于完成信号分类任务；本发明还公开了一种基于长短期记忆网络的自动调制识别系统。记忆网络的自动调制识别系统。记忆网络的自动调制识别系统。


技术研发人员：高锐 郭兰 闫雪纯 丛洋 杨峰 戚春燕 潘俊超
受保护的技术使用者：扬州大学
技术研发日：2023.05.12
技术公布日：2023/10/7