一种基于深度学习的小波去噪方法

1.本发明涉及局部放电信号去噪领域，尤其涉及一种基于深度学习的小波去噪方法。


背景技术：

2.在电力系统的实际运行中，由于电气设备在运行时，受到自身内部的影响以及外部环境引入的干扰，使得实时采集到的局部放电信号掺杂了不同程度的噪声，导致信号中的扰动特征被噪声所掩盖。局部放电超声信号作为一种非平稳的时变信号，携带着局放识别所需的特征信息。信号分析的重要步骤之一就是从中提取出特征参数，但在此之前必须获得“干净”的信号，尽量避免各种噪声的干扰，这就需要对含噪信号进行背景噪声处理。局部放电信号的背景噪声处理就是为了之后更好的提取局放信号的特征信息，进而优化识别算法的效果，因此，如何能有效的解决噪声引起的干扰问题显得尤为重要。
3.以往通常使用的线性以及非线性手段进行的波形处理，在处理后信号常常面临着熵増高、信号非平稳等缺点，而在小波去噪提出之后，其能同时对时频信号进行分解分析，很好的区分原始信号和噪声信号，最终获得比较接近原始信号的处理信号，在克服这种缺点上具有很好的效果，使得小波去噪方法在现实中得到快速的推广和广泛地应用。小波分析是在傅立叶分析的基础上发展起来的，它既保持了傅立叶分析的特点，又弥补了傅立叶分析的不足，作为时频分析方法，小波分析比傅立叶分析有着许多本质性的进步。与傅立叶分析相比，小波分析具有多分辨率的特点，较好地解决了时域和频域分辨率的矛盾，巧妙地利用了非均匀分布的分辨率，在低频段用较高的频率分辨率和较低的时间分辨率，而在高频段则采用较低的频率分辨率和较高的时间分辨率。小波分析在局部时频分析中具有很强的灵活性，能聚集到信号时段和频段的任意细节，被喻为时频分析的显微镜。因此利用小波变换时频域的局部化性质可以很好地获得信号的局部化特性，对突变信号和非平稳信号的检测非常有效。
4.利用小波对信号去噪的步骤如下：
5.(1)选择小波基函数，对放电信号进行小波分解，得到信号的高频部分和低频部分；
6.(2)对各个分解尺度下的高频系数选择一个阈值进行阈值量化处理；
7.(3)根据小波分解底层低频系数和各层高频系数进行重构，得到去噪处理后的信号。
8.虽然传统的小波去噪方法已经展现出了不错的效果，但是由于不同类型的信号存在一定的差异，在输入不同的信号时，其最优小波基函数也需要随之变化，较为繁琐。


技术实现要素：

9.本发明的目的在于提供一种基于深度学习的小波去噪方法，以解决上述技术问题。
10.为实现上述目的本发明采用以下技术方案：
11.一种基于深度学习的小波去噪方法，将实验室环境下采集的得到的局部放电信号图像设为数据集yu，u＝1,2,3,4，分别对应尖端放电数据集、气泡放电数据集、悬浮放电数据集与沿面放电数据集，其中包含的局部放电单源脉冲信号表示为n＝1,2,3,
…
,l，建立vgg神经网络模型，利用训练集对网络进行训练，使其能够模拟小波去噪过程，将数据集进行预处理后送入vgg神经网络，即得到经过小波去噪的局放信号，具体步骤如下：
12.步骤1：对数据集yu进行归一化处理，并按照7:3的比例分割为训练集与测试集；
13.步骤2：首先将数据输入卷积层，卷积层采用的卷积核大小为3
×
3，卷积层通过输入数据的局部区域学习图像特征来保存图像之间的空间关系，卷积核的运算公式如下，其中，w为卷积核权重，b为卷积核偏置；
[0014][0015]
卷积运算主要是对输入的图像进行局部特征提取，浅层的卷积层提取的是低级图像特征，深层的卷积层，提取的特征更加全局化，提取复杂的特征，复杂的特征是简单特征的组合而成，卷积层激活函数选用relu激活函数y＝max(0,x)；
[0016]
步骤3：池化层将卷积层提取的特征进行进一步处理，池化就是下采样，目的是为了降低特征图的尺寸并保留特征图中的重要信息，池化操作和卷积操作一样，也是局部连接，池化层定义一个空间邻域，在空间邻域中进行池化操作；
[0017]
池化层除了可以降低尺寸，更减少了神经网络的参数和计算的数量，从而在一定程度上减少了模型的过拟合，除此之外，池化使得网络在一定程度上具有抗小变形，平移和畸变的能力，提高了模型的容错性；
[0018]
步骤4：由于训练过程涉及梯度下降法，有反向传播时梯度消失的可能，导致训练收敛慢，采用批量标准化减少梯度对参数的依赖，加快网络训练，并提高模型泛化能力，执行批量标准化的均值公式、方差公式、标准化公式以及缩放和平移公式如下：
[0019][0020][0021][0022]
xi＝γ*x
i,norm
+β；
[0023]
其中，xi(i＝1,2,...,m)为神经网络的隐藏层输出，ε是避免方差除零，γ和β都是可学习的参数；
[0024]
步骤5：模型的训练过程采用反向传播算法，对卷积核参数进行训练，在网络中实现负梯度减小更新参数公式如下，其中w为更新的参数，c为损失函数，α为学习率；
[0025]
[0026]
损失函数选择感知损失函数，其中表示损失网络，cj表示网络的第j层，c
jhj
wj表示第j层的特征图大小，感知损失函数如下：
[0027][0028]
梯度下降的计算过程如下，其中x为输入，a为激活值。
[0029]zl
＝w
lal-1
+b
l
,a
l
＝σ(z
l
)；
[0030]
前向传播到输出层后，会产生误差，误差的计算公式如下：
[0031][0032]
通过链式法则使用当前层的误差来表示前一层的误差，整个过程如下：
[0033][0034]
最后是利用梯度下降法，训练参数，更新权重w
l
和偏置参数b
l
。
[0035][0036][0037]
步骤6：对vgg网络进行训练后，输入含有噪声局部放电信号图像，通过vgg网络的去噪处理得到原始信号特征，再通过反卷积层(转置卷积层)对输出的特征进行重构，得到“干净”的局放信号图像。
[0038]
与现有技术相比，本发明具有以下优点：本发明采用神经网络来实现小波去噪的功能，在输入不同信号时，能够根据信号的特点来自动调整网络参数以取代小波基函数的选取过程，提高去噪处理的效率，并且达到更好的去噪效果，具有更为广泛的适用性。
附图说明
[0039]
图1为本发明最大池化操作示意图；
[0040]
图2现场实测局放信号图；
[0041]
图3现场实测局放信号各方法去噪结果图；
[0042]
图4低信噪比实测局放信号图。
[0043]
图5低信噪比局放信号各方法去噪结果图。
具体实施方式
[0044]
下面结合附图和具体实施例对本发明作进一步详细阐述。
[0045]
一种基于深度学习的小波去噪方法，将实验室环境下采集的得到的局部放电信号图像设为数据集yu，u＝1,2,3,4，分别对应尖端放电数据集、气泡放电数据集、悬浮放电数据集与沿面放电数据集，其中包含的局部放电单源脉冲信号表示为n＝1,2,3,
…
,l，建立vgg神经网络模型，利用训练集对网络进行训练，使其能够模拟小波去噪过程，将数据集进行预处理后送入vgg神经网络，即得到经过小波去噪的局放信号，具体步骤如下：
[0046]
步骤1：对数据集yu进行归一化处理，并按照7:3的比例分割为训练集与测试集；
[0047]
步骤2：首先将数据输入卷积层，卷积层采用的卷积核大小为3
×
3，卷积层通过输入数据的局部区域学习图像特征来保存图像之间的空间关系，卷积核的运算公式如下，其中，w为卷积核权重，b为卷积核偏置；
[0048][0049]
卷积运算主要是对输入的图像进行局部特征提取，浅层的卷积层提取的是低级图像特征，深层的卷积层，提取的特征更加全局化，提取复杂的特征，复杂的特征是简单特征的组合而成，卷积层激活函数选用relu激活函数y＝max(0,x)；
[0050]
步骤3：池化层将卷积层提取的特征进行进一步处理，池化就是下采样，目的是为了降低特征图的尺寸并保留特征图中的重要信息，池化操作和卷积操作一样，也是局部连接，池化层定义一个空间邻域，在空间邻域中进行池化操作(如图1所示)；
[0051]
池化层除了可以降低尺寸，更减少了神经网络的参数和计算的数量，从而在一定程度上减少了模型的过拟合，除此之外，池化使得网络在一定程度上具有抗小变形，平移和畸变的能力，提高了模型的容错性；
[0052]
步骤4：由于训练过程涉及梯度下降法，有反向传播时梯度消失的可能，导致训练收敛慢，采用批量标准化减少梯度对参数的依赖，加快网络训练，并提高模型泛化能力，执行批量标准化的均值公式、方差公式、标准化公式以及缩放和平移公式如下：
[0053][0054][0055][0056]
xi＝γ*x
i,norm
+β；
[0057]
其中，xi(i＝1,2,...,m)为神经网络的隐藏层输出，ε是避免方差除零，γ和β都是可学习的参数；
[0058]
步骤5：模型的训练过程采用反向传播算法，对卷积核参数进行训练，在网络中实现负梯度减小更新参数公式如下，其中w为更新的参数，c为损失函数，α为学习率；
[0059][0060]
损失函数选择感知损失函数，其中表示损失网络，cj表示网络的第j层，c
jhj
wj表示第j层的特征图大小，感知损失函数如下：
[0061][0062]
梯度下降的计算过程如下，其中x为输入，a为激活值。
[0063]zl
＝w
lal-1
+b
l
,a
l
＝σ(z
l
)；
[0064]
前向传播到输出层后，会产生误差，误差的计算公式如下：
[0065][0066]
通过链式法则使用当前层的误差来表示前一层的误差，整个过程如下：
[0067]
δ
l
＝((w
l+1
)
t
)δ
l+1
⊙
σ
l
(z
l
)；
[0068]
最后是利用梯度下降法，训练参数，更新权重w
l
和偏置参数b
l
。
[0069][0070][0071]
步骤6：对vgg网络进行训练后，输入含有噪声局部放电信号图像，通过vgg网络的去噪处理得到原始信号特征，再通过反卷积层(转置卷积层)对输出的特征进行重构，得到“干净”的局放信号图像。
[0072]
图2为现场某220kv主变实测局放信号，该信号通过安装于变压器铁芯接地线穿芯hfct传感器测得，其采样频率为5mhz。采用本文方法对该信号进行去噪处理，且仍采用前文基于实验室高信噪比局放信号学习构建的局放脉冲自适应过完备字典。作为对比，一并采用db2小波及db8小波方法对上述信号进行去噪处理。各方法去噪结果如图3所示，各方法均可顺利实现实测局放信号噪声抑制；由于无法确定该实测信号原始无噪分量，故难以直接比较各方法效果；考虑到该信号信噪比较高，各方法去噪结果无明显差异，各方法去噪结果为原始无噪分量。同时，本发发明通过采集现场噪声，并放大叠加入上述实测信号中，构成现场实测低信噪比局放信号，如图4所示。
[0073]
采用各方法对上述信号进行噪声抑制，其结果如图5所示。对比图4及图5结果可知，对于低信噪比实测局放信号，本文方法去噪效果明显优于传统小波方法，本文方法、db2小波及db8小波方法上述低信噪比实测信号噪声抑制后的信噪比分别为9.03db，0.41db及0.88db，进一步说明了本文方法的有效性。
[0074]
以上所述为本发明较佳实施例，对于本领域的普通技术人员而言，根据本发明的教导，在不脱离本发明的原理与精神的情况下，对实施方式所进行的改变、修改、替换和变型仍落入本发明的保护范围之内。

技术特征：
1.一种基于深度学习的小波去噪方法，其特征在于，将实验室环境下采集的得到的局部放电信号图像设为数据集y
u
，u＝1,2,3,4，分别对应尖端放电数据集、气泡放电数据集、悬浮放电数据集与沿面放电数据集，其中包含的局部放电单源脉冲信号表示为建立vgg神经网络模型，利用训练集对网络进行训练，使其能够模拟小波去噪过程，将数据集进行预处理后送入vgg神经网络，即得到经过小波去噪的局放信号，具体步骤如下：步骤1：对数据集y
u
进行归一化处理，并按照7:3的比例分割为训练集与测试集；步骤2：首先将数据输入卷积层，卷积层采用的卷积核大小为3
×
3，卷积层通过输入数据的局部区域学习图像特征来保存图像之间的空间关系，卷积核的运算公式如下，其中，w为卷积核权重，b为卷积核偏置；卷积运算是对输入的图像进行局部特征提取，浅层的卷积层提取的是低级图像特征，深层的卷积层，提取的特征全局化，提取复杂的特征，复杂的特征是简单特征的组合而成，卷积层激活函数选用relu激活函数y＝max(0,x)；步骤3：池化层将卷积层提取的特征进行进一步处理，池化操作和卷积操作一样，也是局部连接，池化层定义一个空间邻域，在空间邻域中进行池化操作；步骤4：采用批量标准化减少梯度对参数的依赖，加快网络训练，并提高模型泛化能力，执行批量标准化的均值公式、方差公式、标准化公式以及缩放和平移公式如下：执行批量标准化的均值公式、方差公式、标准化公式以及缩放和平移公式如下：执行批量标准化的均值公式、方差公式、标准化公式以及缩放和平移公式如下：x
i
＝γ*x
i,norm
+β；其中，x
i
(i＝1,2,...,m)为神经网络的隐藏层输出，ε是避免方差除零，γ和β都是可学习的参数；步骤5：模型的训练过程采用反向传播算法，对卷积核参数进行训练，在网络中实现负梯度减小更新参数公式如下，其中w为更新的参数，c为损失函数，α为学习率；损失函数选择感知损失函数，其中表示损失网络，c
j
表示网络的第j层，c
j
h
j
w
j
表示第j层的特征图大小，感知损失函数如下：
梯度下降的计算过程如下，其中x为输入，a为激活值；z
l
＝w
l
a
l-1
+b
l
,a
l
＝σ(z
l
)；前向传播到输出层后，会产生误差，误差的计算公式如下：通过链式法则使用当前层的误差来表示前一层的误差，整个过程如下：δ
l
＝((w
l+1
)
t
)δ
l+1
⊙
σ
l
(z
l
)；最后是利用梯度下降法，训练参数，更新权重w
l
和偏置参数b
l
；；步骤6：对vgg网络进行训练后，输入含有噪声局部放电信号图像，通过vgg网络的去噪处理得到原始信号特征，再通过反卷积层对输出的特征进行重构，得到“干净”的局放信号图像。

技术总结
本发明公开了一种基于深度学习的小波去噪方法，本发明采用神经网络来实现小波去噪的功能，在输入不同信号时，能够根据信号的特点来自动调整网络参数以取代小波基函数的选取过程，提高去噪处理的效率，并且达到更好的去噪效果，具有更为广泛的适用性。具有更为广泛的适用性。具有更为广泛的适用性。


技术研发人员：刘玉娇 仲浩 李国亮 李帆 谢军 谢庆 康文文 林煜清 王坤 代二刚 杨凤文 李森 燕重阳 韩锋
受保护的技术使用者：华北电力大学（保定） 国家电网有限公司
技术研发日：2022.11.18
技术公布日：2023/7/25