基于危险源信息的水利工程风险智能预测方法及装置

1.本发明涉及一种风险等级预测方法及装置，尤其涉及一种基于危险源信息的水利工程风险智能预测方法及装置。


背景技术：

2.随着我国水利行业的蓬勃发展，水利工程项目建设也在不断加快推进。水利工程是一个程序较为复杂、范围广泛、参与单位多、与建设过程环环紧扣的系统工程强化监管，确保工程运行各项管理制度落到实处，是保障工程建设长治久安的关键,项目风险评价管理对于项目施工是关键之处。依据危险源的风险等级制定监管措施和应急制度，能够有效地降低水利工程事故风险后果。
3.传统的风险评价无法适用于大型工程的实际应用，而注意力网络模型可以提取句子中的上下语义特征，风险等级预测较为准确，但也因此导致网络计算量较大。因此，本发明提出的方法搭建了任务场景判断门，将周期性隐含注意力计算限制在一个以任务场景为单位的时间序列集合窗口内，较大程度上减少了网络的计算量。同时，本发明在先验知识的危险源信息基础上引入周期性隐含注意力机制，通过周期性隐含注意力机制计算权重系数，加权融合先验向量和文本向量，该模型弥补了样本特征不足的缺陷，提高了风险等级预测的准确率。


技术实现要素：

4.发明目的：本发明的第一目的为提供一种提升预测准确率的基于危险源信息的水利工程风险智能预测方法，本发明的第二目的为提供一种基于危险源信息的水利工程风险智能预测装置。
5.技术方案：本发明的基于危险源信息的水利工程风险智能预测装置，包括任务场景处理单元、危险源权重计算单元、输入单元、特征提取单元和输出单元；
6.任务场景处理单元用于以施工任务场景为单位对项目危险源信息的文本数据进行分块预处理，构建任务场景向量，区分相同施工任务在不同场景下的风险等级预测；
7.危险源权重计算单元在先验知识的危险源信息基础上引入周期性隐含注意力机制，计算先验向量对于不同场景文本数据的权重系数；
8.输入单元将任务场景处理单元中得到的任务场景向量与危险源权重计算单元得到的权重向量加权融合，从而作为特征提取单元的输入。
9.特征提取单元搭建任务场景判断门，将周期性隐含注意力计算限制在任务场景时间序列集合窗口内，获得对危险源描述文本的特征向量；
10.输出单元用于将特征向量输入到前馈神经网络中，获得目标危险源的风险等级预测结果。
11.进一步地，任务场景处理单元整理了水利工程项目的任务场景集合，以任务场景为单位对危险源信息的文本数据分块整理，构建了两两线性无关的任务场景向量，区分相
同施工任务在不同场景下的风险等级预测。
12.危险源权重计算单元构建了基于先验知识的危险源信息表示向量作为先验向量，在此基础上引入周期性隐含注意力机制，计算先验向量对于不同场景文本数据的权重系数。
13.输入单元将任务场景处理单元中得到的任务场景向量与危险源权重计算单元得到的权重向量加权融合，从而作为特征提取单元的输入，实现更加智能的样本学习方式。
14.特征提取单元搭建任务场景判断门，将周期性隐含注意力计算限制在任务场景时间序列集合窗口内，实现任务场景内的周期性隐含注意力机制，获得对危险源描述文本的特征向量，降低了网络模型的计算量。
15.输出单元将特征向量输入到前馈神经网络中，获得目标危险源的风险等级预测结果。
16.综上所述，任务场景处理单元对项目中的任务场景集合进行整理，构建两两线性无关的任务场景向量，区分相同施工任务在不同场景下的风险等级；危险源权重计算单元通过周期性隐含注意力机制模型，计算先验向量对于不同场景文本数据的权重系数；输入单元将任务场景单元的输出和危险源权重计算单元的输出加权融合，作为特征提取单元的输入；特征提取单元搭建任务场景判断门，将注意力限制在任务场景时间序列集合窗口内部，提取危险源描述文本的特征向量，降低了网络模型的计算量；输出单元将特征提取单元的输出经过前馈神经网络，获得目标危险源的风险等级预测结果。
17.本发明的基于危险源信息的水利工程风险智能预测方法，包括以下步骤：
18.(1)任务场景处理单元构建两两线性无关的任务场景向量，区分相同施工任务在不同场景下的风险等级预测；
19.(2)危险源权重计算单元构建基于先验知识的危险源信息表示向量作为先验向量，在此基础上引入周期性隐含注意力机制，计算先验向量对于不同场景文本数据的权重系数；
20.(3)输入单元将步骤(1)中任务场景向量和步骤(2)中权重向量加权融合，得到新的文本向量；
21.(4)特征提取单元，以步骤(3)中新的文本向量作为输入，搭建任务场景判断门，实现任务场景内的周期性隐含注意力机制，获得危险源描述文本的特征向量；
22.(5)输出单元将危险源描述文本的特征向量输入到前馈神经网络，获得目标危险源的预测分类结果。
23.进一步地，在步骤(1)中，首先会根据项目任务场景集合对每个任务场景进行编码，然后会根据公式(1)将编码向量转换为两两线性无关的任务场景向量ti：
24.ti＝[ti，0，
…
，ci，
…
，0](ci＝i，i＝1，2...n)
ꢀꢀ
(1)
[0025]
其中，ci、i为正整数。
[0026]
在步骤(2)中，先验向量通过周期性隐含注意力机制计算，将注意力关注作用于循环神经网络隐含层中的元素，计算从上下文到问题以及从问题到上下文两个方向上的注意力，促进问题和上下文的信息之间的联系，避免先前的错误信息对注意力层的影响。将先验向量通过上述周期性隐含注意力机制计算，得到权重系数w，代表了先验知识表示向量对于每个任务场景的重要性，如公式(2)所示：
[0027][0028]
其中，q、k、v分别表示查询向量、键向量、值向量，dk表示键向量的维度。
[0029]
在步骤(4)中，将传统注意力模型中的全局注意力改进为任务场景内的周期隐含注意力，搭建任务场景判断门，将危险源只经过所属的任务场景时间序列集合窗口内，降低了自机制的计算量，如图3所示。
[0030]
风险预测方法的训练权重矩阵wq、wk、wv设计如公式(3)～(5)所示，其中w
qi
、w
ki
、w
vi
是任务场景时间序列集合窗口内的训练权重矩阵，ti是任务场景向量。
[0031][0032][0033][0034]
在步骤(5)中，为了不影响最后的风险等级预测，做如公式(6)～(8)所示的缩放操作，其中qi、ki、ti分别为模型缩放前的查询矩阵、键矩阵、值矩阵，tj是任务场景时间序列集合窗口taskj所属的任务场景向量。
[0035][0036][0037][0038]
以查询矩阵qi为例推导公式(9)如下，由最后结果可知，qi只与本身的任务场景时间序列集合窗口内训练矩阵w
qi
相关，实现了任务场景内的周期隐含注意力。
[0039][0040]
有益效果：与现有水利工程风险预测方法相比，本发明具有以下显著优点：通过搭建任务场景判断门，将周期性隐含注意力计算限制在一个以任务场景为单位的时间序列集合窗口内，因此这种方法相比于传统注意力模型，较大程度上减少了网络的计算量。同时，本专利在先验知识的危险源信息基础上引入周期性隐含注意力机制，通过周期性隐含注意力机制计算权重系数，加权融合先验向量和文本向量，该模型弥补了样本特征不足的缺陷，
提高了风险等级预测的准确率。
附图说明
[0041]
图1是本发明的具体实施流程图
[0042]
图2是本发明的危险源权重计算单元结构图
[0043]
图3是本发明的特征提取单元内任务场景判断门结构图
具体实施方式
[0044]
下面结合附图对本发明的技术方案作进一步说明。
[0045]
本发明的核心是一个基于危险源信息的水利工程风险智能预测方法及装置，通过构建任务场景向量，区分了相同施工任务在不同的任务场景下的风险等级预测，同时搭建了任务场景判断门，将周期性隐含注意力计算限制在任务场景时间序列集合窗口内，降低了网络模型的计算量，提高了风险等级预测的准确率。如图1方法流程图所示，本发明的基于危险源信息的水利工程风险智能预测装置包括任务场景处理单元、危险源权重计算单元、输入单元、特征提取单元和输出单元。
[0046]
任务场景单元整理了项目中的任务场景集合，将危险源信息的文本数据按任务场景分块处理，构建两两线性无关的向量，旨在区分相同施工任务在不同的任务场景下的风险等级预测，提高模型预测的准确率。
[0047]
危险源权重计算单元考虑到单纯融合先验知识和文本向量的局限性，通过利用周期性隐含注意力机制计算先验知识对文本的权重系数，实现加权融合，提高了风险等级预测的准确率。
[0048]
特征提取单元考虑到传统注意力模型是基于全局注意力机制的，网络计算量较大，提出任务场景判断门，将周期性隐含注意力限制在以任务场景为单位的时间序列集合窗口内，获得对危险源描述文本的特征向量，大大降低了网络模型的计算量。
[0049]
图1是本发明的具体实施流程图，包括如下步骤：
[0050]
步骤1：任务场景处理单元整理项目中的任务场景集合，将危险源信息的文本数据按任务场景分块处理，构建两两线性无关的任务场景向量，区分相同施工任务在不同场景下的风险等级预测。
[0051]
本实例选取某水电工程的风险隐患库中的一级任务场景“土石方工程”为例，如表1所示，将危险源文本数据按照整理结果进行分块处理。
[0052]
表1任务场景信息
[0053][0054]
对项目中的任务场景进行向量编码ti，按照公式(1)对向量进行变换，将线性相关的向量组可以构造出线性无关的向量组，其中ci、i为正整数。由公式(1)可知，任务场景向量组是线性无关的，可得到：
[0055][0056]
步骤2：危险源权重计算单元构建了基于先验知识的危险源信息表示向量作为先验向量，先验向量通过周期性隐含注意力机制计算，将注意力关注作用于循环神经网络隐含层中的元素，计算从上下文到问题以及从问题到上下文两个方向上的注意力，得到先验知识表示向量对于每个任务场景的权重系数w，实现了先验知识所携带信息的优化利用。
[0057]
本实例选取某水电工程的风险隐患库，如表2所示，将每一条危险源记录刻画成危险源类别和可能导致的事故类别两个信息表示，各自包含的要素分别使用0或1进行抽象化表示：0表示该危险源描述文本不包含这一种要素，1表示该危险源描述文本包含这一种要素，可以构建基于危险源信息的先验向量p(d)。
[0058]
表2危险源信息表示划分
[0059][0060]
如图2模型结构图所示，先将先验向量分别与模型训练权重矩阵wq、wk、wv进行点积运算，得到查询向量q、键向量k、值向量v，再按照公式(2)进行矩阵计算，最终将计算结果经过softmax函数计算权重系数w。
[0061]
步骤3：输入单元将步骤1和步骤2的输出结果进行加权融合，作为特征提取单元的输入。该单元通过周期性隐含注意力机制充分利用了先验知识，使得模型具有更加智能的样本学习方式。
[0062]
步骤4：特征提取单元考虑到传统的注意力模型是基于全局注意力的，网络计算复杂度较大，影响模型性能。因此，通过搭建任务场景判断门，将文本向量只经过其所属的任务场景时间序列集合窗口内，降低了周期性隐含注意力机制的网络模型计算量，实现了将注意力计算限制在以任务场景为单位的时间序列集合窗口内。
[0063]
在网络模型的训练过程中，将训练矩阵设计如公式(3)～(5)所示，通过将训练集输入到设计的模型中，不断地获取最优的训练权重矩阵。
[0064]
如图3任务场景判断门结构图所示，在网络模型的输入向量中，包含了文本向量所属的任务场景向量。在模型的任务场景时间序列集合窗口内均有一个任务场景判断门，利用前文构建的两两线性无关的任务场景向量，判断该单元的输入向量所包含的任务场景是否与该任务场景时间序列集合窗口所属的任务场景一致，如果一直，则允许该文本向量进入任务场景时间序列集合窗口进行模型训练，否则，继续前往下一个任务场景时间序列集合窗口进行判断，直至找到所属的任务场景时间序列集合窗口。
[0065]
从理论角度分析：传统注意力模型是计算全局注意力，算法时间复杂度为o(n2)，其中n为所有任务场景集合的文本长度和，本发明提出的网络模型是计算任务场景内的先验注意力，算法时间复杂度为o(m2)，其中m为任务场景集合的文本长度最大值(m＜＜n)。因此，当样本数据量较大时，会存在m＜＜n，所以本发明提出的网络模型时间复杂度远小于传统模型。从实例数据角度分析：本发明提出的网络模型相比于传统注意力模型，运行时间减少了27％，提高了模型的运行速度。
[0066]
步骤5：将步骤4的提取的特征向量先按照公式(6)～(8)进行缩放操作，输入到前馈神经网络中，获取目标危险源的预测分类结果，其中h为特征提取单元的输出特征向量，y为网络模型的输出预测风险等级。
[0067]
y＝softmax(mlp(h))
ꢀꢀ
(11)
[0068]
以查询矩阵qi为例推导公式(11)如下，由最后结果可知，qi只与本身的任务场景时间序列集合窗口内训练矩阵w
qi
相关，实现了任务场景内的周期隐含注意力。
[0069][0070]
本发明公开了基于危险源信息的水利工程风险智能预测方法及装置，该装置包含任务场景处理单元、危险源权重计算单元、输入单元、特征提取单元和输出单元。任务场景处理单元以施工任务场景为单位对危险源信息进行分块预处理并构建向量；危险源权重计算单元引入周期性隐含注意力机制，计算基于先验知识的危险源向量对于不同场景描述文本的权重；输入单元将前两单元得到的场景向量和权重向量融合作为特征提取单元的输入；特征提取单元搭建任务场景判断门，将注意力计算限制在任务场景时序集合窗口内；输出单元将特征向量输入前馈网络中，获得预测风险等级。本发明实现了水利工程风险等级智能预测，解决了样本特征不足的缺陷，提高了预测准确率。
[0071]
尽管已经示出和描述了本发明的实施例，对于本领域的普通技术人员而言，可以
理解在不脱离本发明的原理和精神的情况下可以对这些实施例进行多种变化、修改、替换和变型，本发明的范围由所附权利要求及其等同物限定。

技术特征：
1.基于危险源信息的水利工程风险智能预测装置，其特征在于，该预测装置包括任务场景处理单元、危险源权重计算单元、输入单元、特征提取单元和输出单元；所述任务场景处理单元用于以施工任务场景为单位对危险源信息的文本数据进行分块预处理，构建任务场景向量，区分相同施工任务在不同场景下的风险等级预测；所述危险源权重计算单元在先验知识的危险源信息基础上引入周期性隐含注意力机制，计算先验向量对于不同场景文本数据的权重系数；所述输入单元将任务场景处理单元中得到的任务场景向量与危险源权重计算单元得到的权重向量加权融合，从而作为特征提取单元的输入；所述特征提取单元搭建任务场景判断门，将周期性隐含注意力计算限制在任务场景时间序列集合窗口内，获得对危险源描述文本的特征向量；所述输出单元用于将特征向量输入到前馈神经网络中，获得目标危险源的风险等级预测结果。2.根据权利要求1所述的基于危险源信息的水利工程风险智能预测装置，其特征在于：所述任务场景单元整理了水利工程项目的任务场景集合，以任务场景为单位对危险源信息的文本数据分块整理，构建了两两线性无关的任务场景向量，区分相同施工任务在不同场景下的风险等级预测。3.根据权利要求1所述的基于危险源信息的水利工程风险智能预测装置，其特征在于：所述危险源权重计算单元构建了基于先验知识的危险源信息表示向量作为先验向量，在此基础上引入周期性隐含注意力机制，计算先验向量对于不同场景文本数据的权重系数。4.根据权利要求1所述的基于危险源信息的水利工程风险智能预测装置，其特征在于：所述输入单元将任务场景处理单元中得到的任务场景向量与危险源权重计算单元得到的权重向量加权融合，作为特征提取单元的输入。5.根据权利要求1所述的基于危险源信息的水利工程风险智能预测装置，其特征在于：所述特征提取单元搭建任务场景判断门，将周期性隐含注意力计算限制在任务场景时间序列集合窗口内，实现任务场景内的周期性隐含注意力机制，获得对危险源描述文本的特征向量。6.根据权利要求1所述的基于危险源信息的水利工程风险智能预测装置，其特征在于：所述输出单元将特征向量输入到前馈神经网络中，获得目标危险源的风险等级预测结果。7.基于危险源信息的水利工程风险智能预测方法，其特征在于，包括以下步骤：(1)任务场景处理单元构建两两线性无关的任务场景向量，区分相同施工任务在不同场景下的风险等级预测；(2)危险源权重计算单元构建基于先验知识的危险源信息表示向量作为先验向量，先验向量通过周期性隐含注意力机制计算，将注意力关注作用于循环神经网络隐含层中的元素，计算从上下文到问题以及从问题到上下文两个方向的注意力，得到计算先验向量对于不同场景文本数据的权重系数；(3)输入单元将步骤(1)中任务场景向量和步骤(2)中权重向量加权融合，得到新的文本向量；(4)特征提取单元，以步骤(3)中新的文本向量作为输入，搭建任务场景判断门，实现任务场景内的周期性隐含注意力机制，获得危险源描述文本的特征向量；
(5)输出单元将危险源描述文本的特征向量输入到前馈神经网络，获得目标危险源的预测分类结果。8.根据权利要求7所述基于危险源信息的水利工程风险智能预测方法，其特征在于步骤(1)中，首先会根据项目任务场景集合对每个任务场景进行编码，然后会根据公式(1)将编码向量转换为两两线性无关的任务场景向量ti:t
i
＝[t
i
,0,
…
,c
i
,
…
,0] (c
i
＝i,i＝1,2
…
n)
ꢀꢀꢀ
(1)其中，c
i
、i为正整数。9.根据权利要求7所述基于危险源信息的水利工程风险智能预测方法，其特征在于步骤(4)中，将传统注意力模型中的全局注意力改进为任务场景内的周期隐含注意力，搭建任务场景判断门，将危险源只经过所属的任务场景时间序列集合窗口内；务场景判断门，将危险源只经过所属的任务场景时间序列集合窗口内；务场景判断门，将危险源只经过所属的任务场景时间序列集合窗口内；风险预测方法的训练权重矩阵w
q
、w
k
、w
v
设计如公式(2)～(4)所示，其中w
qi
、w
ki
、w
vi
是任务场景时间序列集合窗口内的训练权重矩阵，t
i
是任务场景向量。10.根据权利要求7所述基于危险源信息的水利工程风险智能预测方法，其特征在于步骤(5)中，为了不影响最后的风险等级预测，做如公式(5)～(7)所示的缩放操作，其中q
i
、k
i
、v
i
分别为模型缩放前的查询矩阵、键矩阵、值矩阵，t
j
是任务场景时间序列集合窗口task
j
所属的任务场景向量；属的任务场景向量；属的任务场景向量；以查询矩阵q
i
为例推导公式(8)如下：由最后结果可知，q
i
只与本身的任务场景时间序列集合窗口内训练矩阵w
qi
相关，实现了任务场景内的周期隐含注意力。

技术总结
本发明公开了基于危险源信息的水利工程风险智能预测方法及装置，该装置包含任务场景处理单元、危险源权重计算单元、输入单元、特征提取单元和输出单元。任务场景处理单元以施工任务场景为单位对危险源信息进行分块预处理并构建向量；危险源权重计算单元引入周期性隐含注意力机制，计算基于先验知识的危险源向量对于不同场景描述文本的权重；输入单元将前两单元得到的场景向量和权重向量融合作为特征提取单元的输入；特征提取单元搭建任务场景判断门，将注意力计算限制在任务场景时序集合窗口内；输出单元将特征向量输入前馈网络中，获得预测风险等级。本发明实现了水利工程风险等级智能预测，解决了样本特征不足的缺陷，提高了预测准确率。了预测准确率。了预测准确率。


技术研发人员：陶飞飞 皮妍玲 袁驰 章猛 邓梦华 唐勇军 邓劲柏 李鑫
受保护的技术使用者：河海大学
技术研发日：2023.07.04
技术公布日：2023/10/11