基于自注意力机制的无线信号接收强度预测方法及装置

1.本发明涉及时空信息智能感知和诊断领域，特别是一种基于自注意力机制的无线信号接收强度预测方法及装置。


背景技术：

2.准确识别、测量任一参考位置处可接收的无线信号强度是无线网络部署的基础环节，对信息感知、网络检测与诊断、定位与导航等应用意义重大。然而，大多数的无线信号强度都是基于专用软件或设备现场人工测量而来，由于无线传输的广泛应用，目前任一参考位置处可接收的无线信号来源较多，同时无线信号覆盖范围日益提升导致测量区域通常较大，逐一识别、测量每个参考位置处的所有信号强度对人员专业技术、测量时间和成本等要求较高。同时无线信号通常具有时变特性，需定期进行上述操作更新实时信号强度。
3.所以如今需要一种无线信号强度测量效率更高，时变特性对信号值的影响更小，测量成本更低的基于自注意力机制的无线信号接收强度预测方法。


技术实现要素：

4.本发明的目的在于克服现有技术中所存在的现有基于自注意力机制的无线信号接收强度预测方法对人员专业技术、测量时间和成本等要求较高，且需定期进行上述操作更新实时信号强度的问题，提供一种基于自注意力机制的无线信号接收强度预测方法及装置。
5.为了实现上述发明目的，本发明提供了以下技术方案：
6.一种基于自注意力机制的无线信号接收强度预测方法，包括以下步骤：
7.a：获取待预测位置的已知无线信号的接收强度测量值；
8.b：将所述已知无线信号的接收强度测量值导入预构筑的无线信号强度预测模型；
9.c：输出所述待预测位置中未知无线信号的强度预测值；
10.所述无线信号强度预测模型的构筑包括以下流程：
11.s1：构建待测量区域所有参考位置处的无线信号向量，并对未知接收信号强度的无线信号添加掩码；所述无线信号向量包括测量区域内所有无线信号id以及接收信号强度信息；
12.s2：对所述无线信号向量进行预处理，生成若干输入向量并存入训练数据集；所述预处理包括设置信号强度阈值以及绝对值化处理；
13.s3：构建基于深度学习的无线信号强度预测初步模型；所述无线信号强度预测初步模型包括若干神经网络模块和激活函数；所述神经网络模块包括多头自注意力层和全连接层；
14.s4：通过所述训练数据集对所述无线信号强度预测初步模型进行模型训练，待模型收敛后输出为无线信号强度预测模型。
15.作为本发明的优选方案，所述参考位置处的信号强度信息记为m维向量，其中，参
考位置处未检测到的无线信号对应的信号强度记为掩码mask，m为所述待测量区域内无线信号id的数目。
16.作为本发明的优选方案，所述s2包括以下步骤：
17.s21：对所述信号强度信息求取绝对值；
18.s22：对求取绝对值后的所述信号强度信息进行阈值处理，并存入训练数据集。
19.作为本发明的优选方案，所述s22包括以下步骤：
20.s221：根据所述信号强度信息的绝对值设置max阈值；
21.s222：对所述信号强度信息中的每个元素进行判断；
22.若元素的绝对值大于所述max阈值时，将该元素置为0；
23.若元素对应参考位置未检测到无线信号，将该元素置为0；
24.s223：将所述m维输入向量存入训练数据集。
25.作为本发明的优选方案，所述神经网络模块的数量优选为3，且所述多头自注意力层的头数为3。
26.作为本发明的优选方案，所述激活函数为relus函数，其表达式为：
[0027][0028]
其中，t为全连接层输出预测值，max为max阈值。
[0029]
作为本发明的优选方案，所述s4包括以下步骤：
[0030]
s41：从所述训练数据集中随机选取一个输入向量；
[0031]
s42：对所述训练数据集中输入向量的随机比例元素进行掩码处理，并随机初始化初步模型的模型参数；
[0032]
s43：对所述输入向量中的掩码部分进行预测，输出所述掩码部分对应的预测值；
[0033]
s44：根据所述预测值与真实值计算均方误差损失，并用批量随机梯度下降法反向传播更新初步模型的权重参数；
[0034]
s45：判断所述均方差损失函数是否收敛，若收敛，则输出当前的所述权重参数为所述模型的初始训练参数，否则进入所述s43。
[0035]
作为本发明的优选方案，所述均方差损失函数的表达式为：
[0036][0037]
其中，loss为均方差损失，x
预
为预测值，x
真
为真实值，n为输入向量中的掩码数量。
[0038]
作为本发明的优选方案，所述s42中将多头自注意力层中的wk，wq，wv矩阵初始化为1*3，全连接层矩阵wo初始化为3*1。
[0039]
一种无线信号强度预测装置，包括至少一个处理器，以及与所述至少一个处理器通信连接的存储器；所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行上述任一项所述的方法。
[0040]
与现有技术相比，本发明的有益效果：
[0041]
本发明设计了一种基于自注意力机制的无线信号接收强度预测方法，利用参考位置处已知的无线信号强度，基于深度学习模型预测其余未知信号的强度，在保证测量精度
的同时有效降低测量的成本。
附图说明
[0042]
图1为本发明实施例1所述的一种基于自注意力机制的无线信号接收强度预测方法的流程示意图；
[0043]
图2为本发明实施例1所述的一种基于自注意力机制的无线信号接收强度预测方法中无线信号强度预测模型的构筑流程示意图；
[0044]
图3为本发明实施例2所述的一种基于自注意力机制的无线信号接收强度预测方法中神经网络模块的结构示意图；
[0045]
图4为本发明实施例3所述的一种利用了实施例1所述的一种无线信号强度预测装置的结构示意图。
具体实施方式
[0046]
下面结合试验例及具体实施方式对本发明作进一步的详细描述。但不应将此理解为本发明上述主题的范围仅限于以下的实施例，凡基于本发明内容所实现的技术均属于本发明的范围。
[0047]
实施例1
[0048]
如图1所示，一种基于自注意力机制的无线信号接收强度预测方法，包括以下步骤：
[0049]
a：获取待预测位置的已知无线信号的接收强度测量值。
[0050]
b：将所述已知无线信号的接收强度测量值导入预构筑的无线信号强度预测模型。
[0051]
c：输出所述待预测位置中未知无线信号的强度预测值。
[0052]
如图2所示，所述无线信号强度预测模型的构筑包括以下流程：
[0053]
s1：构建待测量区域所有参考位置处的无线信号向量，并对未知接收信号强度的无线信号添加掩码；所述无线信号向量包括测量区域内所有无线信号id以及接收信号强度信息；
[0054]
s2：对所述无线信号向量进行预处理，生成若干输入向量并存入训练数据集；所述预处理包括设置信号强度阈值以及绝对值化处理；
[0055]
s3：构建基于深度学习的无线信号强度预测初步模型；所述无线信号强度预测初步模型包括若干神经网络模块和激活函数；所述神经网络模块包括多头自注意力层和全连接层；
[0056]
s4：通过所述训练数据集对所述无线信号强度预测初步模型进行模型训练，待模型收敛后输出为无线信号强度预测模型。
[0057]
实施例2
[0058]
本实施例为实施例1所述一种基于自注意力机制的无线信号接收强度预测方法中所述无线信号强度预测模型的一种具体构筑方式，包括以下步骤：
[0059]
s1：获取待测量区域若干参考位置处的无线信号向量；所述无线信号数据包括无线信号id以及信号强度信息。
[0060]
所述参考位置处(p1,p2,...,pn，n为参考位置数目)的信号强度信息记为m维向量
即ri为第i个参考位置处pi处记录的来自m个信号源的数据，为第i个参考位置处第m个信号源的接收强度信息，m为测量区域所有参考位置检测到的无线信号id数目(即所述待测量区域内无线信号id的数目)，如存在未知接收强度信息的信号源j，则
[0061]
s2：对所述无线信号数据进行预处理，生成若干输入向量并存入训练数据集；所述预处理包括绝对值化以及阈值处理。
[0062]
s21：对所述信号强度信息求取绝对值。
[0063]
由于无线信号强度标识rssi通常为负数，单位db，所以需要求取绝对值|ri|。
[0064]
s22：对求取绝对值后的所述信号强度信息进行阈值化处理。
[0065]
s221：根据所述信号强度信息的绝对值设置max阈值，本实施例用n表示。
[0066]
s222：对所述信号强度信息中的每个元素进行判断；
[0067]
若元素的绝对值大于所述max阈值时，将该元素置为0；当某参考位置处检测到的rssi绝对值较大时，信息传输能力通常处于“时断时续”状态，实际应用意义较小，因此对所有测量的信号强度绝对值预设一个极大阈值max，所有rssi大于该阈值max的无线信号均置为0，定义为无效信号。
[0068]
若元素对应参考位置未检测到无线信号，将该元素置为0。
[0069]
s223：输出为m维输入向量并存入训练数据集，n(|*|)为max阈值处理。
[0070]
s3：构建基于深度学习的无线信号强度预测初步模型。
[0071]
所述无线信号强度预测初步模型包括若干神经网络模块和激活函数；所述神经网络模块包括多头自注意力层和全连接层。所述神经网络模块的数量优选为3，且如图3所示，每个所述神经网络模块中所述多头自注意力层的头数数目为3。
[0072]
所述激活函数为relus函数，其表达式为：
[0073][0074]
其中，t为全连接层输出预测值，max为max阈值。
[0075]
s4：通过所述训练数据集对所述无线信号强度预测初步模型进行模型训练，待模型收敛后输出为无线信号强度预测模型。
[0076]
s41：从所述训练数据集中随机选取一个a维有效输入向量；其中，a为预设值，所述有效输入向量为信号强度值不为0的向量。
[0077]
s42：对所述训练数据集中的其余输入向量进行掩码处理，并随机初始化初步模型的模型参数，优选的，将多头自注意力层中的wk，wq，wv矩阵定义为1*3，全连接层矩阵wo定义为3*1。
[0078]
s43：对所述输入向量中的掩码部分进行预测，输出所述掩码部分对应的预测值。
[0079]
s44：根据所述预测值与真实值计算均方差损失函数，并批量随机梯度下降法反向传播更新初步模型的权重参数wk，wq，wv，wo。
[0080]
所述均方差损失函数的表达式为：
[0081][0082]
其中，loss为均方差损失，x预为预测值，x真为真实值，n为输入向量中的掩码数量。
[0083]
s45：判断所述均方差损失函数是否收敛，若收敛，则输出当前的所述权重参数为所述模型的初始训练参数，否则进入所述s43。
[0084]
实施例3
[0085]
如图4所示，一种无线信号强度预测装置，包括至少一个处理器，以及与所述至少一个处理器通信连接的存储器，以及与所述至少一个处理器通讯连接的至少一个输入输出接口；所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行前述实施例所述的一种基于自注意力机制的无线信号接收强度预测方法。所述输入输出接口可以包括显示器、键盘、鼠标、以及usb接口，用于输入输出数据。
[0086]
本领域技术人员可以理解：实现上述方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成，前述的程序可以存储于计算机可读取存储介质中，该程序在执行时，执行包括上述方法实施例的步骤；而前述的存储介质包括：移动存储设备、只读存储器(read only memory，rom)、磁碟或者光盘等各种可以存储程序代码的介质。
[0087]
当本发明上述集成的单元以软件功能单元的形式实现并作为独立的产品销售或使用时，也可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明实施例的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机、服务器、或者网络设备等)执行本发明各个实施例所述方法的全部或部分。而前述的存储介质包括：移动存储设备、rom、磁碟或者光盘等各种可以存储程序代码的介质。
[0088]
以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明的保护范围之内。

技术特征：
1.一种基于自注意力机制的无线信号接收强度预测方法，其特征在于，包括以下步骤：a：获取待预测位置的已知无线信号的接收强度测量值；b：将所述已知无线信号的接收强度测量值导入预构筑的无线信号强度预测模型；c：输出所述待预测位置中未知无线信号的强度预测值；所述无线信号强度预测模型的构筑包括以下流程：s1：构建待测量区域所有参考位置处的无线信号向量，并对未知接收信号强度的无线信号添加掩码；所述无线信号向量包括测量区域内所有无线信号id以及接收信号强度信息；s2：对所述无线信号向量进行预处理，生成若干输入向量并存入训练数据集；所述预处理包括设置信号强度阈值以及绝对值化处理；s3：构建基于深度学习的无线信号强度预测初步模型；所述无线信号强度预测初步模型包括若干神经网络模块和激活函数；所述神经网络模块包括多头自注意力层和全连接层；s4：通过所述训练数据集对所述无线信号强度预测初步模型进行模型训练，待模型收敛后输出为无线信号强度预测模型。2.根据权利要求1所述的一种基于自注意力机制的无线信号接收强度预测方法，其特征在于，所述参考位置处的信号强度信息记为m维向量，其中，参考位置处未检测到的无线信号对应的信号强度记为掩码mask，m为所述待测量区域内无线信号id的数目。3.根据权利要求2所述的一种基于自注意力机制的无线信号接收强度预测方法，其特征在于，所述s2包括以下步骤：s21：对所述信号强度信息求取绝对值；s22：对求取绝对值后的所述信号强度信息进行阈值处理，并存入训练数据集。4.根据权利要求3所述的一种基于自注意力机制的无线信号接收强度预测方法，其特征在于，所述s22包括以下步骤：s221：根据所述信号强度信息的绝对值设置max阈值；s222：对所述信号强度信息中的每个元素进行判断；若元素的绝对值大于所述max阈值时，将该元素置为0；若元素对应参考位置未检测到无线信号，将该元素置为0；s223：将所述m维输入向量存入训练数据集。5.根据权利要求1所述的一种基于自注意力机制的无线信号接收强度预测方法，其特征在于，所述神经网络模块的数量优选为3，且所述多头自注意力层的头数为3。6.根据权利要求1所述的一种基于自注意力机制的无线信号接收强度预测方法，其特征在于，所述激活函数为relus函数，其表达式为：其中，t为全连接层输出预测值，max为max阈值。7.根据权利要求1所述的一种基于自注意力机制的无线信号接收强度预测方法，其特征在于，所述s4包括以下步骤：
s41：从所述训练数据集中随机选取一个输入向量；s42：对所述训练数据集中输入向量的随机比例元素进行掩码处理，并随机初始化初步模型的模型参数；s43：对所述输入向量中的掩码部分进行预测，输出所述掩码部分对应的预测值；s44：根据所述预测值与真实值计算均方误差损失，并用批量随机梯度下降法反向传播更新初步模型的权重参数；s45：判断所述均方差损失函数是否收敛，若收敛，则输出当前的所述权重参数为所述模型的初始训练参数，否则进入所述s43。8.根据权利要求7所述的一种基于自注意力机制的无线信号接收强度预测方法，其特征在于，所述均方差损失函数的表达式为：其中，loss为均方差损失，x
预
为预测值，x
真
为真实值，n为输入向量中的掩码数量。9.根据权利要求1所述的一种基于自注意力机制的无线信号接收强度预测方法，其特征在于，所述s42中将多头自注意力层中的w
k
，w
q
，w
v
矩阵初始化为1*3，全连接层矩阵w
o
初始化为3*1。10.一种无线信号强度预测装置，其特征在于，包括至少一个处理器，以及与所述至少一个处理器通信连接的存储器；所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-9中任一所述的方法。

技术总结
本发明涉及时空信息智能感知和诊断领域，特别是一种基于自注意力机制的无线信号接收强度预测方法及装置。本发明设计了一种基于自注意力机制的无线信号接收强度预测方法，利用参考位置处已知的无线信号强度，基于深度学习模型预测其余未知信号的强度，在保证测量精度的同时有效降低测量的成本。的同时有效降低测量的成本。的同时有效降低测量的成本。


技术研发人员：刘溪 岑健 伍银波 张先勇 宋海鹰 章玉祉
受保护的技术使用者：广东技术师范大学
技术研发日：2023.06.12
技术公布日：2023/9/14