基于局部-全局时空特征融合的交通流量预测方法及设备
未命名
07-17
阅读:225
评论:0
1.本发明实施例涉及交通流量预测技术领域,尤其涉及一种基于局部-全局时空特征融合的交通流量预测方法及设备。
背景技术:
2.智能交通系统(intelligent traffic system,简称its)对城市交通运输、安全保障、道路管理发挥着重要的作用,its通过对收集的交通大数据进行分析预测,可以非常有效的对城市进行规划和管理。交通预测是its的重要组成部分,通过交通流量大数据预测地区未来交通量,从而使得地方政府和社区能够更好的对交通调度和流动管理,减轻车流与人流的矛盾以保证道路交通安全,同时准确的交通流量预测能够预测出地区交通拥堵路段,也能够为人们的出行带来方便,通过预测做出交通决策是一种更简单、更便宜的较少交通拥堵的方案。交通流量预测方法根据历史交通数据创建预测模型,预测未来5-60分钟的短期交通流量状态,是一种时序预测,但交通流量通常是非线性和不确定性的,且随着交通流量数据的增长,这些模型无法进行有效处理。对于空间建模,图卷积网络(gcn)能聚合图节点周围邻居特征,被用于提取真实交通道路网络的空间特征,然而某个节点的交通关系并不只是受到周围节点的影响,这意味着节点之间的关系是非局部的,且并不是所有的节点都会互相影响。对于时间建模,基于rnn的方法通常使用lstm和gru来拟合时间依赖,尽管在处理时间序列问题上有着良好的效果,但是采用递归神经网络来捕获交通序列信息会由于长循环路径丢失长期依赖性,其在训练期间不能并行化处理数据。因此,开发一种基于局部-全局时空特征融合的交通流量预测方法及设备,可以有效克服上述相关技术中的缺陷,就成为业界亟待解决的技术问题。
技术实现要素:
3.针对现有技术存在的上述问题,本发明实施例提供了一种基于局部-全局时空特征融合的交通流量预测方法及设备。
4.第一方面,本发明的实施例提供了一种基于局部-全局时空特征融合的交通流量预测方法,包括:步骤一:构建数据集,收集高速公路上经过的真实车辆速度信息,构建交通流量数据集;并且根据交通道路网络拓扑图,构建出邻接矩阵;步骤二:构建图注意力网络层,根据网络自己学习的注意力权重提取交通网络拓扑图中不同节点之间的非局部空间依赖特征;步骤三:构建图卷积网络层,提取交通网络拓扑图中每个节点与周围节点聚合的局部空间依赖特征;步骤四:构建门控循环神经网络层,拟合交通流量信息的顺序时长相关性;步骤五:构建transformer网络层,用于并行化处理交通序列信息,并捕获transformer网络层的长期依赖性,对未来交通流量进行预测。
5.在上述方法实施例内容的基础上,本发明实施例中提供的基于局部-全局时空特征融合的交通流量预测方法,步骤一包括:步骤1.1:由传感器收集过往车辆的速度信息,构建交通流特征矩阵其中n为节点数,p为节点属性特征的数量;步骤1.2:将交通道路
网络拓扑构建为一个图g=(v,e,a),其中v为道路节点,e为图节点vi与vj连接的边,为邻接矩阵,a中的每一个元素a
i,j
为0或1,表示节点vi与节点vj是否相邻,邻接矩阵计算包括:其中,i,j=1,
…
,n。
6.在上述方法实施例内容的基础上,本发明实施例中提供的基于局部-全局时空特征融合的交通流量预测方法,步骤二具体为:步骤2.1:将特征向量xi映射到另一个向量为空间,并计算每个节点之间的特征相关性系数:
[0007][0008][0009]
其中,xi为节点vi的特征向量,||为节点属性的连接,为一个权重参数向量,leakyrelu为非线性激活函数,w是特征向量的权重参数映射向量;步骤2.2:使用softmax激活函数做归一化处理,计算每个节点之间的相关权重:
[0010][0011]
步骤2.3:节点之间的相关权重与特征矩阵相乘,得到更新后的特征矩阵,并且使用多头形式在不同子空间中进行拟合:
[0012][0013]
其中,xj为与节点vi计算相关权重的节点的vj特征向量,k为注意力头数量,wk为第k个注意力头中的权重参数系数,σ为sigmoid激活函数;将每个注意力头在不同子空间中的表达连接后融合输出:x"=x'w';其中,w'为权重参数矩阵,且做残差连接:x
″′
=x+x
″
。
[0014]
在上述方法实施例内容的基础上,本发明实施例中提供的基于局部-全局时空特征融合的交通流量预测方法,步骤三具体为:步骤3.1:图的拉普拉斯矩阵:其中in为单位矩阵;求出度矩阵:计算对称归一化拉普拉斯矩阵:步骤3.2:构建一层图卷积神经网络:其中,w0为权重参数矩阵,σ为sigmoid激活函数。
[0015]
在上述方法实施例内容的基础上,本发明实施例中提供的基于局部-全局时空特征融合的交通流量预测方法,步骤四具体为:步骤4.1:构建门控循环神经网络,具体公式包括:
[0016]ut
=σ(vu[f(x
t
,a),h
t-1
]+bu);
[0017]rt
=σ(vr[f(x
t
,a),h
t-1
]+br);
[0018]ct
=tanh(vc[f(x
t
,a),(r
t
*h
t-1
)]+bc);
[0019]ht
=u
t
*h
t-1
+(1-u
t
)*c
t
;
[0020]
其中,u
t
为t时刻的跟新门状态,r
t
为t时刻的重置门状态,c
t
为t时刻的候选隐藏层状态,vu,vr,vc为权重参数矩阵,bu,br,bc为偏差系数,[]为矩阵连接,h
t-1
为t-1时刻的输出,tanh为激活函数,σ为sigmoid激活函数。
[0021]
在上述方法实施例内容的基础上,本发明实施例中提供的基于局部-全局时空特征融合的交通流量预测方法,步骤五具体为:步骤5.1:构建transformer层,首先对特征向量的每个位置添加位置编码信息矩阵:其中:
[0022][0023]
其中,h为门控循环神经网络层最终的输出结果,r为特征矩阵的节点位置,d
model
为特征矩阵映射到多头注意力空间中的维度大小,i为节点属性在时序中的位置,sin和cos为三角函数;步骤5.2:映射到多头自注意力层:
[0024][0025][0026]dk
=d
model
/s;
[0027]
其中,w1,wq,wk,wv为权重参数矩阵,s为多头自注意力中的头数量,||为多头之间的连接;dk为每个子空间中的特征维度;正则化残差连接:
[0028][0029]
其中,layernrom为层特征归一化函数;
[0030]
步骤5.3:传入前馈网络层后再次正则化残差链接,输入全连接预测层得到最终预测结果:
[0031]
ffn(h
l
)=w2relu(w1h
l
+b1)+b2;
[0032][0033]
x
l
=w3h
l
+b3;
[0034]
其中,w1,w2,w3为参数权重矩阵,b1,b2,b3为偏差系数,relu为激活函数。
[0035]
第二方面,本发明的实施例提供了一种基于局部-全局时空特征融合的交通流量预测装置,包括:第一主模块,用于实现步骤一:构建数据集,收集高速公路上经过的真实车辆速度信息,构建交通流量数据集;并且根据交通道路网络拓扑图,构建出邻接矩阵;第二主模块,用于实现步骤二:构建图注意力网络层,根据网络自己学习的注意力权重提取交通网络拓扑图中不同节点之间的非局部空间依赖特征;第三主模块,用于实现步骤三:构建图卷积网络层,提取交通网络拓扑图中每个节点与周围节点聚合的局部空间依赖特征;第四主模块,用于实现步骤四:构建门控循环神经网络层,拟合交通流量信息的顺序时长相关性;步骤五:构建transformer网络层,用于并行化处理交通序列信息,并捕获transformer
网络层的长期依赖性,对未来交通流量进行预测。
[0036]
第三方面,本发明的实施例提供了一种电子设备,包括:
[0037]
至少一个处理器;以及
[0038]
与处理器通信连接的至少一个存储器,其中:
[0039]
存储器存储有可被处理器执行的程序指令,处理器调用程序指令能够执行第一方面的各种实现方式中任一种实现方式所提供的基于局部-全局时空特征融合的交通流量预测方法。
[0040]
第四方面,本发明的实施例提供了一种非暂态计算机可读存储介质,非暂态计算机可读存储介质存储计算机指令,计算机指令使计算机执行第一方面的各种实现方式中任一种实现方式所提供的基于局部-全局时空特征融合的交通流量预测方法。
[0041]
本发明实施例提供的基于局部-全局时空特征融合的交通流量预测方法及设备,在兼顾时序信息顺序相关的同时获取了交通速度预测的全局时间信息,通过融合时间和空间局部与非局部信息提升模型的学习能力,模型具有更高的预测精度。
附图说明
[0042]
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图做一简单的介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
[0043]
图1为本发明实施例提供的基于局部-全局时空特征融合的交通流量预测方法流程图;
[0044]
图2为本发明实施例提供的基于局部-全局时空特征融合的交通流量预测装置结构示意图;
[0045]
图3为本发明实施例提供的电子设备的实体结构示意图。
具体实施方式
[0046]
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。另外,本发明提供的各个实施例或单个实施例中的技术特征可以相互任意结合,以形成可行的技术方案,这种结合不受步骤先后次序和/或结构组成模式的约束,但是必须是以本领域普通技术人员能够实现为基础,当技术方案的结合出现相互矛盾或无法实现时,应当认为这种技术方案的结合不存在,也不在本发明要求的保护范围之内。
[0047]
本发明实施例提供了一种基于局部-全局时空特征融合的交通流量预测方法,参见图1,该方法包括:步骤一:构建数据集,收集高速公路上经过的真实车辆速度信息,构建交通流量数据集;并且根据交通道路网络拓扑图,构建出邻接矩阵;步骤二:构建图注意力网络层,根据网络自己学习的注意力权重提取交通网络拓扑图中不同节点之间的非局部空间依赖特征;步骤三:构建图卷积网络层,提取交通网络拓扑图中每个节点与周围节点聚合
的局部空间依赖特征;步骤四:构建门控循环神经网络层,拟合交通流量信息的顺序时长相关性;步骤五:构建transformer网络层,用于并行化处理交通序列信息,并捕获transformer网络层的长期依赖性,对未来交通流量进行预测。
[0048]
基于上述方法实施例的内容,作为一种可选的实施例,本发明实施例中提供的基于局部-全局时空特征融合的交通流量预测方法,步骤一包括:步骤1.1:由传感器收集过往车辆的速度信息,构建交通流特征矩阵其中n为节点数,p为节点属性特征的数量;步骤1.2:将交通道路网络拓扑构建为一个图g=(v,e,a),其中v为道路节点,e为图节点vi与vj连接的边,为邻接矩阵,a中的每一个元素a
i,j
为0或1,表示节点vi与节点vj是否相邻,邻接矩阵计算包括:其中,i,j=1,
…
,n。
[0049]
基于上述方法实施例的内容,作为一种可选的实施例,本发明实施例中提供的基于局部-全局时空特征融合的交通流量预测方法,步骤二具体为:步骤2.1:将特征向量xi映射到另一个向量为空间,并计算每个节点之间的特征相关性系数:
[0050][0051][0052]
其中,xi为节点vi的特征向量,||为节点属性的连接,为一个权重参数向量,leakyrelu为非线性激活函数,w是特征向量的权重参数映射向量;步骤2.2:使用softmax激活函数做归一化处理,计算每个节点之间的相关权重:
[0053][0054]
步骤2.3:节点之间的相关权重与特征矩阵相乘,得到更新后的特征矩阵,并且使用多头形式在不同子空间中进行拟合:
[0055][0056]
其中,xj为与节点vi计算相关权重的节点的vj特征向量,k为注意力头数量,wk为第k个注意力头中的权重参数系数,σ为sigmoid激活函数;将每个注意力头在不同子空间中的表达连接后融合输出:x"=x'w';其中,w'为权重参数矩阵,且做残差连接:x
″′
=x+x
″
。
[0057]
基于上述方法实施例的内容,作为一种可选的实施例,本发明实施例中提供的基于局部-全局时空特征融合的交通流量预测方法,步骤三具体为:步骤3.1:图的拉普拉斯矩阵:其中in为单位矩阵;求出度矩阵:计算对称归一化拉普拉斯矩阵:步骤3.2:构建一层图卷积神经网络:其中,w0为权重参数矩阵,σ为sigmoid激活函数。
[0058]
基于上述方法实施例的内容,作为一种可选的实施例,本发明实施例中提供的基于局部-全局时空特征融合的交通流量预测方法,步骤四具体为:步骤4.1:构建门控循环神经网络,具体公式包括:
[0059]ut
=σ(vu[f(x
t
,a),h
t-1
]+bu);
[0060]rt
=σ(vr[f(x
t
,a),h
t-1
]+br);
[0061]ct
=tanh(vc[f(x
t
,a),(r
t
*h
t-1
)]+bc);
[0062]ht
=u
t
*h
t-1
+(1-u
t
)*c
t
;
[0063]
其中,u
t
为t时刻的跟新门状态,r
t
为t时刻的重置门状态,c
t
为t时刻的候选隐藏层状态,vu,vr,vc为权重参数矩阵,bu,br,bc为偏差系数,[]为矩阵连接,h
t-1
为t-1时刻的输出,tanh为激活函数,σ为sigmoid激活函数。
[0064]
基于上述方法实施例的内容,作为一种可选的实施例,本发明实施例中提供的基于局部-全局时空特征融合的交通流量预测方法,步骤五具体为:步骤5.1:构建transformer层,首先对特征向量的每个位置添加位置编码信息矩阵:其中:
[0065][0066]
其中,h为门控循环神经网络层最终的输出结果,r为特征矩阵的节点位置,d
model
为特征矩阵映射到多头注意力空间中的维度大小,i为节点属性在时序中的位置,sin和cos为三角函数;步骤5.2:映射到多头自注意力层:
[0067][0068][0069]dk
=d
model
/s;
[0070]
其中,w1,wq,wk,wv为权重参数矩阵,s为多头自注意力中的头数量,||为多头之间的连接,dk为每个子空间中的特征维度;正则化残差连接:
[0071][0072]
其中,layernrom为层特征归一化函数;
[0073]
步骤5.3:传入前馈网络层后再次正则化残差链接,输入全连接预测层得到最终预测结果:
[0074]
ffn(h
l
)=w2relu(w1h
l
+b1)+b2;
[0075][0076]
x
l
=w3h
l
+b3;
[0077]
其中,w1,w2,w3为参数权重矩阵,b1,b2,b3为偏差系数,relu为激活函数。
[0078]
本发明实施例提供的基于局部-全局时空特征融合的交通流量预测方法,在兼顾时序信息顺序相关的同时获取了交通速度预测的全局时间信息,通过融合时间和空间局部
与非局部信息提升模型的学习能力,模型具有更高的预测精度。
[0079]
在另一实施例中,下面通过具体数据实验对本发明方法做介绍:
[0080]
数据集由高速公路上的207个传感器收集2012年3月1日至3月7日的过往车辆的速度信息,构造一个2016
×
207的特征矩阵,其中每个值为经过该传感器的真实车辆速度值,每个传感器的车辆速度每5分钟收集一次;以及一个207
×
207的邻接矩阵。
[0081]
在实验中,输入数据的值被归一化到[0,1],划分前80%作为训练集,其余的20%作为测试集,使用当前时长节点之前60分钟的数据预测之后15分钟的交通流量。
[0082]
模型参数设置:多头层中的映射维度d
model
为16,头数量为4,学习率为0.001,批量大小为32,模型中的隐单元数设置为64,训练批次为3000,使用adam优化器训练模型。
[0083]
为验证本发明方法的有效性,将本发明方法与其他模型进行实验对比,通过评价标准做对比,对比结果包括:
[0084]
表1
[0085]
methodsrmsemaeaccuracyha7.30673.87820.8756arima10.08117.70310.8272svr6.69933.53520.8859gcn7.93505.53100.8649gru5.70623.31000.9029t-gcn5.18053.21440.9118本发明方法3.61052.99950.9382
[0086]
表1中各方法介绍包括:
[0087]
ha:历史平均模型,使用历史时段的平均交通信息作为预测;
[0088]
arima:自回归综合移动平均模型,时序预测领域的经典模型;
[0089]
svr:支持向量回归模型,使用历史数据训练模型,获得输入输出之间的关系进行预测;
[0090]
gcn:图卷积神经网络模型,融合图节点及其一阶领域信息,捕获空间特征后与时序信息结合;
[0091]
gru:门控循环神经网络模型,循环神经网络的变体,时序数据最广泛使用的模型之一;
[0092]
t-gcn:时间图卷积神经网络,集合图卷积神经网络和门控循环神经网络进行交通预测;
[0093]
从表1看出,相较于传统经典模型方法ha和arima,以及机器学习方法svr,深度学习方法在处理复杂且非平稳的交通流量时序数据时具有更高的预测精度;相较于仅依靠单一的时长特征神经网络gru模型和空间特征神经网络gcn模型,能够拟合时空特征的深度学习模型t-gcn具有更高的预测精度;而本发明方法在时长特征和空间特征中均考虑局部与全局信息的提取与拟合,对数据具有更好的拟合学习能力,在对比的所有模型中具有最低的预测误差和最高的预测准确率。
[0094]
与现有技术相比,本发明的优益效果在于:
[0095]
使用图注意力网络和图卷积网络拟合交通网络拓扑图的非局部与局部信息,相较
于现有交通流量预测技术方法中针对空间特征仅单一考虑局部与非局部的情况,融合交通网络拓扑图局部与非局部特征更完整的拟合交通流量数据的空间特征,提升模型对于真实交通道路空间特征的学习能力。
[0096]
使用门控循环神经网络与transformer网络对交通流量时序信息分别进行短期依赖和并行化的长期依赖提取并拟合,相较于单一循环神经网络处理时序信息,在兼顾时序信息顺序相关的获取交通速度预测的全局时长信息,提升模型对于交通流量时序信息的学习能力。
[0097]
将时长和空间两个方面分别拟合的局部与全局交通信息结合,设计的模型可用于建模具有复杂拓扑结构和时长依赖的序列数据,相较于其他时空模型技术方法具有更强的特征融合能力,与其他模型实验对比,具有更低的预测误差和更高的预测准确率。
[0098]
本发明各个实施例的实现基础是通过具有处理器功能的设备进行程序化的处理实现的。因此在工程实际中,可以将本发明各个实施例的技术方案及其功能封装成各种模块。基于这种现实情况,在上述各实施例的基础上,本发明的实施例提供了一种基于局部-全局时空特征融合的交通流量预测装置,该装置用于执行上述方法实施例中的基于局部-全局时空特征融合的交通流量预测方法。参见图2,该装置包括:第一主模块,用于实现步骤一:构建数据集,收集高速公路上经过的真实车辆速度信息,构建交通流量数据集;并且根据交通道路网络拓扑图,构建出邻接矩阵;第二主模块,用于实现步骤二:构建图注意力网络层,根据网络自己学习的注意力权重提取交通网络拓扑图中不同节点之间的非局部空间依赖特征;第三主模块,用于实现步骤三:构建图卷积网络层,提取交通网络拓扑图中每个节点与周围节点聚合的局部空间依赖特征;第四主模块,用于实现步骤四:构建门控循环神经网络层,拟合交通流量信息的顺序时长相关性;第五主模块,用于实现步骤五:构建transformer网络层,用于并行化处理交通序列信息,并捕获transformer网络层的长期依赖性,对未来交通流量进行预测。
[0099]
本发明实施例提供的基于局部-全局时空特征融合的交通流量预测装置,采用图2中的若干模块,在兼顾时序信息顺序相关的同时获取了交通速度预测的全局时间信息,通过融合时间和空间局部与非局部信息提升模型的学习能力,模型具有更高的预测精度。
[0100]
需要说明的是,本发明提供的装置实施例中的装置,除了可以用于实现上述方法实施例中的方法外,还可以用于实现本发明提供的其他方法实施例中的方法,区别仅仅在于设置相应的功能模块,其原理与本发明提供的上述装置实施例的原理基本相同,只要本领域技术人员在上述装置实施例的基础上,参考其他方法实施例中的具体技术方案,通过组合技术特征获得相应的技术手段,以及由这些技术手段构成的技术方案,在保证技术方案具备实用性的前提下,就可以对上述装置实施例中的装置进行改进,从而得到相应的装置类实施例,用于实现其他方法类实施例中的方法。例如:
[0101]
基于上述装置实施例的内容,作为一种可选的实施例,本发明实施例中提供的基于局部-全局时空特征融合的交通流量预测装置,还包括:第一子模块,用于实现步骤一包括:步骤1.1:由传感器收集过往车辆的速度信息,构建交通流特征矩阵其中n为节点数,p为节点属性特征的数量;步骤1.2:将交通道路网络拓扑构建为一个图g=(v,e,a),其中v为道路节点,e为图节点vi与vj连接的边,为邻接矩阵,a中的每一个元素a
i,j
为
0或1,表示节点vi与节点vj是否相邻,邻接矩阵计算包括:其中,i,j=1,
…
,n。
[0102]
基于上述装置实施例的内容,作为一种可选的实施例,本发明实施例中提供的基于局部-全局时空特征融合的交通流量预测装置,还包括:第二子模块,用于实现步骤二具体为:步骤2.1:将特征向量xi映射到另一个向量为空间,并计算每个节点之间的特征相关性系数:
[0103][0104][0105]
其中,xi为节点vi的特征向量,||为节点属性的连接,为一个权重参数向量,leakyrelu为非线性激活函数,w是特征向量的权重参数映射向量;步骤2.2:使用softmax激活函数做归一化处理,计算每个节点之间的相关权重:
[0106][0107]
步骤2.3:节点之间的相关权重与特征矩阵相乘,得到更新后的特征矩阵,并且使用多头形式在不同子空间中进行拟合:
[0108][0109]
其中,xj为与节点vi计算相关权重的节点的vj特征向量,k为注意力头数量,wk为第k个注意力头中的权重参数系数,σ为sigmoid激活函数;将每个注意力头在不同子空间中的表达连接后融合输出:x"=x'w';其中,w'为权重参数矩阵,且做残差连接:x
″′
=x+x
″
。
[0110]
基于上述装置实施例的内容,作为一种可选的实施例,本发明实施例中提供的基于局部-全局时空特征融合的交通流量预测装置,还包括:第三子模块,用于实现步骤三具体为:步骤3.1:图的拉普拉斯矩阵:其中in为单位矩阵;求出度矩阵:计算对称归一化拉普拉斯矩阵:步骤3.2:构建一层图卷积神经网络:其中,w0为权重参数矩阵,σ为sigmoid激活函数。
[0111]
基于上述装置实施例的内容,作为一种可选的实施例,本发明实施例中提供的基于局部-全局时空特征融合的交通流量预测装置,还包括:第四子模块,用于实现步骤四具体为:步骤4.1:构建门控循环神经网络,具体公式包括:
[0112]ut
=σ(vu[f(x
t
,a),h
t-1
]+bu);
[0113]rt
=σ(vr[f(x
t
,a),h
t-1
]+br);
[0114]ct
=tanh(vc[f(x
t
,a),(r
t
*h
t-1
)]+bc);
[0115]ht
=u
t
*h
t-1
+(1-u
t
)*c
t
;
[0116]
其中,u
t
为t时刻的跟新门状态,r
t
为t时刻的重置门状态,c
t
为t时刻的候选隐藏层状态,vu,vr,vc为权重参数矩阵,bu,br,bc为偏差系数,[]为矩阵连接,h
t-1
为t-1时刻的输出,tanh为激活函数,σ为sigmoid激活函数。
[0117]
基于上述装置实施例的内容,作为一种可选的实施例,本发明实施例中提供的基于局部-全局时空特征融合的交通流量预测装置,还包括:第五子模块,用于实现步骤五具体为:步骤5.1:构建transformer层,首先对特征向量的每个位置添加位置编码信息矩阵:其中:
[0118][0119]
其中,h为门控循环神经网络层最终的输出结果,r为特征矩阵的节点位置,d
model
为特征矩阵映射到多头注意力空间中的维度大小,i为节点属性在时序中的位置,sin和cos为三角函数;步骤5.2:映射到多头自注意力层:
[0120][0121][0122]dk
=d
model
/s;
[0123]
其中,w1,wq,wk,wv为权重参数矩阵,s为多头自注意力中的头数量,||为多头之间的连接,dk为每个子空间中的特征维度;正则化残差连接:
[0124][0125]
其中,layernrom为层特征归一化函数;
[0126]
步骤5.3:传入前馈网络层后再次正则化残差链接,输入全连接预测层得到最终预测结果:
[0127]
ffn(h
l
)=w2relu(w1h
l
+b1)+b2;
[0128][0129]
x
l
=w3h
l
+b3;
[0130]
其中,w1,w2,w3为参数权重矩阵,b1,b2,b3为偏差系数,relu为激活函数。
[0131]
本发明实施例的方法是依托电子设备实现的,因此对相关的电子设备有必要做一下介绍。基于此目的,本发明的实施例提供了一种电子设备,如图3所示,该电子设备包括:至少一个处理器(processor)、通信接口(communications interface)、至少一个存储器(memory)和通信总线,其中,至少一个处理器,通信接口,至少一个存储器通过通信总线完成相互间的通信。至少一个处理器可以调用至少一个存储器中的逻辑指令,以执行前述各个方法实施例提供的方法的全部或部分步骤。
[0132]
此外,上述的至少一个存储器中的逻辑指令可以通过软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个方法实施例所述方法的全部或部分步骤。而前述的存储介质包括:u盘、移动硬盘、只读存储器(rom,read-only memory)、随机存取存储器(ram,random access memory)、磁碟或者光盘等各种可以存储程序代码的介质。
[0133]
以上所描述的装置实施例仅仅是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下,即可以理解并实施。
[0134]
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件实现。基于这样的理解,上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在计算机可读存储介质中,如rom/ram、磁碟、光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行各个实施例或者实施例的一些部分所述的方法。
[0135]
附图中的流程图和框图显示了根据本发明的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。基于这种认识,流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分,所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现方式中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
[0136]
需要说明的是,术语"包括"、"包含"或者其任何其它变体意在涵盖非排它性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其它要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句"包括
……
"限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
[0137]
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
技术特征:
1.一种基于局部-全局时空特征融合的交通流量预测方法,其特征在于,包括:步骤一:构建数据集,收集高速公路上经过的真实车辆速度信息,构建交通流量数据集;并且根据交通道路网络拓扑图,构建出邻接矩阵;步骤二:构建图注意力网络层,根据网络自己学习的注意力权重提取交通网络拓扑图中不同节点之间的非局部空间依赖特征;步骤三:构建图卷积网络层,提取交通网络拓扑图中每个节点与周围节点聚合的局部空间依赖特征;步骤四:构建门控循环神经网络层,拟合交通流量信息的顺序时长相关性;步骤五:构建transformer网络层,用于并行化处理交通序列信息,并捕获transformer网络层的长期依赖性,对未来交通流量进行预测。2.根据权利要求1所述的基于局部-全局时空特征融合的交通流量预测方法,其特征在于,步骤一包括:步骤1.1:由传感器收集过往车辆的速度信息,构建交通流特征矩阵其中n为节点数,p为节点属性特征的数量;步骤1.2:将交通道路网络拓扑构建为一个图g=(v,e,a),其中v为道路节点,e为图节点v
i
与v
j
连接的边,为邻接矩阵,a中的每一个元素a
i,j
为0或1,表示节点v
i
与节点v
j
是否相邻,邻接矩阵计算包括:其中,i,j=1,
…
,n。3.根据权利要求2所述的基于局部-全局时空特征融合的交通流量预测方法,其特征在于,步骤二具体为:步骤2.1:将特征向量x
i
映射到另一个向量为空间,并计算每个节点之间的特征相关性系数:的特征相关性系数:其中,x
i
为节点v
i
的特征向量,||为节点属性的连接,为一个权重参数向量,leakyrelu为非线性激活函数,w是特征向量的权重参数映射向量;步骤2.2:使用softmax激活函数做归一化处理,计算每个节点之间的相关权重:步骤2.3:节点之间的相关权重与特征矩阵相乘,得到更新后的特征矩阵,并且使用多头形式在不同子空间中进行拟合:其中,x
j
为与节点v
i
计算相关权重的节点的v
j
特征向量,k为注意力头数量,w
k
为第k个注意力头中的权重参数系数,σ为sigmoid激活函数;将每个注意力头在不同子空间中的表达连接后融合输出:x"=x'w';其中,w'为权重参数矩阵,且做残差连接:x
″
=x+x
″
。4.根据权利要求3所述的基于局部-全局时空特征融合的交通流量预测方法,其特征在
于,步骤三具体为:步骤3.1:图的拉普拉斯矩阵:其中i
n
为单位矩阵;求出度矩阵:计算对称归一化拉普拉斯矩阵:步骤3.2:构建一层图卷积神经网络:其中,w0为权重参数矩阵,σ为sigmoid激活函数。5.根据权利要求4所述的基于局部-全局时空特征融合的交通流量预测方法,其特征在于,步骤四具体为:步骤4.1:构建门控循环神经网络,具体公式包括:u
t
=σ(v
u
[f(x
t
,a),h
t-1
]+b
u
);r
t
=σ(v
r
[f(x
t
,a),h
t-1
]+b
r
);c
t
=tanh(v
c
[f(x
t
,a),(r
t
*h
t-1
)]+b
c
);h
t
=u
t
*h
t-1
+(1-u
t
)*c
t
;其中,u
t
为t时刻的跟新门状态,r
t
为t时刻的重置门状态,c
t
为t时刻的候选隐藏层状态,v
u
,v
r
,v
c
为权重参数矩阵,b
u
,b
r
,b
c
为偏差系数,[]为矩阵连接,h
t-1
为t-1时刻的输出,tanh为激活函数,σ为sigmoid激活函数。6.根据权利要求5所述的基于局部-全局时空特征融合的交通流量预测方法,其特征在于,步骤五具体为:步骤5.1:构建transformer层,首先对特征向量的每个位置添加位置编码信息矩阵:其中:其中,h为门控循环神经网络层最终的输出结果,r为特征矩阵的节点位置,d
model
为特征矩阵映射到多头注意力空间中的维度大小,i为节点属性在时序中的位置,sin和cos为三角函数;步骤5.2:映射到多头自注意力层:函数;步骤5.2:映射到多头自注意力层:d
k
=d
model
/s;其中,w1,w
q
,w
k
,wv为权重参数矩阵,s为多头自注意力中的头数量,||为多头之间的连接,d
k
为每个子空间中的特征维度;正则化残差连接:其中,layernrom为层特征归一化函数;步骤5.3:传入前馈网络层后再次正则化残差链接,输入全连接预测层得到最终预测结果:ffn(h
l
)=w2relu(w1h
l
+b1)+b2;x
l
=w3h
l
+b3;
其中,w1,w2,w3为参数权重矩阵,b1,b2,b3为偏差系数,relu为激活函数。7.一种基于局部-全局时空特征融合的交通流量预测装置,其特征在于,包括:第一主模块,用于实现步骤一:构建数据集,收集高速公路上经过的真实车辆速度信息,构建交通流量数据集;并且根据交通道路网络拓扑图,构建出邻接矩阵;第二主模块,用于实现步骤二:构建图注意力网络层,根据网络自己学习的注意力权重提取交通网络拓扑图中不同节点之间的非局部空间依赖特征;第三主模块,用于实现步骤三:构建图卷积网络层,提取交通网络拓扑图中每个节点与周围节点聚合的局部空间依赖特征;第四主模块,用于实现步骤四:构建门控循环神经网络层,拟合交通流量信息的顺序时长相关性;步骤五:构建transformer网络层,用于并行化处理交通序列信息,并捕获transformer网络层的长期依赖性,对未来交通流量进行预测。8.一种电子设备,其特征在于,包括:至少一个处理器、至少一个存储器和通信接口;其中,所述处理器、存储器和通信接口相互间进行通信;所述存储器存储有可被所述处理器执行的程序指令,所述处理器调用所述程序指令,以执行权利要求1至6任一项权利要求所述的方法。9.一种非暂态计算机可读存储介质,其特征在于,所述非暂态计算机可读存储介质存储计算机指令,所述计算机指令使所述计算机执行权利要求1至6中任一项权利要求所述的方法。
技术总结
本发明提供了一种基于局部-全局时空特征融合的交通流量预测方法及设备,所述方法包括:步骤一至步骤五。本发明在兼顾时序信息顺序相关的同时获取了交通速度预测的全局时间信息,通过融合时间和空间局部与非局部信息提升模型的学习能力,模型具有更高的预测精度。模型具有更高的预测精度。模型具有更高的预测精度。
技术研发人员:宗欣露 陈祯 王春枝 叶志伟 刘伟 陈宏伟
受保护的技术使用者:湖北工业大学
技术研发日:2022.11.22
技术公布日:2023/6/27
版权声明
本文仅代表作者观点,不代表航空之家立场。
本文系作者授权航家号发表,未经原创作者书面授权,任何单位或个人不得引用、复制、转载、摘编、链接或以其他任何方式复制发表。任何单位或个人在获得书面授权使用航空之家内容时,须注明作者及来源 “航空之家”。如非法使用航空之家的部分或全部内容的,航空之家将依法追究其法律责任。(航空之家官方QQ:2926969996)
飞行汽车 https://www.autovtol.com/
