一种基于生成式时空演化建模的交通流量预测方法

1.本发明涉及一种基于生成式时空演化建模的交通流量预测方法
技术背景
2.交通流量预测(traffic flow prediction)是构建智慧城市的主要支撑技术之一。借助深度学习技术来对交通流的时空特征进行分析，预测未来时段城市交通状况的可能状况在近年来有了长足的进步，能够取得较为精准的预测效能。基于深度学习的交通流量预测方法规避了人为参与所导致的误差，并且通过大型网络内部的子网络结构的相互配合能够充分挖掘多元交通节点之间的关联从而做出预测，因此受到了国内外学者的广泛关注。
3.具体的，给定交通流量数据其中t
his
表示历史交通序列长度，n表示交通侦测节点的个数，f表示每个侦测节点的采样特征数。交通预测问题通常要考虑其中每个节点自身的演化方式以及节点之间的相互作用影响，因此交通预测问题是一个典型的多元时间序列预测问题。式(1)定义了交通预测问题的预测过程:
4.其中xh表示历史信息，表示预测结果，f(
·
)表示预测模型，φ表示额外的附加信息，如天气，车道数，监测点位置信息等。从一般形式上来看，多元时间序列预测问题是一类回归问题，即通过建模来分析变量之间的关系。而生成式的方式采用的模型架构根据当前状态特征信息来模拟城市交通随时间的演化过程，因此预测问题转化为了生成器和判别器之间的博弈，模型的训练过程转化为了式(2):
5.其中d表示判别器，g表示生成器。y为条件标签，x表示历史真实预测时段的全局城市交通状况，z表示生成器g的输入。式(2)的优化目标为最大化判别器的判别能力的同时使生成器的输出不能被判别器鉴伪。这里生成器和判别器分别使用深度神经网络搭建，其参数更新过常采用包括随机梯度下降(stochastic gradient descent，sgd)，冲量法(momentum method)以及adam和adamw等方法进行。此类方法依照前向传播得到的损失值来计算参数的梯度，进而使模型趋于收敛以最大化生成器的建模交通状态演化的能力。


技术实现要素：

6.本发明实施例是提供一种基于生成式时空演化建模的交通流量预测方法，可以更从全局交通演化的角度来精确地对交通流量进行预测，提高智慧交通系统整体效能。
7.本发明解决上述问题的方案如下：一种基于生成式时空演化建模的交通流量预测方法，其特征在于：在交通流量预测模型中，引入了基于格拉姆角场(gramian angular field)的序列转换模块，将历史时段数据从1维特征序列转换为2维特征图。同时，利用节点嵌入(node embedding)机制来构建特征图的空间排布并生成条件式生成对抗网络
(conditional generative adversarial networks)的输入。
8.具体的选取适当长度历史数据序列作为特征序列，执行格拉姆角场转换操作：
9.其中xi表示序列的第i个时间片上的特征值，x
min
和x
max
分别表示选取的时间序列相同特征维度上的最大最小值。x
istd
表示第i个时间片的标准差，x
iscaled
表示缩放后的第i个时间片的特征值，x
scaled
表示缩放后的整个特征序列，x
arcos
表示对x
scaled
中的每个值都进行arcos操作后得到的序列，@表示广播加操作，该操作将长度为t的时间序列转换为了t
×
t的2维数据表征形式，之后对其中的每个值进行cos操作来完成转换操作。
10.同时，使用节点嵌入来调整节点间的空间关联关系，首先根据式(4)来生成节点嵌入矩阵：
11.其中，为节点的嵌入,e为节点嵌入的维度，一般根据如下公式(5)选取。为节点的嵌入,e为节点嵌入的维度，一般根据如下公式(5)选取。为使用节点嵌入生成的节点嵌入矩阵。
12.其中n为交通侦测节点的节点数。
13.之后我们将ae和x
gaf
相乘来将节点的空间信息融入2维特征图内，然后通过一个在时间维度的卷积来将时间特征的通道数降到3来表征特征图的通道，这里采用通道数逐层减半的方式来进行降维。具体操作如下：
14.其中xo表示卷积层最终的输出，x
o-1
表示最后一层卷积的输入。之后通过扩张xo的维度来生成最终包含交通时空关联的矩阵表征形式，如下所示：
15.其中表示维度扩张后的xo，表示x
oe
的转置。两者相乘进行softmax运算来对节点间的作用关系进行加权。最终生成的特征图表征即为
16.与上述处理过程相同，本方法采用相同的步骤来处理预测目标时段的多元时空序列，生成预测目标的特征图
17.易构建一个反向模型通过x
tg
来训练还原预测时段的交通序列表征，因此生成模型的方法转化为了构建生成模型由当前时空图xg来产生x
tg
。表征如下:
x
tg
＝g(xg)
ꢀꢀꢀ
(8)
18.其中g(*)即为我们需要构建的模型中的生成器。
19.模型中的生成器网络是一个多维度卷积网络，首先采用卷积核为n的卷积操作来抓取时空特征图的全局特征，具体如下：
20.其中c为卷积的该全局卷积的输出通道数，为时空图全局特征。之后通过反卷积操作来恢复全局特征尺寸得到
21.同时，根据车辆交通的空间分布特性，我们设置了一个区域卷积来以n/2尺寸的卷积核进行卷积提取交通特征的区域属性，以及一个3
×
3卷积来提取交通的局部属性。两者的具体的操作与resnet网络相同，具体表征图下：
22.其中xr和x
r+1
分别为每层区域卷积构建块的输入和输出，x
l
和x
l+1
分别为每层局部卷积构建块的输入和输出。同时，为抓取更进一步的细粒度时空演化模式，我们使用一个1
×
1卷积来构建本地卷积以此来构建时空特征的本地属性。
23.之后，为进行多元特征的融合，采用反卷积来恢复全局，区域和局部特征卷积的输出特征，使抓取到的时空特征恢复为与本地特征卷积输出相同的维度。之后在时空特征维进行拼接，同时采用1
×
1卷积进行下采样生成融合多元特征。
24.表征聚合多元时空特征矩阵，xg,xr,x
l
以及xs分别表征通过反卷积恢复尺寸的上述的全局，区域，局部以及本地时空特征矩阵。
25.将x
t
作为更下游卷积网络的输入，进一步执行一个以resnet50为骨干网络的卷积神经网络来提取时空特征，生成最终的预测特征图，该特征图的表征形式与x
tg
相同，具体的执行过程如下：
26.即为生成器的生成部分，由于原始的resnet50为分类任务设计，因此我们在其后增添一层预测层和一层输出层来微调模型输出结构从而生成预测目标。
27.模型的判别器用来判别输入其中的时空特征图是否来自于生成器还是真实的未来时段数据。其结构和生成器类似，在模型终末端的resnet50架构的输出部分进行了微调用以生成分别来自于两个的概率。
28.本发明的有益效果是：本发明所述的一种基于生成式时空演化建模的交通流量预测方法，该方法首先将历史交通数据使用格拉姆角场转化为了2维时空特征图的形式，并进一步通过卷积以及节点嵌入来进一步融合交通流的时空特征。之后通过多尺度卷积来分区
块抓取特征图中的时空特征进一步增强了模型的表示能力。我们以相似的模式构建判别器来判断数据来自于生成器还是真实的预测时段数据。由于我们在特征转化阶段将历史数据作为特征融合到了生成器的随机输入以及预测时段的交通特征构建的特征图中，因此问题转化为了由生成器来根据历史特征值和随机噪声共同生成符合预测时段特征的时空特征概率排布。相较于传统预测模型的曲线拟合的方式，生成式方法在能够根据时空特征的概率分布模拟出更为精准的预测时段交通数据。
29.在上述技术方案的基础上，本发明还可作如下改进：
30.方法构建的生成模型从噪声和历史时空数据来预测目标时段交通状态，符合基本的条件生成对抗模型模式，借助于格拉姆角场问题从序列预测任务转化为了从2维时空特征图到2维时空特征图的生成，但由于噪声的不确定性所导致其概率密度分布过于随意从而使得模型没有一个较为良好原始数据作为生成器输入的开始。因此，在生成器输入的过程中对噪声进行约束可以进一步提高生成器对交通状况演化建模的能力。
31.由上所述，我们可以从构建的历史时空图出发，进行一个前向的增加噪声过程来生成模型的噪声输入。给定真实交通状况x0～q(x)，q(x)表示真实交通状况的概率分布。通过前向噪声增加过程来生成噪声序列x1,x2…
,x
t
。其前向过程可抽象为一个马尔可夫过程:
32.其中为每次迭代过程中的高斯分布方差的超参数，i为单位矩阵。使用上述过程生成了包含约束信息的高斯分布噪声从而约束了模型的生成范围。
附图说明：
33.图1为本发明涉及的一种基于生成式时空演化建模的交通流量预测方法中的时空序列向特征图转化流程图。
34.图2为本发明涉及的一种基于生成式时空演化建模的模型生成器架构和整体流程图。
35.图3为本发明中采用的序列转化方法的流程图。
36.图4为本发明涉及的一种基于生成式时空演化建模的训练以及预测流程总图。
具体实施方式
37.以下结合附图并对本发明的原理和特征进行描述，所举实例只用于解释本发明，并非用于限定本发明的范围。
38.图1为本发明涉及的一种基于生成式时空演化建模的交通流量预测方法中的时空序列向特征图转化流程图；图2为本发明涉及的一种基于生成式时空演化建模的模型生成器架构和整体流程图；图3为本发明中采用的序列转化方法的流程图；图4为本发明涉及的一种基于生成式时空演化建模的训练以及预测流程总图。具体的模型执行步骤如下：
39.由用户提供具体的原始交通时空特征数据
40.步骤一：在训练阶段，原始交通序列被规整化为一个时空特征序列矩阵，对多元序列数据进行对齐，然后进行正规化等预处理操作生成多元时空序列特征值矩阵
其中n表示侦测数据的交通节点总数，t表示总时间片数，f表示交通特征维度，即即将该组时空特征作为模型处理的初始多元时空特征序列。
41.步骤二：将获取到的多元时空特征序列进行滑动窗口切分，之后以历史数据和预测时段进行分组。每次训练过程中处于不同分组的一对数据首先被送入格拉姆角场进行从时空序列向二维图像特征矩阵的转换。于此同时，借助随机初始化的节点嵌入生成节点嵌入矩阵来生成每节点特征矩阵ae。将ae和经转置后的序列二维图像特征矩阵进行融合后将其送入1
×
1卷积进行维度变换得到最终的多维时间序列的时空特征图
42.步骤三：将时空特征图送入生成器来生成预测的未来时段的时空特征矩阵生成器网络采用多尺度卷积来进行不同空间特征分布特征提取工作。首先设置全局特征提取过程，该过程采用卷积核为n的卷积操作进行：
43.其中c为卷积的该全局卷积的输出通道数，为时空图全局特征。之后通过反卷积操作来恢复全局特征尺寸得到同时还设置了一个区域卷积来以n/2尺寸的卷积核进行卷积提取交通特征的区域属性，以及一个3
×
3卷积来提取交通的局部属性。具体表征如下：
44.其中xr和x
r+1
分别为每层区域卷积构建块的输入和输出，x
l
和x
l+1
分别为每层局部卷积构建块的输入和输出。同时为了进一步获取细粒度时空演化，我们使用一个1
×
1卷积来构建本地时空特征提取过程。
45.步骤四：将生成器生成的不同感知域的时空特征矩阵通过反卷积操作进行尺寸对齐，然后在特征维度上进行拼接，通过一个1x1卷积进行降维，从而生成最终的时空特征图。这个时空特征图可以被送入一个易于训练的反向生成网络，用来得到最终的交通预测结果。而在训练阶段，我们将该特征图送入判别器，其根据生成的特征矩阵来判别该预测是否由生成器生成。
46.步骤五：生成器网络和判别器网络都在多尺度空间特征提取上执行同样的操作。但是，判别器网络的输出是一个标量，用来预测输入是否为真实的时空特征图。当输入为经过格拉姆角场变换后的预测时空特征图时，判别器的输出应该接近于1。同时，当输入为生成器生成的预测时空特征图时，判别器的输出应该接近于0。
47.步骤六：预测阶段，单独使用生成器网络和一个从特征图向多维时空序列转换的小型转换网络来构建最终的预测输出其中t
p
为预测序列长度，c
p
为预测的特征通道数。
45.以上所述仅为本发明的较佳实施例子，并不用以限制本发明，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明的保护之内。

技术特征：
1.一种基于生成式时空演化建模的交通流量预测方法，其特征在于：在交通流量预测中引入生成模型，在交通流量预测模型中，引入了基于格拉姆角场(gramian angular field)的序列转换模块，将历史时段数据从1维特征序列转换为2维特征图。同时，利用节点嵌入(node embedding)机制来构建特征图的空间排布并生成条件式生成对抗网络(conditional generative adversarial networks)的输入。通过构建生成器和判别器来训练一个能够根据历史交通流量生成预测时段交通流量的生成式预测模型。模型采用多级时空特征提取策略通过不同尺度的卷积来从多个尺度进行时空特征的提取，以增强模型对全局模式的感知。具体的选取适当长度历史数据序列作为特征序列，执行格拉姆角场转换操作：其中x
i
表示序列的第i个时间片上的特征值，x
min
和x
max
分别表示选取的时间序列相同特征维度上的最大最小值。x
istd
表示第i个时间片的标准差，x
iscaled
表示缩放后的第i个时间片的特征值，x
scaled
表示缩放后的整个特征序列，x
arcos
表示对x
scaled
中的每个值都进行arcos操作后得到的序列，@表示广播加操作，该操作将长度为t的时间序列转换为了t
×
t的2维数据表征形式，之后对其中的每个值进行cos操作来完成转换操作。同时，使用节点嵌入来调整节点间的空间关联关系，首先根据式(4)来生成节点嵌入矩阵：其中，为节点的嵌入,e为节点嵌入的维度，一般根据如下公式(5)选取。为节点的嵌入,e为节点嵌入的维度，一般根据如下公式(5)选取。为使用节点嵌入生成的节点嵌入矩阵。其中n为交通侦测节点的节点数。之后我们将a
e
和x
gaf
相乘来将节点的空间信息融入2维特征图内，然后通过一个在时间维度的卷积来将时间特征的通道数降到3来表征特征图的通道，这里采用通道数逐层减半的方式来进行降维。具体操作如下：其中x
o
表示卷积层最终的输出，x
o-1
表示最后一层卷积的输入。之后通过扩张x
o
的维度来生成最终包含交通时空关联的矩阵表征形式，如下所示：其中表示维度扩张后的x
o
，表示x
oe
的转置。两者相乘进行
softmax运算来对节点间的作用关系进行加权。最终生成的特征图表征即为x
g
。与上述处理过程相同，本方法采用相同的步骤来处理预测目标时段的多元时空序列，生成预测目标的特征图易构建一个反向模型通过x
tg
来训练还原预测时段的交通序列表征，因此生成模型的方法转化为了构建生成模型由当前时空图x
g
来产生x
tg
。表征如下:x
tg
＝g(x
g
)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(8)其中g(*)即为我们需要构建的模型中的生成器。2.根据权利要求1所述的一种基于生成式时空演化建模的交通流量预测方法，上述过程描述了模型通过格拉姆角场将多元时空序列转换为时空图的过程，并构建一简易反向网络来还原交通序列表征，将上述过程所得到的结果送入构建的生成器网络来生成预测时段的交通情况。模型中的生成器网络是一个多维度卷积网络，首先采用卷积核为n的卷积操作来抓取时空特征图的全局特征，具体如下：其中c为卷积的该全局卷积的输出通道数，为时空图全局特征。之后通过反卷积操作来恢复全局特征尺寸得到同时，根据车辆交通的空间分布特性，我们设置了一个区域卷积来以n/2尺寸的卷积核进行卷积提取交通特征的区域属性，以及一个3
×
3卷积来提取交通的局部属性。两者的具体的操作与resnet网络相同，具体表征图下：其中x
r
和x
r+1
分别为每层区域卷积构建块的输入和输出，x
l
和x
l+1
分别为每层局部卷积构建块的输入和输出。同时，为抓取更进一步的细粒度时空演化模式，我们使用一个1
×
1卷积来构建本地卷积以此来构建时空特征的本地属性。之后，为进行多元特征的融合，采用反卷积来恢复全局，区域和局部特征卷积的输出特征，使抓取到的时空特征恢复为与本地特征卷积输出相同的维度。之后在时空特征维进行拼接，同时采用1
×
1卷积进行下采样生成融合多元特征。融合多元特征。表征聚合多元时空特征矩阵，x
g
,x
r
,x
l
以及x
s
分别表征通过反卷积恢复尺寸的上述的全局，区域，局部以及本地时空特征矩阵。将x
t
作为更下游卷积网络的输入，进一步执行一个以resnet50为骨干网络的卷积神经网络来提取时空特征，生成最终的预测特征图，该特征图的表征形式与x
tg
相同，具体的执行过程如下：
即为生成器的生成部分，由于原始的resnet50为分类任务设计，因此我们在其后增添一层预测层和一层输出层来微调模型输出结构从而生成预测目标。

技术总结
本发明提出一种基于生成式时空演化建模的交通流量预测方法。该方法采用生成对抗网络来捕获交通节点之间随时间的演化关系，利用格拉姆角场将多节点交通序列转换为二维平面数据，并构建节点嵌入结合排布生成矩阵模拟全域交通网络的关联排布，生成表征某一特定时刻全域交通状况特征图。在预测问题的求解过程中，通过生成对抗网络对交通特征的演化关系进行学习，使用格拉姆角场生成每个交通侦测节点的二维图像表示，得到所有时间序列的特征图。通过节点嵌入和排布生成矩阵生成输入的特征排布，训练生成对抗网络生成预测时段的每个节点的交通序列数据。该方法充分考虑了每个节点上时间序列的独立以及交互演化关系，具有较高的预测准确性。预测准确性。预测准确性。


技术研发人员：白鑫珂 宋云 邓泽林 范文东 罗雨
受保护的技术使用者：长沙理工大学
技术研发日：2023.03.02
技术公布日：2023/6/12