(19) 交通预测---基于时空注意力机制的图卷积神经网络

作者：Cpp五条 | 2024-03-31 00:08:14

踩

时空注意力

交通预见未来(19): 交通预测---基于时空注意力机制的图卷积神经网络

1、文章信息

《Attention Based Spatial-Temporal Graph Convolutional Networks for Traffc Flow Forecasting》。

北京交通大学博士生校友2019年初发在AAAI顶会上的一篇文章。

2、摘要

针对交通流预测问题，提出了一种基于注意力机制的时空图卷积网络(ASTGCN)模型。ASTGCN主要由三个独立部分组成，分别对交通流的三个时间特性进行建模，即邻近、每日和每周的依赖关系。其中每个独立部分又包含两部分:1)时空注意力机制，有效地捕捉交通数据中的动态时空关联; 2)时空卷积，即同时使用图卷积来捕捉空间模式和常用的标准卷积来描述时间特征。对三个分量的输出进行加权融合，生成最终预测结果。文章应用到加州PeMS的两个数据集上，实验表明所提出的ASTGCN模型性能优于较先进的基准模型。

3、简介

本文提出了一种基于注意力机制的时空图卷积网络(ASTGCN)用于预测交通网络中每个探测器的交通流量。该模型主要贡献总结如下：

（1）提出了一种时空注意机制来研究动态时空相关性。利用空间注意力机制捕捉不同位置之间的动态空间相关性，利用时间注意力机制捕捉不同时间之间的动态时间相关性。

（2）设计了一种时空卷积模块，用于时空相关性建模。它包括从原始的基于图的交通网络结构中获取空间特征的图卷积，以及描述邻近时间依赖关系的标准时间维卷积。

4、主体内容

4.1问题描述和定义

将交通网络定义为无向图G = (V, E, A)，如图2(a)所示，其中V为|V | = N个节点的集合;E是一组边，表示节点之间的连通性;A∈R（N×N）表示图G的邻接矩阵。每个节点检测到F个观测值（速度、流量、时间占有率），代表着该节点的 F个特征，如图2(b)实线所示。本文即利用全网过去T个时间节点的数据（速度、流量和时间占有率）预测未来P个时间点的交通流量，即输入为X∈R（N*F*T）, 输出为Y∈R（N*P），其中N为观测站数据，F=3为每个节点的三个特征，T为输入的T个时间步，P为输出的时间步。

4.2模型框架

框架主要包含3个部分，本别提取邻近、日、周依赖特征。recent部分包含邻近的T个时段，daily-period 部分包含前一天或多天与预测时段相同的多个时间序列，weekly-period部分前一周或多周与预测时段相同的多个时间序列。该三部分具有相同的网络结构，每部分由多个时空块和一个全连接层组成。在每个时空块中都有时空注意力模块和时空卷积模块。为了优化训练效率，文章采用了残差连接。最后，利用一个参数矩阵对三个分量加权合并，得到最终预测结果。下面对时空注意力模块和时空卷积模块进行详细介绍。

4.3 Spatial-Temporal Attention

（1）空间注意力机制

在空间维度上，不同位置的交通状况相互影响，相互影响具有很强的动态性。因此我们使用注意力机制自适应地捕捉空间维度中节点之间的动态关联性。

为方便理解，公式（1）简化为：S=V∙σX∙W1∙W2∙W3∙XT+b

维度关系：X∈R（N*C*T），其中N代表N个观测点，C表示channel也即三个观测值（流量，速度和时间占有率），T代表输入的T个时间步。W1∈R（T），W2∈R（T），W3∈R（C*T）, V∈R（N*N）, b ∈R（N*N）, 最终结果S ∈R（N*N）。公式（2）为softmax函数的表示形式，目的是将注意力矩阵S进行归一化。归一化后的注意力矩阵S’在后面的图卷积中将和邻接矩阵A进行相乘。

（2）时间注意力机制

在时间维度上，不同时间段的交通状况之间存在相关性，不同情况下的相关性也不同。同样，我们使用注意机制来自适应地赋予数据不同的权重。

为方便理解，公式（3）简化为： E=V∙σXT∙U1∙U2∙X∙U3+b

维度关系：X∈R（N*C*T），其中N代表N个观测点，C表示channel也即三个观测值（流量，速度和时间占有率），T代表输入的T个时间步。U1∈R（N），U2∈R（C*N），U3∈R（C）, V∈R（T*T）, b ∈R（T*T）, 最终结果E ∈R（T*T）。公式（4）为softmax函数的表示形式，目的是将注意力矩阵E进行归一化。归一化后的注意力矩阵E’将和输入矩阵X进行相乘得到最终输入。