图卷积网络(THOMAS KIPF, 2016)是卷积神经网络和图神经网络的衍生，与传统的深度卷积神经网络(Convolutional Neural Network, CNN)不同，图卷积神经网络(Graph Convolutional Networks, GCN)的计算核心是利用节点间的邻接关系进行邻域特征聚合，现有对于图卷积网络的研究也主要关注利用拓扑图结构设计更合理的邻域聚合策略，以交通流拓扑结构为例，交通流数据在空间和时间上呈现相关性，同时空间拓扑结构与时间连续性吻合图卷积网络的构建机制。如下图1所示为交通流的时空相关性示意图，图中五个节点之间的关系共同构成拓扑结构，根据节点A与其它节点之间的拓扑关系获得空间特征，同时在时间上从 t 1 到 t 2 ， t 1 时刻节点A与 t 2 时刻所有节点在时间上具有关联性， t 1 时刻节点A会对 t 2 时刻所有节点产生不同程度的影响，与此同时 t 2 时刻也存在节点之间的相互影响。

图1. 交通流时空相关性示意

一般的卷积以卷积核为核心，在网格数据上滑动，与此同时卷积核与其上的数据相乘相加后得到输出结果，此外图神经网络中将数据通过图的形式进行记忆存储，与卷积网络中数据的排布方式不同，图神经网络中数据的关联性较强，由于交通流数据具有一定周期性，因而图神经网络的数据存储形式更佳。

图卷积网络分为基于频谱和基于空间的方法，基于频谱方法从图信号的处理中引入放缩步骤，傅里叶变换使时域信号转换为频域信号，经过放缩后的频域信号通过傅里叶逆变换转为时域信号。

其中图卷积神经网络通式如式(1.1)所示：

H ( l + 1 ) = f ( H ( l ) , A ) (1.1)

上式中l是指卷积层的层数，初始的输入为 H 0 = x ，特征矩阵 x ∈ R N × C 其中N是传感器数量即节点数量，C是特征向量的维数即每个节点采集到的特征数，A作为邻接矩阵(Adjacent Matrix)反应节点之间的相关性，通过传感器采集到的数据特征形成多维数据，每一个卷积层的输入都是邻接矩阵与节点的特征值。

如式(1.2)所示为逐层传播规则的形式，其中 W ( l ) 作为权重矩阵， σ ( ⋅ ) 作为非线性激活函数，该模型考虑到邻接节点与节点特征之间的关系，其中 A H ( l ) 相乘等价于该节点与所有的邻接节点的特征相加，l层隐藏层叠加形成邻接节点的特征信息。

f ( H ( l ) , A ) = σ ( A H ( l ) W ( l ) ) (1.2)

考虑到以下几点，首先对于每个节点，所汇总的相邻节点所有特征向量，而不是节点本身，会忽略自身的影响，其次邻接矩阵未经过归一化，与特征矩阵相乘会改变原来分布，产生一些不可预测的问题，例如梯度消失等问题，标准化的目的就是为了消除潜在的风险。因此对于前者在A的基础上加上单位矩阵得到 A ^ = A + λ I ，当 λ 取值为1时，意味着当前节点本身的特征与邻接节点特征具有相同的重要性，此时 A ^ = A + I ；对于后者而言，在式 中引入对称归一化的形式。

f ( H ( l ) , A ) = σ ( D − 1 2 A ^ D − 1 2 H ( l ) W ( l ) ) (1.3)

(1.3)式中 A ^ = A + I ，其中 I 为单位矩阵(Unit Matrix)， D ^ i i = ∑ j A ^ i j ，其中 D ^ 作为 A ^ 的度矩阵(Degree Matrix)。

f ( H ( l ) , A ) = σ ( D ^ − 1 2 ( D − A ) D ^ − 1 2 H ( l ) W ( l ) ) (1.4)

注意力机制是深度学习领域重要概念之一，其灵感来源于人类的生物系统，这些系统在处理大量信息时往往会专注于独特的部分。随着深度神经网络的深入发展，注意力机制已经广泛应用于各类领域。注意力机制作为一种数据资源分配方案，是解决信息过载问题的主要手段之一，同时在计算能力有限的情况下，可以用有限的计算资源处理有价值的信息。

注意力机制广泛使用在如图像标题生成、文本分类、机器翻译、动作识别、语音识别等领域，在图像处理领域，谷歌Deep Mind [ 16 ] 将注意力机制运用到循环神经网络中对图像分类处理，该团队后使用两层的循环神经网络结合注意力机制，这两项工作将注意力机制这一新思路引入该领域；在语音识别领域，Hasio等人 [ 17 ] 将注意力机制融入到深度递归神经网络中，用于发现更有价值的信号；在图像标题生成领域，注意力机制为该领域带来新的变革，Xu等人 [ 18 ] 在解码器加入注意力机制，目的为了让预测的信息更加关注图像中重要的部分，而不是漫无目的关注整个图像信息。

在交通流预测方面，注意力机制更多关注其中时间和空间上更加重要的数据信息，提取交通流数据中的关键信息，从而更好地预测交通状况。考虑到交通路网的拓扑结构以及时空动态关系，本文中使用时间与空间注意力机制用于处理多维交通流数据，精细化关注重要构成数据，以提高计算效率与最终的预测精度。

定义2.1 根据交通拓扑网络进一步刻画节点之间的连通性以及互相影响程度，构建表征时空关系空间图结构，引入时间维度，定义在 t 1 时刻无向图 G t 1 = ( V , E , A ) ，其中 V = { υ 1 , υ 2 , ⋯ , υ N } 为无向图节点集合，N为节点数量， E = { ( v i , v j ) | v i , v j ∈ V } 作为无向边集，用于表明节点之间连通关系， A d ∈ R N × N 作为无向图G的邻接矩阵，d代表节点之间的欧氏距离，如式(2.1)为无向图邻接矩阵的计算公式：

A i , j d = A j , i d { 0 , d i , j = 0 1 d i , j , d i , j ≠ 0 (2.1)

其中通过节点之间距离和连通性共同决定邻接矩阵，0表示节点之间无连通性， 1 / d i , j 表示节点之间的连通性，距离越远则连通性越差，符合实际的交通状况。

定义2.2 节点属性特征矩阵，表示为 X ∈ R N × F × T ，其中T表示过去历史时间长度，F表示交通路况特征的数量， X t ∈ R N × i × t 表示在过去时间t的第i个交通路况特征。

定义2.3 交通流预测的目的是需要通过过去一段时间内的交通状况数据 { X t | t = 0 , 1 , ⋯ , n } ，了解在未来时间 ( n + Δ t ) 内交通状况信息 X t + Δ t ∈ R N × Δ t ，其中n是历史时间序列中最后一次观测到的时间点，而 Δ t 是需要预测的未来时间段。

首先选取输入张量，在本文中选取最近、日、周数据分量 ( x h , x d , x w ) 三部分进行训练，选取方法和选取过程在后续进行详细解释，目的是获得周期性特征信息，经过时空模块，后续经过全连接层处理得到各部分的输出 ( y ^ h , y ^ d , y ^ w ) ，最终将每个部分的输出进行加权融合后得到最终的预测张量 y ^ ，如图2所示为预测模型示意图。

图2. 预测模型示意图

其中时空模块是模型主要组成部分，如图3所示，输入的交通流特征与时间特征应用时间和空间注意力机制，以捕捉节点之间的时空动态特性，处理好得到的时空注意力矩阵被利用到空间与时间关系建模中，以获取时空依赖特性，对于空间依赖，以节点邻接静态关系为先验，结合切比雪夫图卷积实现空间特征变化，另参数化邻接矩阵，实现动态更新效果进一步挖掘路网中的隐含空间关联；之后基于时间空洞卷积对时间依赖建模，提取有效的动态时序变化关系。时空注意力部分与时空模型部分共同构成一个整体，多个块堆积进一步扩大时空相关性提取的范围，经过多次时间和空间特征变化，通过残差块连接，残差块的作用是将浅层提取的特征，通过跨层连接的方式传递给深层,使得深层部分获得浅层信息,起到了特征信息补充的作用以及防止梯度消失问题出现。

图3. 时空模块结构

注意力机制通过模拟人脑注意力的特点，对其中重点的信息给予更多关注，由于交通流的时序关联与空间交错特性，呈现出复杂的非线性，在不同时段和空间具有不同的依赖特性。某一局部路网的交通状态，不仅和自身交通状态变化相关，还会收到其他邻近节点的影响，时序数据也会收到邻近时刻与较远时刻的影响。

为减少卷积层较少的影响，扩大捕捉数据窗口，时序上考虑到较远时刻隐含的高阶时序特征，高阶特征关系所呈现的不仅仅是单节点时序特征，同样反应空间节点之间在时序变化中的动态影响，而空间上存在需要进一步挖掘高阶动态空间特征，以捕捉节点之间的动态时空特性，故依次应用时间和空间注意力机制，以提升模型性能。在时间与空间注意力机制中，第l层注意力计算对用输出结果的计算过程如下。

Q l − 1 = ( X ( l − 1 ) ) T W h Ⅰ (3.1)

K l − 1 = W h Ⅱ X ( l − 1 ) (3.2)

H p = V h ⋅ sigmoid ( b h + Q l − 1 W h Ⅲ K l − 1 ) (3.3)

H ′ i , j = exp ( H i , j p ) ∑ j = 1 T l − 1 exp ( H i , j p ) (3.4)

上式中 X ( l − 1 ) = ( x 1 , x 2 , ⋯ , x T l − 1 ) ∈ R N × F l − 1 × T l − 1 为l层输入特征， Q l − 1 、 K l − 1 分别作为中间向量， V h ∈ R T l − 1 × T l − 1 、 b h ∈ R T l − 1 × T l − 1 、 W h Ⅰ 、 W h Ⅱ 、 W h Ⅲ 为可学习参数， H p 为输入时空数据之间的注意力得分矩阵，经过归一化后得到 H ′ i , j ，表征第i个时空节点与第j个时空节点之间的影响程度，经过归一化的注意力得分矩阵与输入时序数据相乘得到 X ˜ ( l − 1 ) 。

X ˜ ( l − 1 ) = ( x ˜ 1 , x ˜ 2 , x ˜ 3 , ⋯ , x ˜ T l − 1 ) = ( x 1 , x 2 , x 3 , ⋯ , x T l − 1 ) H ′ (3.5)

经过时序注意力机制处理后得到的 X ˜ ( l − 1 ) ，作为空间注意力机制的数据输入，经过时序与空间注意力机制处理得到的矩阵 Θ ，在后续建立良好的时空依赖关系中作为重要的组成部分，丰富时空关联以提升网络模型的整体时空关联性能。

对交通路网中不同位置空间关联状态存在相互影响，包括车流以及平均车速等信息，从空间拓扑结构看来交通特征存在空间相关性，并且随着时序等多重因素的作用呈现复杂的动态变化趋势。而基于频域的图卷积神经网络能够借助图信号处理的方法捕获交通路网的空间依赖关系，提取交通路网中的空间特性。

由于基于频域的图卷积神经网络自身复杂度较高，傅里叶变换的存在让图卷积更为复杂，通常使用切比雪夫多项式以降低其复杂度，在多项式函数逼近邻域时，切比雪夫多项式由于其数值稳定性以及计算高效性作为更加优先的选择。

在图理论中，分析图的拉普拉斯矩阵的特征值以及特征向量来分析研究图的性质，其中图的拉普拉斯

矩阵表示为 L = D − I ，在这里定义 L = I N − D 1 2 Α D − 1 2 ∈ R N × N ，拉普拉斯矩阵在频域被分解为 L = U Λ U T ，

其中 Λ = d i a g ( [ λ 0 , λ 1 , λ 2 , ⋯ , λ N − 1 ] ) ∈ R N × N ，由拉普拉斯矩阵的特征值组成确定，U是对称归一化的拉普拉斯算子。其中k阶切比雪夫多项式可以表示为：

c h a b n e t ( X ) = σ ( ∑ k = 0 k − 1 β k T k ( L ˜ ) X ) (3.6)

T k ( L ˜ ) = 2 L ˜ T k − 1 ( L ˜ ) − T k − 2 ( L ˜ ) (3.7)

L ˜ = 2 L λ max − I N (3.8)

T 0 ( L ˜ ) = I , T 1 ( L ˜ ) = L ˜ (3.9)

切比雪夫图卷积能够通过调整k的值，改变卷积感受野范围，确定有效的空间特征影响范围，以提高模型空间关系挖掘的能力。为了能够动态调节每个节点之间的影响程度，将经过时间与空间注意力矩阵处理得到的矩阵 Θ 与 T k ( L ˜ ) 相乘，通过卷积变换得到 G ^ 。

G ^ = c h a b n e t ( X ) ′ = σ ( ∑ k = 0 k − 1 β k ( T k ( L ˜ ) ⊙ Θ ) X ) (3.10)

通常的邻接矩阵以静态形式作为反映节点间关系的存在，而真实情况下不同节点之间呈现错综复杂的层次关联，随着时间而动态变化，显然静态形式的邻接矩阵不能反映出节点空间真实的动态特性。而受到文献的启发，利用自适应邻接矩阵，以补充交通路网中动态空间依赖，同时对卷积操作所丢失的空间特征信息进行补足。自适应邻接矩阵的构建，使得模型结构更为可靠，其矩阵计算过程如下：

M 1 = tanh ( β E 1 θ 1 ) (3.11)

M 2 = tanh ( β E 2 θ 2 ) (3.12)

A a d p = S o f t M a x ( Re L U ( tanh ( β ( M 1 M 2 T − M 2 M 1 T ) ) ) ) (3.13)

其中， E 1 和 E 2 表示路网中节点表示向量， θ 1 和 θ 2 为节点向量变换的参数， β 为激活函数饱和率参数， M 1 和 M 2 为中间变量矩阵，计算得到结果 A a d p ，结合定义(2.1)中邻接矩阵的定义，与当前节点没有空间关系的节点在邻接矩阵中取值为0，进一步得到处理后的自适应邻接矩阵 A ˜ a d p 。

交通流数据的本质是时间序列数据，时间维度上道路交通状况呈现不同变换特点，时序关系的建立旨在有效提取输入数据的动态时序变化趋势。现主流的处理方法多数为RNN的变体，例如LSTM、GRU等时序关系处理方法，为减少误差积累影响预测性能，在这里采用时序卷积网络结合空洞卷积结构，空洞卷积进一步增加感受野范围，避免网络堆叠影响计算效率，计算方式如下：

x l = r e l u ( G ^ * R + b + ( x l − 1 * T + c ) ) (3.14)

x l * f ( t ) = ∑ s = 0 K t − 1 f ( s ) x l ( t − d f × s ) (3.15)

其中 * 表示标准卷积运算，R、T分别代表不同大小的卷积核， d f 为空洞因数，代表卷积核相邻单元间隔的距离，最后添加二维卷积层作为残差连接。

设计中采用三个时间周期分量融合组成网络模型，分别提取周周期分量、日周期分量、邻近周期分量的交通流数据，经过多个XX块的堆叠进一步提取更大范围的动态时空相关性，后采用全连接层确保三个输出具有与目标相同的维度和形状，使用ReLU作为激活函数。

经过预测后得到的预测值，融合三者进一步实现自适应控制不同的分量占比，如式(3.16)所示，其中 ⊙ 为哈达玛积， W d ∈ R T p × T p ， W h ∈ R T p × T p ， W w ∈ R T p × T p 。

Y ^ = W d ⊙ Y d + W h ⊙ Y h + W w ⊙ Y w (3.16)

设计中采用两个公开数据集作为性能评估，分别是PeMSD4数据集和PeMSD8数据集，这些数据来自Caltrans Performance Measure Sytem，其中原始的数据被聚合成每5分钟的间隔，其中PeMSD4数据集包含307个传感器，时间跨度为2018年1月1日~2018年2月28日，PeMSD4数据集包含170个传感器，时间跨度为2016年7月1日~2016年8月31日。

因此，每条数据包括流量、平均车速、平均占用率三个特征，按照时间顺序将时空数据划分，前80%的数据作为训练集，10%作为测试集，10%作为验证集。其中缺失值通过线性插值的方法填充，将每个特征数据进行零均值化，使得数据集平均值为0，在反向传播时加快网路中每层权重参数的收敛，如式(4.1)所示。

X ′ = X − average ( X ) (4.1)

深度学习模型中超参数的选择，直接影响到模型的学习效率与预测性能。本文使用网格搜索方法选择超参数，即设置多种超参数组合并进行遍历，并选择在验证集中性能最优的一组超参数。本文实验中，批量大小(Batch Size)设置为32，学习率(Learning Rate)设置为0.001，图卷积阶数K设置为3，图卷积和空洞卷积设置为64层，使用Adam优化器对模型参数进行优化。实验部分均在Windows操作系统下，系统配置Inter(R) Core(TM) i9-10900X @ 3.70GHz GPU: NVIDIA GeForce RTX 3090，在Pycharm集成开发环境下编译，基于Pytorch框架和Python3.9实现模型的预测。

实验中设置多组对比基线模型，其中包括：

1) HA (历史平均值模型)，基于时间周期性对时间序列建模，预测值为计算历史周期中的相同时序位置数据均值。

2) ARIMA (自回归移动平均模型)，非平稳时间序列经过差分处理后显示出同质性，利用移动平均和回归方法实现预测。

3) SVR (支持向量机回归)，通过核函数降低非线性数据维度，其中核函数直接影响到模型的性能。

4) LSTM (长短期记忆力网络)：一种循环神经网络模型的变种。

5) STGCN：时空图卷积网络，利用图卷积与纯卷积结构加以预测。

6) ASTGNN：注意力机制与动态图卷积相结合，捕捉空间异质性与周期性。

7) DCRNN：扩散图卷积神经网路，引入编码器–解码器结构，通过循环神经网络捕捉时间依赖。

8) Graph WaveNet：自适应依赖矩阵与卷积模块分别捕捉隐藏空间依赖与时间相关性。

为了能够评价模型的性能，采用以下三种度量函数作为评测模型性能的依据。

平均绝对误差(Mean Absolute Error, MAE)

MAE = 1 n ∑ i = 1 n | y ^ i − y i | (4.2)

均方根误差(Root Mean Square Error, RMSE)

RMSE = 1 n ∑ i = 1 n ( y ^ i − y i ) 2 (4.3)

平均绝对百分比误差(Mean Absolute Percentage Error, MAPE)

MAPE = 1 n ∑ i = 1 n | y ^ i − y i y i | (4.4)

其中 y ^ i 、 y i 分别为预测值与观测值，n作为表示样本数量。