因果卷积的思想被应用于追溯更久远的历史信息，因果卷积的公式如(3)所示。 { x 1 , x 2 , ⋯ , x t } 是输入序列， { y 1 , y 2 , ⋯ , y t } 是隐含层输出序列， { f 1 , f 2 , ⋯ , f k } 代表滤波器。因果卷积只关注历史信息而忽略未来的信息， y t 的结果只会由 x t 之前的数据得出。并且K越大，能够追溯的历史信息越多，如果当前层原始输入序列为[0, i]，则下一层的原始输入序列就会变成[0, i + 1]。

y t = ∑ i = 1 K f i ⋅ x t − K + i (3)

在深度网络中，为了增加感受野且降低计算量，模型总要进行降采样，这样虽然可以增加感受野，但空间分辨率降低了。为了能不丢失分辨率，且仍然扩大感受野，可以使用空洞卷积。空洞卷积的公式如(4)所示。

y t = ∑ i = 0 K − 1 f i ⋅ x t − i ⋅ d (4)

d代表空洞因子，它会根据网络的深度按照2的指数函数进行凸函数变化，增大d或者K都可以增加感受野的范围。然而，在深度网络中，感受野会随着网络层的加深使得远距离卷积得到的信息之间没有相关性，从而造成局部信息的丢失。所以，我们将空洞因子按照2的指数函数进行变化。这种设计模式保证了在深度网络中，感受野的范围受到了一定程度的限制，降低了局部信息的损失。在深层次的特征计算过程中，密集的神经元信息传递也使得模型精度更高。

为了降低训练过程的复杂度，残差结构被用于代替传统递归神经网络中的门控结构，如图3所示。残差结构主要包括两层卷积网络和非线性映射过程。Weight norm层通过参数重写的方法实现数据归一化。Weight norm层常用于加速模型收敛。对权重进行归一化可以保证在梯度回转的时候抑制梯度范围，最终实现梯度的自稳定。

图3. 多层残差结构

我们使用了中国成都市的空车转移率数据。数据集的时间范围是一天内的0时到23时，时间类型是0到23的整数，单位是小时。滴滴出行盖亚计划提供的数据集是基于滴滴出行平台的海量轨迹数据和订单数据，经过拟合、交叉验证和加权得到的。它可以科学、客观地反映交通流的方向和人们在某一时刻的出行规律，进而反映城市的各种区域性质。改变数据集中空车转移率的趋势，可以反映特定时间点的交通流量和人们出行的主要方向。因此，空车转移率可以间接地反映多方面的功能。此外，每个六边形中轨迹点的收集间隔约为3秒。这个采样间隔确保六边形没有特别短的边，从而确保我们对六边形的面积进行近似替代。我们在数据集中使用两个文件。第一个文件共包括8519个数据，每条数据均包括一个区域的代码和六边形六个点的经纬度坐标。第二个文件总共包括约104万条数据，每条数据包含一个时间点、两个区域代码和此时空车转移率的值。基于以上数据，我们进行了两种分类工作。首先，我们将数据分成两类(居住用地和商业用地)以进行二分类工作。其次，我们将数据分为四类(居住用地、商业用地、公共服务用地和科教园区)以进行四分类工作。

由于计算不规则的六边形的精确面积需要大量的计算过程，我们考虑使用最长对角线和最短对角线乘积的一半来近似代替六边形的面积(经纬度坐标已由Z-score函数标准化)。我们进行了对比实验(实验结果如表1所示)，实验结果表明，使用近似标准化面积的平均精度比使用精确面积的平均精度高了约3.3%。

表1. 当我们使用近似标准化面积和精确面积时，AttSTFN预测出发地和目的地的平均准确率情况

我们建立了六种不同的基线来验证模型的性能。包括传统的递归神经网络、一些典型的时空模型，以及Encoder-Decoder。在两种分类任务中，我们分别使用二分类工作的数据集和四分类工作的数据集来训练和评估每个模型。实验结果是这些结果的均值。在实验使用的六种基线如下：

· LSTM [ 9 ]：它通过门控机制来控制数据的传输状态。相比普通RNN只机械式地对一种记忆进行叠加，LSTM的原则是保留需要长时间记忆的，忘记不重要的信息。

· AttLSTM：在基础LSTM模型的基础上，增加了本文所述的空间注意力池化机制，分别突出出发地和目的地的空间特征。

· GRU [ 10 ]：它的输入输出结构与普通的RNN相似，并且它的处理逻辑与LSTM相似。与LSTM相比，GRU内部少了一个“门控”，参数比LSTM少，但是却能达到与LSTM相似的功能和精度。考虑到硬件的计算能力和时间成本，GRU是更多从事深度学习研究人员的选择。

· AttGRU：在基础GRU模型的基础上，增加了本文所述的空间注意力池化机制，分别突出出发地和目的地的空间特征。

· TCN [ 11 ]：它直接利用卷积强大的特性，跨时间步提取特征。TCN使用因果卷积计算长期的历史信息，并使用空洞卷积来扩大卷积过程的感受野。它克服了传统的递归神经网络不支持并行计算和训练速度缓慢的现象。此外，TCN在每一层的卷积核是共享的，内存开销更低。

· Encoder-Decoder：Encoder-Decoder是一个应用于“序列到序列”问题的模型，这意味着模型可以根据输入序列生成另一个输出序列。由于这种结构的灵活性，我们可以选择不同的编码网络和解码网络(比如RNN和RNN、RNN和LSTM、RNN和GRU等)进行训练和验证，然后我们将最有效模型的指标作为Encoder-Decoder的模型指标。Encoder-Decoder的最大限制是编码器需要将整个序列压缩成一个固定长度的向量。这样存在两个缺点：一方面，语义向量不能完全表示整个序列的信息；另一方面，第一个输入所携带的信息将被后面的输入稀释或覆盖。

准确率是用来评价分类模型的指标。该公式可以描述为我们的模型预测的样本的比例，正确地划分了参与预测的所有样本，如公式(6)所示。其中，TP表示真实情况，表示真实情况和预测情况均为阳性；FP表示假阳性情况，表示真实情况为阴性，而预测情况为阳性；FN表示假阴性情况，表示真实情况为阳性，但预测情况为阴性；TN表示真实情况和预测情况均为阴性。该公式不仅仅局限于二分类问题。当我们选择一个类别作为正例，而其他类别是反例时，该公式也适用于多分类问题。

A c c u r a c y = T P + T N T P + T N + F P + F N (6)

两个分类任务中所有模型的评价结果如表2所示。基于这些结果，我们根据我们所做的两个分类任务逐一给出了详细的解释。我们在V100GPU上训练2000轮，训练集与评估集的比率为6:1。首先，我们谈谈二分类工作。Encoder-Decoder是将输入序列转换为固定长度向量，然后将当前生成的固定长度向量转换为输出序列的模型。这将有一个明显的缺点，首先输入的空车的时间特征、空间特征和传输速率信息将被后面输入的内容覆盖。如果序列更长，这个问题将更加严重。当然，解码的精度自然会变低。我们尝试了各种编码器网络和解码器模型的组合，并确定出了编码器–解码器模型在该实验中的最佳的匹配策略(编码器为RNN，解码器为LSTM)。然而，在表中列出的模型中，这种精度仍然是最差的；GRU和LSTM都是递归神经网络，它们可以记住长期的事情，因此每个时间点的空间特征将被发送到模型进行训练，并且由于各种类型的数据分布均匀，效果相对较好；空间注意力池化机制的引入使模型能够集中在出发地或目的地的空间特征上并准确地预测其中一种用地的性质。这是因为预测出发地点和目的地的性质包括两个单独的过程。因此，由LSTM结构和空间注意力池化机制组成的AttLSTM的预测效果略优于LSTM；AttGRU由GRU和注意池机制组成。由于使用的参数比一些复杂的模型少，AGRU不仅降低了过度拟合的风险，而且在一定程度上提高了训练效率。当然，“模型的参数越少，收敛速度就越快”这句话不是绝对的；AttSTFN中的时序卷积层使用因果卷积计算长期的历史信息，并使用空洞卷积来扩大卷积过程的感受野。它克服了传统的递归神经网络不支持并行计算和训练速度缓慢的现象。因此，使用AttSTFN的效果均好于使用AttGRU和AttLSTM的效果。此外，我们还发现，随着我们分类工作中类别的增加，准确率呈下降趋势。至于原因，我们总结为两个方面。一方面，随着类别的增加，分类工作变得更加复杂。另一方面，四分类工作的数据集不如二分类工作的数据集多。然而，AttSTFN在四分类工作中仍分别达到了90%和80%以上的精度。

表2. 准确率情况表

ROC曲线是由水平轴上的假阳性概率(FPR)和垂直轴上的真阳性概率(TPR)组成的图。此外，它是基于受试者在特定刺激条件下由于不同的判断标准而获得的不同结果。曲线下面积(AUC)表示ROC曲线下的面积，主要用于测量模型的泛化性能，泛化性能表示分类效果是否良好。如果模型表现良好，AUC的值就会很大。公式(7)和(8)分别表示FPR和TPR。

F P R = F P F P + T N (7)

T P R = T P T P + F N (8)

从图5中我们可以看到，在两种不同的分类工作中，不同模型的性能差距基本上随着类别的增加而逐渐扩大，因为分类工作的复杂性可以间接地反映每个模型的分类能力和利弊。分类工作越复杂，各模型的性能差距越大。首先，在二分类工作中，我们认为LSTM、GRU、AttLSTM、AttGRU和TCN对出发地和目的地的性质具有相似的预测能力，因为这些模型的预测结果之间只有轻微的差距。AttSTFN比这些模型略好，但Encoder-Decoder具有最差的预测能力和最小的AUC值。其次，在四分类工作中，各模型所代表的曲线之间的面积差距大于二分类工作，这一现象表明AttSTFN的优势更加突出。

图5. 同类别情况下不同模型的ROC曲线。其中，(a)和(b)分别是二分类工作中不同模型对出发地和目的地的预测情况；(c)和(d)分别是四分类工作中不同模型对出发地和目的地的预测情况；“BASE”表示随机分类器的曲线；“ED”表示Encoder-Decoder。如果ROC曲线低于对角线，则意味着分类器的效果比随机分类器差。相反，效果优于随机分类器

AttSTFN之所以具有强大而稳定的性能，是因为AttSTFN是一个具有空间注意力池化机制的时空模型。空间特征提取模块可以有效地提取各个区域的空间特征；时序卷积层可以处理长期的时间信息；空间注意力池化机制可以增加出发地或目的地的空间特征权重，以实现对出发地性质或目的地性质的准确预测。与其他传统的时空模型相比，AttSTFN具有明显的优势和显著的效果。