交通预测是机器学习领域最受欢迎的时空任务之一。该领域的一种普遍方法是将图形卷积网络和经常性神经网络组合以进行时空处理。竞争激烈，提出了许多新的方法。在本文中，我们介绍了时空图神经控制微分方程（STG-NCDE）的方法。神经控制微分方程（NCDE）是用于处理顺序数据的突破性概念。我们扩展了概念和设计两个NCDES：一个用于时间处理，另一个用于空间处理。之后，我们将它们结合成一个框架。我们用6个基准数据集和20个基线进行实验。STG-NCDE在所有情况下显示最佳准确性，优于非琐碎的边缘的所有20个基线。

受微分方程式启发的深度学习是最近的研究趋势，它标志着许多机器学习任务的最先进的表现。其中，具有神经控制的微分方程（NCDE）的时间序列建模被认为是突破。在许多情况下，基于NCDE的模型不仅比复发性神经网络（RNN）提供了更好的准确性，而且还可以处理不规则的时间序列。在这项工作中，我们通过重新设计其核心部分，即从离散的时间序列输入产生连续路径来增强NCDES。 NCDE通常使用插值算法将离散的时间序列样本转换为连续路径。但是，我们向i）提出建议，使用编码器解码器体系结构生成另一个潜在的连续路径，该架构对应于NCDE的插值过程，即我们的基于神经网络的插值与现有的显式插值相对于现有的显式插值以及II）解码器的外推超出了原始数据的时域的外推。因此，我们的NCDE设计可以同时使用插值和外推信息进行下游机器学习任务。在我们使用5个现实世界数据集和12个基线的实验中，我们的外推和基于插值的NCDES超过了非平凡的边缘的现有基线。

在过去的几年里，通过微分方程激发的神经网络已经增殖。神经常规方程（节点）和神经控制微分方程（NCDE）是它们的两个代表性示例。理论上，NCDES提供比节点的时间序列数据更好的表示学习能力。特别地，已知NCDE适用于处理不规则的时间序列数据。然而，在采用关注之后，节点已成功扩展，但是尚未研究如何将注意力集成到NCDE中。为此，我们介绍了用于时间序列分类和预测的周度神经控制微分方程（ANCDES）的方法，其中使用了双nCDE：一个用于生成注意值，另一个用于改进下游机器学习任务的隐藏向量。我们用三个真实世界时间序列数据集和10个基线进行实验。丢弃一些值后，我们还进行不规则的时间序列实验。我们的方法一致地显示所有案例中的最佳准确性。我们的可视化还表明，通过专注于关键信息，所提出的注意机制如预期的工作。

由于动态和复杂的时空依赖性，交通预测具有挑战性。但是，现有方法仍然受到两个关键局限性。首先，许多方法通常使用静态预定义或自适应的空间图来捕获流量系统中动态的时空依赖性，这限制了灵活性，并且仅捕获了整个时间的共享模式，从而导致了次优性能。此外，大多数方法在每个时间步骤中都单独和独立地考虑地面真理与预测之间的绝对误差，这无法维持整体时间序列的全球属性和统计数据，并导致地面真相和预测之间的趋势差异。为此，在本文中，我们提出了一个动态自适应和对抗图卷积网络（DAAGCN），该网络将图形卷积网络（GCN）与生成的对抗网络（GANS）结合在一起，以进行流量预测。具体而言，DAAGCN利用带栅极模块的通用范式将时间变化的嵌入与节点嵌入集成在一起，以生成动态自适应图，以在每个时间步骤中推断空间 - 周期依赖性。然后，设计了两个歧视因子，以维持预测时间序列的全局属性的一致性，并在序列和图形级别上具有地面真相。在四个基准数据集上进行的广泛实验表明，DAAGCN的表现平均比最新的5.05％，3.80％和5.27％在MAE，RMSE和MAPE方面，同时加快收敛性高达9倍。代码可从https://github.com/juyongjiang/daagcn获得。

由于深层学习技术的显着发展，有一系列努力建立基于深入的学习的气候模型。然而，其中大多数利用经常性的神经网络和/或图形神经网络，我们设计了一种基于两个概念，神经常规差分方程（节点）和扩散方程的新型气候模型。可以通过扩散方程描述涉及棕色运动的许多物理过程，结果是广泛用于建模气候。另一方面，神经常规差分方程（节点）是学习来自数据的颂歌的潜在管理方程。在我们提出的方法中，我们将它们与一个框架相结合，并提出了一种称为神经扩散方程（NDE）的概念。我们的NDE配备了扩散方程和一个更额外的神经网络来模拟固有的不确定性，可以学习最能描述给定的气候数据集的适当潜在的控制方程。在我们用两个现实世界和一个合成数据集和11个基线的实验中，我们的方法始终如一地通过非琐碎的边缘地表达现有的基线。

使用图形卷积网络（GCN）构建时空网络已成为预测交通信号的最流行方法之一。但是，当使用GCN进行交通速度预测时，常规方法通常将传感器之间的关系作为均匀图，并使用传感器累积的数据来学习邻接矩阵。但是，传感器之间的空间相关性并未指定为一个，而是从各种观点方面定义不同。为此，我们旨在研究流量信号数据中固有的异质特征，以以各种方式学习传感器之间的隐藏关系。具体而言，我们设计了一种方法来通过将传感器之间的空间关系分为静态和动态模块来构造每个模块的异质图。我们提出了一个基于网络分散注意力的基于异质性 - 感知图形卷积网络（HAGCN）方法，该方法通过在异质图中考虑每个通道的重要性来汇总相邻节点的隐藏状态。实际流量数据集的实验结果验证了所提出的方法的有效性，比现有模型取得了6.35％的改善，并实现了最先进的预测性能。

交通预测对于新时代智能城市的交通建设至关重要。但是，流量数据的复杂空间和时间依赖性使流量预测极具挑战性。大多数现有的流量预测方法都依赖于预定义的邻接矩阵来对时空依赖性建模。但是，道路交通状态是高度实时的，因此邻接矩阵应随着时间的推移而动态变化。本文介绍了一个新的多空间融合图复发网络（MSTFGRN），以解决上述问题。该网络提出了一种数据驱动的加权邻接矩阵生成方法，以补偿预定义的邻接矩阵未反映的实时空间依赖性。它还通过在不同矩的平行时空关系上执行新的双向时空融合操作来有效地学习隐藏的时空依赖性。最后，通过将全局注意机制集成到时空融合模块中，同时捕获了全局时空依赖性。对四个大型现实世界流量数据集进行的广泛试验表明，与替代基线相比，我们的方法实现了最先进的性能。

Traffic forecasting as a canonical task of multivariate time series forecasting has been a significant research topic in AI community. To address the spatio-temporal heterogeneity and non-stationarity implied in the traffic stream, in this study, we propose Spatio-Temporal Meta-Graph Learning as a novel Graph Structure Learning mechanism on spatio-temporal data. Specifically, we implement this idea into Meta-Graph Convolutional Recurrent Network (MegaCRN) by plugging the Meta-Graph Learner powered by a Meta-Node Bank into GCRN encoder-decoder. We conduct a comprehensive evaluation on two benchmark datasets (METR-LA and PEMS-BAY) and a new large-scale traffic speed dataset in which traffic incident information is contained. Our model outperformed the state-of-the-arts to a large degree on all three datasets (over 27% MAE and 34% RMSE). Besides, through a series of qualitative evaluations, we demonstrate that our model can explicitly disentangle the road links and time slots with different patterns and be robustly adaptive to any anomalous traffic situations. Codes and datasets are available at https://github.com/deepkashiwa20/MegaCRN.

交通流量预测是智能运输系统的重要组成部分，从而受到了研究人员的关注。但是，交通道路之间的复杂空间和时间依赖性使交通流量的预测具有挑战性。现有方法通常是基于图形神经网络，使用交通网络的预定义空间邻接图来建模空间依赖性，而忽略了道路节点之间关系的动态相关性。此外，他们通常使用独立的时空组件来捕获时空依赖性，并且不会有效地对全局时空依赖性进行建模。本文提出了一个新的时空因果图形注意网络（STCGAT），以解决上述挑战。在STCGAT中，我们使用一种节点嵌入方法，可以在每个时间步骤中自适应生成空间邻接子图，而无需先验地理知识和对不同时间步骤动态生成图的拓扑的精细颗粒建模。同时，我们提出了一个有效的因果时间相关成分，其中包含节点自适应学习，图形卷积以及局部和全局因果关系卷积模块，以共同学习局部和全局时空依赖性。在四个真正的大型流量数据集上进行的广泛实验表明，我们的模型始终优于所有基线模型。

高性能的交通流量预测模型设计是一种智能运输系统的核心技术，是工业和学术社区的长期挑战，但仍然具有挑战性。物理原理和数据驱动模型之间缺乏整合是限制该领域发展的重要原因。在文献中，基于物理学的方法通常可以清楚地解释交通流系统的动态过程，但准确性有限，而数据驱动的方法，尤其是使用黑色盒子结构的深度学习，可以提高性能，但不能由于缺乏合理的身体依据，因此要完全信任。为了弥合纯粹数据驱动和物理驱动的方法之间的差距，我们提出了一个物理学引导的深度学习模型，名为时空微分方程网络（STDEN），该模型将交通流动器的物理机理投入到深度神经网络框架中。具体而言，我们假设道路网络上的交通流量是由潜在势能场驱动的（例如水流是由重力场驱动的），并将势能场的时空动态过程作为微分方程网络进行建模。 Stden吸收了数据驱动模型的性能优势和基于物理模型的可解释性，因此被命名为物理指导的预测模型。北京三个现实世界流量数据集的实验表明，我们的模型的表现优于最先进的基线。案例研究进一步验证了stden可以捕获城市交通机制，并具有物理含义的准确预测。提出的微分方程网络建模的框架也可能会阐明其他类似的应用程序。

最近的研究侧重于制定流量预测作为一种时空图形建模问题。它们通常在每个时间步骤构造静态空间图，然后将每个节点连接在相邻时间步骤之间以构造时空图形。在这样的图形中，不同时间步骤的不同节点之间的相关性未明确地反映，这可以限制图形神经网络的学习能力。同时，这些模型在不同时间步骤中使用相同的邻接矩阵时，忽略节点之间的动态时空相关性。为了克服这些限制，我们提出了一种时空关节图卷积网络（StJGCN），用于交通预测在公路网络上的几个时间上限。具体地，我们在任何两个时间步长之间构造预定的和自适应时空关节图（STJG），这代表了全面和动态的时空相关性。我们进一步设计了STJG上的扩张因果时空关节图卷积层，以捕获与多个范围不同的视角的时空依赖关系。提出了一种多范围注意机制来聚合不同范围的信息。四个公共交通数据集的实验表明，STJGCN是计算的高效和优于11个最先进的基线方法。

多变量时间序列预测是一个具有挑战性的任务，因为数据涉及长期和短期模式的混合，具有变量之间的动态时空依赖性。现有图形神经网络（GNN）通常与预定义的空间图或学习的固定邻接图模拟多变量关系。它限制了GNN的应用，并且无法处理上述挑战。在本文中，我们提出了一种新颖的框架，即静态和动态图形学习 - 神经网络（SDGL）。该模型分别从数据获取静态和动态图形矩阵分别为模型长期和短期模式。开发静态Matric以通过节点嵌入捕获固定的长期关联模式，并利用图规律性来控制学习静态图的质量。为了捕获变量之间的动态依赖性，我们提出了基于改变节点特征和静态节点Embeddings生成时变矩阵的动态图。在该方法中，我们将学习的静态图信息作为感应偏置集成为诱导动态图和局部时空模式更好。广泛的实验是在两个交通数据集中进行，具有额外的结构信息和四个时间序列数据集，这表明我们的方法在几乎所有数据集上实现了最先进的性能。如果纸张被接受，我将在GitHub上打开源代码。

准确的交通预测对于智能城市实现交通控制，路线计划和流动检测至关重要。尽管目前提出了许多时空方法，但这些方法在同步捕获流量数据的时空依赖性方面缺陷。此外，大多数方法忽略了随着流量数据的变化而产生的道路网络节点之间的动态变化相关性。我们建议基于神经网络的时空交互式动态图卷积网络（STIDGCN），以应对上述流量预测的挑战。具体而言，我们提出了一个交互式动态图卷积结构，该结构将序列划分为间隔，并通过交互式学习策略同步捕获流量数据的时空依赖性。交互式学习策略使StidGCN有效地预测。我们还提出了一个新颖的动态图卷积模块，以捕获由图生成器和融合图卷积组成的流量网络中动态变化的相关性。动态图卷积模块可以使用输入流量数据和预定义的图形结构来生成图形结构。然后将其与定义的自适应邻接矩阵融合，以生成动态邻接矩阵，该矩阵填充了预定义的图形结构，并模拟了道路网络中节点之间的动态关联的产生。在四个现实世界流量流数据集上进行的广泛实验表明，StidGCN的表现优于最先进的基线。

交通预测在智能交通系统中很重要，有利于交通安全，但由于现实世界交通系统中的复杂和动态的时空依赖性，这是非常具有挑战性的。先前的方法使用预定义或学习的静态图来提取空间相关性。但是，基于静态图形的方法无法挖掘交通网络的演变。研究人员随后为每次切片生成动态图形以反映空间相关性的变化，但它们遵循独立建模的时空依赖性的范例，忽略了串行空间影响。在本文中，我们提出了一种新的基于跨时动态图形的深度学习模型，名为CDGNet，用于交通预测。该模型能够通过利用横行动态图来有效地捕获每个时切片和其历史时片之间的串联空间依赖性。同时，我们设计了稀疏横行动态图的浇注机制，符合现实世界中的稀疏空间相关性。此外，我们提出了一种新颖的编码器解码器架构，用于结合基于交叉时间动态图形的GCN，用于多步行量预测。三个现实世界公共交通数据集的实验结果表明CDGNET优于最先进的基线。我们还提供了一种定性研究来分析我们建筑的有效性。

交通预测是智能交通系统的问题（ITS），并为个人和公共机构是至关重要的。因此，研究高度重视应对准确预报交通系统的复杂的时空相关性。但是，有两个挑战：1）大多数流量预测研究主要集中在造型相邻传感器的相关性，而忽略远程传感器，例如，商务区有类似的时空模式的相关性; 2）使用静态邻接矩阵中曲线图的卷积网络（GCNs）的现有方法不足以反映在交通系统中的动态空间依赖性。此外，它采用自注意所有的传感器模型动态关联细粒度方法忽略道路网络分层信息，并有二次计算复杂性。在本文中，我们提出了一种新动态多图形卷积递归网络（DMGCRN），以解决上述问题，可以同时距离的空间相关性，结构的空间相关性，和所述时间相关性进行建模。那么，只使用基于距离的曲线图来捕获空间信息从节点是接近距离也构建了一个新潜曲线图，其编码的道路之间的相关性的结构来捕获空间信息从节点在结构上相似。此外，我们在不同的时间将每个传感器的邻居到粗粒区域，并且动态地分配不同的权重的每个区域。同时，我们整合动态多图卷积网络到门控重复单元（GRU）来捕获时间依赖性。三个真实世界的交通数据集大量的实验证明，我们提出的算法优于国家的最先进的基线。

许多美国都市城市因严重缺乏停车位而臭名昭著。为此，我们提出了一个主动的预测驱动优化框架，以动态调整停车价格。我们使用最先进的深度学习技术，例如神经普通微分方程（节点）来设计我们未来的停车占用率预测模型，鉴于历史占用率和价格信息。由于节点的持续和射击特性，因此，我们设计了一种单次价格优化方法，给定预训练的预测模型，该模型只需要一个迭代才能找到最佳解决方案。换句话说，我们优化了预先训练的预测模型的价格输入，以实现停车位的目标占用率。我们对在旧金山和西雅图收集的数据进行了实验多年。与各种时间或时空预测模型相比，我们的预测模型显示出最佳准确性。我们的单发优化方法在搜索时间方面极大地优于其他黑框和白色框搜索方法，并且始终返回最佳价格解决方案。

Traffic forecasting has attracted widespread attention recently. In reality, traffic data usually contains missing values due to sensor or communication errors. The Spatio-temporal feature in traffic data brings more challenges for processing such missing values, for which the classic techniques (e.g., data imputations) are limited: 1) in temporal axis, the values can be randomly or consecutively missing; 2) in spatial axis, the missing values can happen on one single sensor or on multiple sensors simultaneously. Recent models powered by Graph Neural Networks achieved satisfying performance on traffic forecasting tasks. However, few of them are applicable to such a complex missing-value context. To this end, we propose GCN-M, a Graph Convolutional Network model with the ability to handle the complex missing values in the Spatio-temporal context. Particularly, we jointly model the missing value processing and traffic forecasting tasks, considering both local Spatio-temporal features and global historical patterns in an attention-based memory network. We propose as well a dynamic graph learning module based on the learned local-global features. The experimental results on real-life datasets show the reliability of our proposed method.

Reliable forecasting of traffic flow requires efficient modeling of traffic data. Different correlations and influences arise in a dynamic traffic network, making modeling a complicated task. Existing literature has proposed many different methods to capture the complex underlying spatial-temporal relations of traffic networks. However, methods still struggle to capture different local and global dependencies of long-range nature. Also, as more and more sophisticated methods are being proposed, models are increasingly becoming memory-heavy and, thus, unsuitable for low-powered devices. In this paper, we focus on solving these problems by proposing a novel deep learning framework - STLGRU. Specifically, our proposed STLGRU can effectively capture both local and global spatial-temporal relations of a traffic network using memory-augmented attention and gating mechanism. Instead of employing separate temporal and spatial components, we show that our memory module and gated unit can learn the spatial-temporal dependencies successfully, allowing for reduced memory usage with fewer parameters. We extensively experiment on several real-world traffic prediction datasets to show that our model performs better than existing methods while the memory footprint remains lower. Code is available at \url{https://github.com/Kishor-Bhaumik/STLGRU}.

Spatio-temporal modeling as a canonical task of multivariate time series forecasting has been a significant research topic in AI community. To address the underlying heterogeneity and non-stationarity implied in the graph streams, in this study, we propose Spatio-Temporal Meta-Graph Learning as a novel Graph Structure Learning mechanism on spatio-temporal data. Specifically, we implement this idea into Meta-Graph Convolutional Recurrent Network (MegaCRN) by plugging the Meta-Graph Learner powered by a Meta-Node Bank into GCRN encoder-decoder. We conduct a comprehensive evaluation on two benchmark datasets (METR-LA and PEMS-BAY) and a large-scale spatio-temporal dataset that contains a variaty of non-stationary phenomena. Our model outperformed the state-of-the-arts to a large degree on all three datasets (over 27% MAE and 34% RMSE). Besides, through a series of qualitative evaluations, we demonstrate that our model can explicitly disentangle locations and time slots with different patterns and be robustly adaptive to different anomalous situations. Codes and datasets are available at https://github.com/deepkashiwa20/MegaCRN.

由于运输网络中复杂的时空依赖性，准确的交通预测是智能运输系统中一项艰巨的任务。许多现有的作品利用复杂的时间建模方法与图形卷积网络（GCN）合并，以捕获短期和长期时空依赖性。但是，这些具有复杂设计的分离模块可以限制时空表示学习的有效性和效率。此外，大多数以前的作品都采用固定的图形构造方法来表征全局时空关系，这限制了模型在不同时间段甚至不同的数据方案中的学习能力。为了克服这些局限性，我们提出了一个自动扩张的时空同步图网络，称为Auto-DSTSGN用于流量预测。具体而言，我们设计了自动扩张的时空同步图（自动-DSTSG）模块，以捕获短期和长期时空相关性，通过在增加顺序的扩张因子中堆叠更深的层。此外，我们提出了一种图形结构搜索方法，以自动构建可以适应不同数据方案的时空同步图。在四个现实世界数据集上进行的广泛实验表明，与最先进的方法相比，我们的模型可以取得约10％的改善。源代码可在https://github.com/jinguangyin/auto-dstsgn上找到。