深层神经网络预测交通需求已引起了学术界和行业社会的广泛兴趣。其中，成对来源点（OD）需求预测是一个有价值但具有挑战性的问题：（i）大量可能的OD对，（ii）空间依赖性的内在性和（iii）交通的复杂性状态。为了解决上述问题，本文提出了一种连续的时间和多级动态图表表示方法，用于原始用途需求预测（CMOD）。首先，构建了一个连续的动态图表示学习框架，该框架维护每个流量节点（地铁站或出租车区）的动态状态向量。国家向量保留历史交易信息，并根据最近发生的交易不断更新。其次，提出了多层结构学习模块，以模拟站点级节点的空间依赖性。它不仅可以从数据自适应地利用节点之间的关系，还可以通过集群级别和区域级虚拟节点共享消息和表示形式。最后，跨级融合模块旨在集成多级记忆并为最终预测生成综合节点表示。在北京地铁和纽约出租车的两个现实世界数据集上进行了广泛的实验，结果证明了我们的模型与最先进的方法相比。

动态需求预测对于城市交通系统有效运行和管理至关重要。在单模需求预测上进行了广泛的研究，忽略了不同运输模式的需求可以彼此相关。尽管最近的一些努力，现有的多式化需求预测方法通常不够灵活，以便在不同模式下具有不同的空间单元和异质时空相关性的多路复用网络。为了解决这些问题，本研究提出了一种多重峰需求预测的多关系时空图神经网络（ST-MRGNN）。具体地，跨模式的空间依赖性被多个内部和模态关系图编码。引入多关系图神经网络（MRGNN）以捕获跨模式异构空间依赖性，包括广义图卷积网络，以了解关系图中的消息传递机制和基于关注的聚合模块，以总结不同的关系。我们进一步将MRGNN与时间门控卷积层相结合，共同模拟异质时滞的相关性。广泛的实验是使用真实的地铁和来自纽约市的乘车数据集进行的实验，结果验证了我们提出的方法对模式的现有方法的提高性能。需求稀疏位置的改进特别大。进一步分析ST-MRGNN的注意机制还表明了对理解跨模式相互作用的良好解释性。

准确预测短期OD矩阵（即，从各种来源到目的地的乘客流量的分布）是地铁系统中的一个重要任务。由于许多影响因素的不断变化的性质和实时延迟数据收集问题，这是强大的挑战性。最近，已经提出了一些基于学习的基于学习的模型，以便在乘车和高速公路中进行OD矩阵预测。然而，由于其不同的先验知识和上下文设置，这些模型不能充分捕获地铁网络中的站点之间的复杂时空相关性。在本文中，我们提出了一个混合框架多视图Trgru来解决OD Metro Matrix预测。特别是，它使用三个模块来模拟三个流动变化模式：最近的趋势，日常趋势，每周趋势。在每个模块中，基于每个站的嵌入的多视图表示被构造并馈送到基于变压器的门控复发结构，以通过全球自我注意机制捕获不同站的OD流的动态空间依赖性。在三种大型现实世界地铁数据集上进行了广泛的实验，证明了我们的多视图Trgru在其他竞争对手的优越性。

给定一系列集合，其中每个集合与时间戳关联并包含任意数量的元素，时间集的任务预测旨在预测后续集合中的元素。先前对时间集预测的研究主要通过从自己的序列中学习来捕获每个用户的进化偏好。尽管有见地，但我们认为：1）不同用户序列中潜在的协作信号是必不可少的，但尚未被利用； 2）用户还倾向于显示固定的偏好，而现有方法未能考虑。为此，我们提出了一个集成的学习框架，以对时间集预测的用户的进化和固定偏好进行建模，该预测首先通过按时间顺序排列所有用户群的交互来构建通用序列，然后在每个用户集中学习相互作用。特别是，对于每个用户集的交互，我们首先设计一个进化用户偏好建模组件，以跟踪用户的时间不断发展的偏好，并在不同用户之间利用潜在的协作信号。该组件维护一个存储库来存储相关用户和元素的记忆，并根据当前编码的消息和过去的记忆不断更新其记忆。然后，我们设计了一个固定的用户偏好模型模块，以根据历史序列来发现每个用户的个性化特征，该模块从双重角度自适应地汇总了以前相互作用的元素，并在用户和元素的嵌入方式的指导下。最后，我们开发了一种设定批次算法来提高模型效率，该算法可以提前创建时间一致的批次，并平均实现3.5倍的训练速度。现实世界数据集的实验证明了我们方法的有效性和良好的解释性。

本文旨在统一非欧几里得空间中的空间依赖性和时间依赖性，同时捕获流量数据的内部空间依赖性。对于具有拓扑结构的时空属性实体，时空是连续的和统一的，而每个节点的当前状态都受到每个邻居的变异时期的邻居的过去状态的影响。大多数用于流量预测研究的空间依赖性和时间相关性的空间神经网络在处理中分别损害了时空完整性，而忽略了邻居节点的时间依赖期可以延迟和动态的事实。为了建模这种实际条件，我们提出了一种新型的空间 - 周期性图神经网络，将空间和时间视为不可分割的整体，以挖掘时空图，同时通过消息传播机制利用每个节点的发展时空依赖性。进行消融和参数研究的实验已经验证了拟议的遍及术的有效性，并且可以从https://github.com/nnzhan/traversenet中找到详细的实现。

预测基于图的时间依赖性数据具有许多实际应用。此任务具有挑战性，因为模型不仅需要捕获数据中的空间依赖性和时间依赖性，而且还需要利用有用的辅助信息来进行准确的预测。在本文中，我们分析了最新模型对处理时间依赖性的局限性。为了解决此限制，我们提出了GSA-Forecaster，这是一种用于预测基于图的时间相关数据的新的深度学习模型。 GSA-Forecaster利用图形序列注意（GSA）是本文提出的一种新的注意机制，用于有效捕获时间依赖性。 GSA-Forecaster将数据的图结构嵌入其架构中，以解决空间依赖性。 GSA-ForeCaster还占用辅助信息，以进一步改善预测。我们通过基于大型现实图的时间依赖性数据评估GSA-Forecaster，并证明了其对最先进模型的有效性，该模型具有6.7％的RMSE和5.8％的MAPE降低。

接触犯罪和暴力会损害个人的生活质量和社区的经济增长。鉴于机器学习的迅速发展，需要探索自动解决方案以防止犯罪。随着细粒度的城市和公共服务数据的可用性越来越多，最近融合了这种跨域信息以促进犯罪预测的激增。通过捕获有关社会结构，环境和犯罪趋势的信息，现有的机器学习预测模型从不同观点探索了动态犯罪模式。但是，这些方法主要将这种多源知识转换为隐性和潜在表示（例如，学区的嵌入），这仍然是研究显式因素对幕后犯罪发生的影响的影响仍然是一个挑战。在本文中，我们提出了一个时空的元数据指导性犯罪预测（STMEC）框架，以捕获犯罪行为的动态模式，并明确地表征了环境和社会因素如何相互互动以产生预测。广泛的实验表明，与其他先进的时空模型相比，STMEC的优越性，尤其是在预测重罪（例如使用危险武器的抢劫和袭击）时。

天气预报是一项有吸引力的挑战性任务，因为它对人类生活和大气运动的复杂性的影响。在大量历史观察到的时间序列数据的支持下，该任务适用于数据驱动的方法，尤其是深层神经网络。最近，基于图神经网络（GNN）方法在时空预测方面取得了出色的性能。但是，基于规范的GNNS方法仅分别对每个站的气象变量的局部图或整个车站的全局图进行建模，从而缺乏不同站点的气象变量之间的信息相互作用。在本文中，我们提出了一种新型的层次时空图形神经网络（Histgnn），以模拟多个站点气象变量之间的跨区域时空相关性。自适应图学习层和空间图卷积用于构建自学习图，并研究可变级别和站点级别图的节点之间的隐藏依赖性。为了捕获时间模式，扩张的成立为GATE时间卷积的主干旨在对长而各种气象趋势进行建模。此外，提出了动态的交互学习来构建在层次图中传递的双向信息。三个现实世界中的气象数据集的实验结果表明，史基元超过7个基准的卓越性能，并且将误差降低了4.2％至11.6％，尤其是与最先进的天气预测方法相比。

最近的研究表明，在将图神经网络应用于多元时间序列预测中，其中时间序列的相互作用被描述为图形结构，并且变量表示为图节点。沿着这一行，现有方法通常假定确定图神经网络的聚合方式的图形结构（或邻接矩阵）是根据定义或自学来固定的。但是，变量的相互作用在现实情况下可以是动态的和进化的。此外，如果在不同的时间尺度上观察到时间序列的相互作用序列的相互作用大不相同。为了使图形神经网络具有灵活而实用的图结构，在本文中，我们研究了如何对时间序列的进化和多尺度相互作用进行建模。特别是，我们首先提供与扩张的卷积配合的层次图结构，以捕获时间序列之间的比例特定相关性。然后，以经常性的方式构建了一系列邻接矩阵，以表示每一层的不断发展的相关性。此外，提供了一个统一的神经网络来集成上述组件以获得最终预测。这样，我们可以同时捕获成对的相关性和时间依赖性。最后，对单步和多步骤预测任务的实验证明了我们方法比最新方法的优越性。

我们研究了具有动态，可能的周期性的流量的预测问题和区域之间的关节空间依赖关系。鉴于从时隙0到T-1的城市中区的聚合流入和流出流量，我们预测了任何区域的时间t的流量。该地区的现有技术通常以脱钩的方式考虑空间和时间依赖性，或者在具有大量超参数曲调的训练中是相当的计算密集。我们提出了ST-TIS，一种新颖，轻巧和准确的空间变压器，具有信息融合和区域采样进行交通预测。 ST-TIS将规范变压器与信息融合和区域采样延伸。信息融合模块捕获区域之间的复杂空间依赖关系。该区域采样模块是提高效率和预测精度，将计算复杂性切割为依赖性学习从$ O（n ^ 2）$到$ O（n \ sqrt {n}）$，其中n是区域的数量。比最先进的模型的参数较少，我们模型的离线培训在调整和计算方面明显更快（培训时间和网络参数减少高达90±90 \％）。尽管存在这种培训效率，但大量实验表明，ST-TIS在网上预测中大幅度更准确，而不是最先进的方法（平均改善高达11 \％$ 11 \％$ ON MAPE上的$ 14 \％$ 14 \％$ 14 \％$ ON MAPE） 。

人口级社会事件，如民事骚乱和犯罪，往往对我们的日常生活产生重大影响。预测此类事件对于决策和资源分配非常重要。由于缺乏关于事件发生的真实原因和潜在机制的知识，事件预测传统上具有挑战性。近年来，由于两个主要原因，研究事件预测研究取得了重大进展：（1）机器学习和深度学习算法的开发和（2）社交媒体，新闻来源，博客，经济等公共数据的可访问性指标和其他元数据源。软件/硬件技术中的数据的爆炸性增长导致了社会事件研究中的深度学习技巧的应用。本文致力于提供社会事件预测的深层学习技术的系统和全面概述。我们专注于两个社会事件的域名：\ Texit {Civil unrest}和\ texit {犯罪}。我们首先介绍事件预测问题如何作为机器学习预测任务制定。然后，我们总结了这些问题的数据资源，传统方法和最近的深度学习模型的发展。最后，我们讨论了社会事件预测中的挑战，并提出了一些有希望的未来研究方向。

时空人群流量预测（STCFP）问题是一种经典问题，具有丰富的现有研究工作，这些努力受益于传统的统计学习和最近的深度学习方法。虽然STCFP可以参考许多现实世界问题，但大多数现有研究都侧重于相当特定的应用，例如预测出租车需求，乘资顺序等。这会阻碍STCFP研究作为针对不同应用的方法几乎没有比较，因此如何将应用驱动的方法概括为其他场景尚不清楚。要填补这一差距，这篇论文进行了两项努力：（i）我们提出了一个叫做STANALYTIC的分析框架，以定性地调查其关于各种空间和时间因素的设计考虑的STCFP方法，旨在使不同的应用驱动的方法进行不同的方法; （ii）（ii）我们构建一个广泛的大型STCFP基准数据集，具有四种不同的场景（包括RideSharing，Bikesharing，Metro和电动车辆充电），其流量高达数亿个流量记录，以定量测量STCFP方法的普遍性。此外，为了详细说明STANalytic在帮助设计上推广的STCFP方法方面的有效性，我们提出了一种通过整合STANALYTIC鉴定的可推广的时间和空间知识来提出一种称为STETA的时空元模型。我们利用不同的深度学习技术实施STMETA的三种变体。通过数据集，我们证明Stmeta变体可以优于最先进的STCFP方法5％。

图形结构化数据通常在自然界中具有动态字符，例如，在许多现实世界中，链接和节点的添加。近年来见证了对这种图形数据进行建模的动态图神经网络所支付的越来越多的注意力，几乎所有现有方法都假设，当建立新的链接时，应通过学习时间动态来传播邻居节点的嵌入。新的信息。但是，这种方法遭受了这样的限制，如果新连接引入的节点包含嘈杂的信息，那么将其知识传播到其他节点是不可靠的，甚至导致模型崩溃。在本文中，我们提出了Adanet：通过增强动态图神经网络的强化知识适应框架。与以前的方法相反，一旦添加了新链接，就立即更新邻居节点的嵌入方式，Adanet试图自适应地确定由于涉及的新链接而应更新哪些节点。考虑到是否更新一个邻居节点的嵌入的决定将对其他邻居节点产生很大的影响，因此，我们将节点更新的选择作为序列决策问题，并通过强化学习解决此问题。通过这种方式，我们可以将知识自适应地传播到其他节点，以学习健壮的节点嵌入表示。据我们所知，我们的方法构成了通过强化学习的动态图神经网络来探索强大知识适应的首次尝试。在三个基准数据集上进行的广泛实验表明，Adanet可以实现最新的性能。此外，我们通过在数据集中添加不同程度的噪声来执行实验，并定量和定性地说明ADANET的鲁棒性。

Spatio-temporal modeling as a canonical task of multivariate time series forecasting has been a significant research topic in AI community. To address the underlying heterogeneity and non-stationarity implied in the graph streams, in this study, we propose Spatio-Temporal Meta-Graph Learning as a novel Graph Structure Learning mechanism on spatio-temporal data. Specifically, we implement this idea into Meta-Graph Convolutional Recurrent Network (MegaCRN) by plugging the Meta-Graph Learner powered by a Meta-Node Bank into GCRN encoder-decoder. We conduct a comprehensive evaluation on two benchmark datasets (METR-LA and PEMS-BAY) and a large-scale spatio-temporal dataset that contains a variaty of non-stationary phenomena. Our model outperformed the state-of-the-arts to a large degree on all three datasets (over 27% MAE and 34% RMSE). Besides, through a series of qualitative evaluations, we demonstrate that our model can explicitly disentangle locations and time slots with different patterns and be robustly adaptive to different anomalous situations. Codes and datasets are available at https://github.com/deepkashiwa20/MegaCRN.

准确的交通预测对于智能城市实现交通控制，路线计划和流动检测至关重要。尽管目前提出了许多时空方法，但这些方法在同步捕获流量数据的时空依赖性方面缺陷。此外，大多数方法忽略了随着流量数据的变化而产生的道路网络节点之间的动态变化相关性。我们建议基于神经网络的时空交互式动态图卷积网络（STIDGCN），以应对上述流量预测的挑战。具体而言，我们提出了一个交互式动态图卷积结构，该结构将序列划分为间隔，并通过交互式学习策略同步捕获流量数据的时空依赖性。交互式学习策略使StidGCN有效地预测。我们还提出了一个新颖的动态图卷积模块，以捕获由图生成器和融合图卷积组成的流量网络中动态变化的相关性。动态图卷积模块可以使用输入流量数据和预定义的图形结构来生成图形结构。然后将其与定义的自适应邻接矩阵融合，以生成动态邻接矩阵，该矩阵填充了预定义的图形结构，并模拟了道路网络中节点之间的动态关联的产生。在四个现实世界流量流数据集上进行的广泛实验表明，StidGCN的表现优于最先进的基线。

许多实际关系系统，如社交网络和生物系统，包含动态相互作用。在学习动态图形表示时，必须采用连续的时间信息和几何结构。主流工作通过消息传递网络（例如，GCN，GAT）实现拓扑嵌入。另一方面，时间演进通常通过在栅极机构中具有方便信息过滤的存储单元（例如，LSTM或GU）来表达。但是，由于过度复杂的编码，这种设计可以防止大规模的输入序列。这项工作从自我关注的哲学中学习，并提出了一种高效的基于频谱的神经单元，采用信息的远程时间交互。发达的频谱窗口单元（SWINIT）模型预测了具有保证效率的可扩展动态图形。该架构与一些构成随机SVD，MLP和图形帧卷积的一些简单的有效计算块组装。 SVD加MLP模块编码动态图事件的长期特征演进。帧卷积中的快速帧图形变换嵌入了结构动态。两种策略都提高了模型对可扩展分析的能力。特别地，迭代的SVD近似度将注意力的计算复杂性缩小到具有n个边缘和D边缘特征的动态图形的关注的计算复杂性，并且帧卷积的多尺度变换允许在网络训练中具有足够的可扩展性。我们的Swinit在各种在线连续时间动态图表学习任务中实现了最先进的性能，而与基线方法相比，可学习参数的数量可达七倍。

我们都取决于流动性，车辆运输会影响我们大多数人的日常生活。因此，预测道路网络中流量状态的能力是一项重要的功能和具有挑战性的任务。流量数据通常是从部署在道路网络中的传感器获得的。关于时空图神经网络的最新建议通过将流量数据建模为扩散过程，在交通数据中建模复杂的时空相关性方面取得了巨大进展。但是，直观地，流量数据包含两种不同类型的隐藏时间序列信号，即扩散信号和固有信号。不幸的是，几乎所有以前的作品都将交通信号完全视为扩散的结果，同时忽略了固有的信号，这会对模型性能产生负面影响。为了提高建模性能，我们提出了一种新型的脱钩时空框架（DSTF），该框架以数据驱动的方式将扩散和固有的交通信息分开，其中包含独特的估计门和残差分解机制。分离的信号随后可以通过扩散和固有模块分别处理。此外，我们提出了DSTF的实例化，分离的动态时空图神经网络（D2STGNN），可捕获时空相关性，还具有动态图学习模块，该模块针对学习流量网络动态特征的学习。使用四个现实世界流量数据集进行的广泛实验表明，该框架能够推进最先进的框架。

自行车共享系统（BSSS）作为创新的运输服务。鉴于这些系统致力于通过促进环境和经济可持续性以及改善人口的生活质量，这些系统致力于消除当前全球担忧的许多担忧，确保BSS的正常运作至关重要。良好的用户过渡模式知识是对服务的质量和可操作性的决定性贡献。类似的和不平衡的用户的过渡模式导致这些系统遭受自行车不平衡，从长远来看，导致客户损失很大。自行车重新平衡的策略变得重要，以解决这个问题，为此，自行车交通预测至关重要，因为它允许更有效地运行并提前做出反应。在这项工作中，我们提出了一种基于图形神经网络嵌入的自行车TRIPS预测因子，考虑到站分组，气象条件，地理距离和旅行模式。我们在纽约市BSS（CITIBIKE）数据中评估了我们的方法，并将其与四个基线进行比较，包括非聚类方法。为了解决我们的问题的特殊性，我们开发了自适应转换约束聚类加（ADATC +）算法，消除了以前的工作的缺点。我们的实验证据证据细胞化（88％的准确性，而无需聚类83％），哪种聚类技术最适合这个问题。对于ADATC +，链路预测任务的准确性总是较高，而不是基于基准群集方法，而当网站相同，虽然在升级网络时不会降低性能，但在训练有素的模型中不匹配。

Graphs are ubiquitous in nature and can therefore serve as models for many practical but also theoretical problems. For this purpose, they can be defined as many different types which suitably reflect the individual contexts of the represented problem. To address cutting-edge problems based on graph data, the research field of Graph Neural Networks (GNNs) has emerged. Despite the field's youth and the speed at which new models are developed, many recent surveys have been published to keep track of them. Nevertheless, it has not yet been gathered which GNN can process what kind of graph types. In this survey, we give a detailed overview of already existing GNNs and, unlike previous surveys, categorize them according to their ability to handle different graph types and properties. We consider GNNs operating on static and dynamic graphs of different structural constitutions, with or without node or edge attributes. Moreover, we distinguish between GNN models for discrete-time or continuous-time dynamic graphs and group the models according to their architecture. We find that there are still graph types that are not or only rarely covered by existing GNN models. We point out where models are missing and give potential reasons for their absence.

Accurate short-term traffic prediction plays a pivotal role in various smart mobility operation and management systems. Currently, most of the state-of-the-art prediction models are based on graph neural networks (GNNs), and the required training samples are proportional to the size of the traffic network. In many cities, the available amount of traffic data is substantially below the minimum requirement due to the data collection expense. It is still an open question to develop traffic prediction models with a small size of training data on large-scale networks. We notice that the traffic states of a node for the near future only depend on the traffic states of its localized neighborhoods, which can be represented using the graph relational inductive biases. In view of this, this paper develops a graph network (GN)-based deep learning model LocaleGN that depicts the traffic dynamics using localized data aggregating and updating functions, as well as the node-wise recurrent neural networks. LocaleGN is a light-weighted model designed for training on few samples without over-fitting, and hence it can solve the problem of few-sample traffic prediction. The proposed model is examined on predicting both traffic speed and flow with six datasets, and the experimental results demonstrate that LocaleGN outperforms existing state-of-the-art baseline models. It is also demonstrated that the learned knowledge from LocaleGN can be transferred across cities. The research outcomes can help to develop light-weighted traffic prediction systems, especially for cities lacking historically archived traffic data.