Accurate activity location prediction is a crucial component of many mobility applications and is particularly required to develop personalized, sustainable transportation systems. Despite the widespread adoption of deep learning models, next location prediction models lack a comprehensive discussion and integration of mobility-related spatio-temporal contexts. Here, we utilize a multi-head self-attentional (MHSA) neural network that learns location transition patterns from historical location visits, their visit time and activity duration, as well as their surrounding land use functions, to infer an individual's next location. Specifically, we adopt point-of-interest data and latent Dirichlet allocation for representing locations' land use contexts at multiple spatial scales, generate embedding vectors of the spatio-temporal features, and learn to predict the next location with an MHSA network. Through experiments on two large-scale GNSS tracking datasets, we demonstrate that the proposed model outperforms other state-of-the-art prediction models, and reveal the contribution of various spatio-temporal contexts to the model's performance. Moreover, we find that the model trained on population data achieves higher prediction performance with fewer parameters than individual-level models due to learning from collective movement patterns. We also reveal mobility conducted in the recent past and one week before has the largest influence on the current prediction, showing that learning from a subset of the historical mobility is sufficient to obtain an accurate location prediction result. We believe that the proposed model is vital for context-aware mobility prediction. The gained insights will help to understand location prediction models and promote their implementation for mobility applications.

随着移动通信技术的快速发展，人类的移动轨迹由互联网服务提供商（ISP）和应用服务提供商（ASP）大规模收集。另一方面，知识图（kg）的上升范式为我们提供了一个有希望的解决方案，可以从大规模轨迹数据提取结构化的“知识”。在本文中，我们基于知识图技术专注于建模用户的时空移动模式，并根据从多个源以凝聚力的方式提取的“知识”，预测用户的未来运动。具体来说，我们提出了一种新型知识图中，即时空城市知识图（STKG），其中活动轨迹，场地的类别信息和时间信息都是由STKG中不同关系类型的事实共同建模。移动预测问题转换为知识图表在STKG中完成问题。此外，提出了一种具有精心设计的评分功能的复杂嵌入模型，以衡量STKG中的事实的合理性，以解决知识图形完成问题，这考虑了移动性模式的时间动态，并利用POI类别作为辅助信息和背景知识。广泛的评估确认我们模型在预测用户方面的高精度与最先进的算法相比，S'Mobility，即，提高了5.04％的准确性。此外，POI类别作为背景知识和辅助信息被证实通过在准确性方面提高了3.85％的性能，有助于提高。另外，实验表明，与现有方法相比，我们的所提出的方法通过将计算时间降低43.12％以上。

对人类流动性进行建模有助于了解人们如何访问资源并在城市中彼此进行身体接触，从而有助于各种应用，例如城市规划，流行病控制和基于位置的广告。下一个位置预测是单个人类移动性建模中的一项决定性任务，通常被视为序列建模，用Markov或基于RNN的方法解决。但是，现有模型几乎不关注单个旅行决策的逻辑和人口集体行为的可重复性。为此，我们提出了一个因果关系和空间约束的长期和短期学习者（CSLSL），以进行下一个位置预测。 CSLSL利用基于多任务学习的因果结构来明确对“ $ \ rightarrow $ wher wher wher wher whit $ \ rightarrow $ where where where”，a.k.a.”接下来，我们提出一个空间约束损失函数作为辅助任务，以确保旅行者目的地的预测和实际空间分布之间的一致性。此外，CSLSL采用了名为Long and Short-Charturer（LSC）的模块，以了解不同时间跨度的过渡规律。在三个现实世界数据集上进行的广泛实验表明，CSLSL的性能改善了基准，并确认引入因果关系和一致性约束的有效性。该实现可在https://github.com/urbanmobility/cslsl上获得。

“轨迹”是指由地理空间中的移动物体产生的迹线，通常由一系列按时间顺序排列的点表示，其中每个点由地理空间坐标集和时间戳组成。位置感应和无线通信技术的快速进步使我们能够收集和存储大量的轨迹数据。因此，许多研究人员使用轨迹数据来分析各种移动物体的移动性。在本文中，我们专注于“城市车辆轨迹”，这是指城市交通网络中车辆的轨迹，我们专注于“城市车辆轨迹分析”。城市车辆轨迹分析提供了前所未有的机会，可以了解城市交通网络中的车辆运动模式，包括以用户为中心的旅行经验和系统范围的时空模式。城市车辆轨迹数据的时空特征在结构上相互关联，因此，许多先前的研究人员使用了各种方法来理解这种结构。特别是，由于其强大的函数近似和特征表示能力，深度学习模型是由于许多研究人员的注意。因此，本文的目的是开发基于深度学习的城市车辆轨迹分析模型，以更好地了解城市交通网络的移动模式。特别是，本文重点介绍了两项研究主题，具有很高的必要性，重要性和适用性：下一个位置预测，以及合成轨迹生成。在这项研究中，我们向城市车辆轨迹分析提供了各种新型模型，使用深度学习。

随着移动设备和基于位置的服务越来越多地在不同的智能城市场景和应用程序中开发，由于数据收集和共享，许多意外的隐私泄漏已经出现。当与云辅助应用程序共享地理位置数据时，用户重新识别和其他敏感的推论是主要的隐私威胁。值得注意的是，四个时空点足以唯一地识别95％的个人，这加剧了个人信息泄漏。为了解决诸如用户重新识别之类的恶意目的，我们提出了一种基于LSTM的对抗机制，具有代表性学习，以实现原始地理位置数据（即移动性数据）的隐私权特征表示，以共享目的。这些表示旨在以最小的公用事业预算（即损失）最大程度地减少用户重新识别和完整数据重建的机会。我们通过量化轨迹重建风险，用户重新识别风险和移动性可预测性来量化移动性数据集的隐私性权衡权衡来训练该机制。我们报告了探索性分析，使用户能够通过特定的损失功能及其权重参数评估此权衡。四个代表性移动数据集的广泛比较结果证明了我们提出的在移动性隐私保护方面的架构的优越性以及提议的隐私权提取器提取器的效率。我们表明，流动痕迹的隐私能够以边际移动公用事业为代价获得体面的保护。我们的结果还表明，通过探索帕累托最佳设置，我们可以同时增加隐私（45％）和实用程序（32％）。

人口级社会事件，如民事骚乱和犯罪，往往对我们的日常生活产生重大影响。预测此类事件对于决策和资源分配非常重要。由于缺乏关于事件发生的真实原因和潜在机制的知识，事件预测传统上具有挑战性。近年来，由于两个主要原因，研究事件预测研究取得了重大进展：（1）机器学习和深度学习算法的开发和（2）社交媒体，新闻来源，博客，经济等公共数据的可访问性指标和其他元数据源。软件/硬件技术中的数据的爆炸性增长导致了社会事件研究中的深度学习技巧的应用。本文致力于提供社会事件预测的深层学习技术的系统和全面概述。我们专注于两个社会事件的域名：\ Texit {Civil unrest}和\ texit {犯罪}。我们首先介绍事件预测问题如何作为机器学习预测任务制定。然后，我们总结了这些问题的数据资源，传统方法和最近的深度学习模型的发展。最后，我们讨论了社会事件预测中的挑战，并提出了一些有希望的未来研究方向。

目前，下一个位置推荐在基于位置的社交网络应用程序和服务中起着重要作用。虽然已经提出了许多方法来解决这个问题，但到目前为止，三个重要挑战尚未得到很好的解决：（1）大多数现有方法基于经常性网络，这是耗费训练长期序列，因为不允许完整的平行度; （2）个性化偏好通常不被认为是合理的; （3）现有方法很少系统地研究了如何在轨迹数据中有效地利用各种辅助信息（例如，用户ID和时间戳）和非连续位置之间的时空关系。为了解决上述挑战，我们提出了一种名为SANMOVE的新型方法，是一种自我关注网络的模型，通过捕获用户的长期和短期移动模式来预测下一个位置。具体而言，SANMOVE引入了一个长期偏好学习模块，它使用自我关注模块来捕获用户的长期移动模式，可以代表用户的个性化位置偏好。同时，SanMove使用空间延伸的非侵入自我关注（Stnova）来利用辅助信息来学习短期偏好。我们使用两个真实世界数据集进行评估SANMOVE，并演示SANMOVE不仅比基于最先进的RNN的预测模型更快，而且还优于下一个位置预测的基线。

当前的利益点方法（POI）建议通过标准空间特征（例如POI坐标，社交网络等）来了解用户的偏好。这些模型忽略了空间移动性的关键方面 - 每个用户都承载他们的偏好无论他们走到哪里，智能手机。此外，随着隐私问题的越来越多，用户避免分享其确切的地理坐标及其社交媒体活动。在本文中，我们提出了Revamp，这是一种顺序POI推荐方法，该方法利用智能手机应用程序（或应用程序）上的用户活动来识别其移动性偏好。这项工作与最近对在线城市用户的心理学研究保持一致，这表明其空间行动行为在很大程度上受其智能手机应用程序的活动影响。此外，我们对粗粒智能手机数据的建议是指以隐私意识的方式收集的数据日志，即仅由（a）类别的智能手机应用程序和（b）类别的签到位置组成。因此，改装并不愿意精确地坐标，社交网络或要访问的特定应用程序。在自我注意模型的疗效的推动下，我们使用两种形式的位置编码（绝对和相对）学习了用户的POI偏好，每种位置编码是从A的签入动力学中提取的，在A的入住序列中提取用户。来自中国的两个大规模数据集进行的广泛实验表明，改革的预测能力及其预测应用程序和POI类别的能力。

Deep learning approaches for spatio-temporal prediction problems such as crowd-flow prediction assumes data to be of fixed and regular shaped tensor and face challenges of handling irregular, sparse data tensor. This poses limitations in use-case scenarios such as predicting visit counts of individuals' for a given spatial area at a particular temporal resolution using raster/image format representation of the geographical region, since the movement patterns of an individual can be largely restricted and localized to a certain part of the raster. Additionally, current deep-learning approaches for solving such problem doesn't account for the geographical awareness of a region while modelling the spatio-temporal movement patterns of an individual. To address these limitations, there is a need to develop a novel strategy and modeling approach that can handle both sparse, irregular data while incorporating geo-awareness in the model. In this paper, we make use of quadtree as the data structure for representing the image and introduce a novel geo-aware enabled deep learning layer, GA-ConvLSTM that performs the convolution operation based on a novel geo-aware module based on quadtree data structure for incorporating spatial dependencies while maintaining the recurrent mechanism for accounting for temporal dependencies. We present this approach in the context of the problem of predicting spatial behaviors of an individual (e.g., frequent visits to specific locations) through deep-learning based predictive model, GADST-Predict. Experimental results on two GPS based trace data shows that the proposed method is effective in handling frequency visits over different use-cases with considerable high accuracy.

近年来见证了基于地点的社交网络（LBSN）服务的日益普及，这为构建个性化的兴趣点（POI）推荐系统提供了无与伦比的机会。现有的POI推荐和位置预测任务利用过去的信息来从单个方向角度使用过去的推荐或预测，而缺少的POI类别识别任务需要在缺少类别之前和之后使用检查信息。因此，长期存在的挑战是如何在移动用户的现实检查数据中有效地识别丢失的POI类别。为此，在本文中，我们提出了一种新的神经网络方法，通过整合双向全球非个人转换模式和用户的个人喜好来识别缺失的POI类别。具体而言，我们精致地设计了一个关注匹配的单元格，以模拟登记类别信息如何与他们的非个人转换模式和个人偏好匹配。最后，我们在两个现实世界数据集中评估我们的模型，与最先进的基线相比，这明确验证了其有效性。此外，我们的模型可以自然扩展，以解决具有竞争性能的下一个POI类别推荐和预测任务。

接触犯罪和暴力会损害个人的生活质量和社区的经济增长。鉴于机器学习的迅速发展，需要探索自动解决方案以防止犯罪。随着细粒度的城市和公共服务数据的可用性越来越多，最近融合了这种跨域信息以促进犯罪预测的激增。通过捕获有关社会结构，环境和犯罪趋势的信息，现有的机器学习预测模型从不同观点探索了动态犯罪模式。但是，这些方法主要将这种多源知识转换为隐性和潜在表示（例如，学区的嵌入），这仍然是研究显式因素对幕后犯罪发生的影响的影响仍然是一个挑战。在本文中，我们提出了一个时空的元数据指导性犯罪预测（STMEC）框架，以捕获犯罪行为的动态模式，并明确地表征了环境和社会因素如何相互互动以产生预测。广泛的实验表明，与其他先进的时空模型相比，STMEC的优越性，尤其是在预测重罪（例如使用危险武器的抢劫和袭击）时。

训练前轨迹嵌入是空间轨迹挖掘中的一个基本和关键程序，对各种下游任务都是有益的。产生有效轨迹嵌入的关键是从轨迹（包括运动模式和旅行目的）中提取高级旅行语义，并考虑轨迹的长期空间时间相关性。尽管有现有的努力，但训练前轨迹嵌入仍存在重大挑战。首先，常用的生成借个任务不适合从轨迹中提取高级语义。其次，现有的数据增强方法非常适合轨迹数据集。第三，当前的编码器设计无法完全合并轨迹中隐藏的长期时空相关性。为了应对这些挑战，我们提出了一种新型的对比性时空轨迹嵌入（CSTTE）模型，用于学习全面的轨迹嵌入。 CSTTE采用了对比度学习框架，以使其借口任务对噪音具有牢固的态度。一种专门设计的轨迹数据增强方法与对比度借口任务相结合，以保留高级旅行语义。我们还构建了有效的时空轨迹编码器，以有效，全面地对轨迹中的长期空间 - 周期性相关性进行建模。与现有的轨迹嵌入方法相比，对两个下游任务和三个现实世界数据集进行了广泛的实验证明了我们的模型的优势。

人类移动性数据从兴趣点累积（POI）Chee-Ins为用户行为理解提供了很大的机会。然而，实际移动数据中的数据质量问题（例如，地理位置信息丢失，虚幻的检查，数据稀疏）限制了现有的POI导向研究的有效性，例如POI推荐和位置预测，当应用于真实应用时。为此，在本文中，我们开发了一个名为BI-STDDP的模型，可以集成双向时空依赖和用户的动态偏好，以识别用户已经访问的缺失的POI登记入住，其中时间。具体地，我们首先利用POI的双向全局空间和局部时间信息来捕获复杂的依赖关系。然后，将与用户和POI信息组合的目标时间模式被馈送到多层网络中以捕获用户的动态偏好。此外，动态偏好被转换为与依赖关系相同的空间以形成最终模型。最后，在三个大规模的现实世界数据集中评估所提出的模型，结果表明，与最先进的方法相比，我们模型的显着改进。此外，值得注意的是，所提出的模型可以自然地扩展，以解决具有竞争性表现的POI推荐和位置预测任务。

基于历史行为数据的行为预测具有实际的现实意义。它已在推荐，预测学习成绩等中应用。随着用户数据描述的完善，新功能的发展以及多个数据源的融合，包含多种行为的异质行为数据变得越来越普遍。在本文中，我们旨在纳入行为预测的异质用户行为和社会影响。为此，本文提出了一个长期术语内存（LSTM）的变体，该变体可以在对行为序列进行建模时考虑上下文信息，该投影机制可以模拟不同类型的行为之间的多方面关系以及多方面的多方面关系注意机制可以动态地从不同的方面找到信息。许多行为数据属于时空数据。提出了一种基于时空数据并建模社会影响力的社交行为图的无监督方法。此外，基于剩余的基于学习的解码器旨在根据社会行为表示和其他类型的行为表示自动构建多个高阶交叉特征。对现实世界数据集的定性和定量实验已经证明了该模型的有效性。

下一个利益点（POI）的建议已成为基于位置的社交网络（LBSN）中必不可少的功能，因为它在帮助人们决定下一个POI访问方面有效。但是，准确的建议需要大量的历史检查数据，因此威胁用户隐私，因为云服务器需要处理位置敏感的数据。尽管有几个用于保护隐私的POI建议的设备框架，但在存储和计算方面，它们仍然是资源密集的，并且对用户POI交互的高稀疏性表现出有限的鲁棒性。在此基础上，我们为POI推荐（DCLR）提出了一个新颖的分散协作学习框架，该框架允许用户以协作方式在本地培训其个性化模型。 DCLR大大降低了本地模型对云的依赖性训练，并可用于扩展任意的集中建议模型。为了抵消在学习每个本地模型时在设备用户数据的稀疏性，我们设计了两个自学信号，以通过POI的地理和分类相关性在服务器上预处理POI表示。为了促进协作学习，我们创新建议将来自地理或语义上类似用户的知识纳入每个本地模型，并以细心的聚合和相互信息最大化。协作学习过程可利用设备之间的通信，同时仅需要中央服务器的少量参与来识别用户组，并且与诸如差异隐私之类的常见隐私保护机制兼容。我们使用两个现实世界数据集评估了DCLR，结果表明，与集中式同行相比，DCLR的表现优于最先进的设备框架，并产生竞争结果。

在这项工作中，我们审查并评估了一个具有公开可用和广泛使用的数据集的深度学习知识追踪（DLKT）模型，以及学习编程的新型学生数据集。评估的DLKT模型已重新实现，用于评估先前报告的结果的可重复性和可复制性。我们测试在与模型的主要架构上独立于模型的比较模型中找到的不同输入和输出层变化，以及在某些研究中隐含地和明确地使用的不同最大尝试计数选项。几个指标用于反映评估知识追踪模型的质量。评估的知识追踪模型包括Vanilla-DKT，两个长短期内存深度知识跟踪（LSTM-DKT）变体，两个动态键值存储器网络（DKVMN）变体，以及自我细致的知识跟踪（SAKT）。我们评估Logistic回归，贝叶斯知识跟踪（BKT）和简单的非学习模型作为基准。我们的结果表明，DLKT模型一般优于非DLKT模型，DLKT模型之间的相对差异是微妙的，并且在数据集之间经常变化。我们的研究结果还表明，通常的纯模型，例如平均预测，比更复杂的知识追踪模型更好地表现出更好的性能，尤其是在准确性方面。此外，我们的公制和封路数据分析显示，用于选择最佳模型的度量标准对模型的性能有明显的影响，并且该度量选择可以影响模型排名。我们还研究了输入和输出层变化的影响，过滤出长期尝试序列，以及随机性和硬件等非模型属性。最后，我们讨论模型性能可重量和相关问题。我们的模型实现，评估代码和数据作为本工作的一部分发布。

As ride-hailing services become increasingly popular, being able to accurately predict demand for such services can help operators efficiently allocate drivers to customers, and reduce idle time, improve congestion, and enhance the passenger experience. This paper proposes UberNet, a deep learning Convolutional Neural Network for short-term prediction of demand for ride-hailing services. UberNet empploys a multivariate framework that utilises a number of temporal and spatial features that have been found in the literature to explain demand for ride-hailing services. The proposed model includes two sub-networks that aim to encode the source series of various features and decode the predicting series, respectively. To assess the performance and effectiveness of UberNet, we use 9 months of Uber pickup data in 2014 and 28 spatial and temporal features from New York City. By comparing the performance of UberNet with several other approaches, we show that the prediction quality of the model is highly competitive. Further, Ubernet's prediction performance is better when using economic, social and built environment features. This suggests that Ubernet is more naturally suited to including complex motivators in making real-time passenger demand predictions for ride-hailing services.

GPS trajectories are the essential foundations for many trajectory-based applications, such as travel time estimation, traffic prediction and trajectory similarity measurement. Most applications require a large amount of high sample rate trajectories to achieve a good performance. However, many real-life trajectories are collected with low sample rate due to energy concern or other constraints.We study the task of trajectory recovery in this paper as a means for increasing the sample rate of low sample trajectories. Currently, most existing works on trajectory recovery follow a sequence-to-sequence diagram, with an encoder to encode a trajectory and a decoder to recover real GPS points in the trajectory. However, these works ignore the topology of road network and only use grid information or raw GPS points as input. Therefore, the encoder model is not able to capture rich spatial information of the GPS points along the trajectory, making the prediction less accurate and lack spatial consistency. In this paper, we propose a road network enhanced transformer-based framework, namely RNTrajRec, for trajectory recovery. RNTrajRec first uses a graph model, namely GridGNN, to learn the embedding features of each road segment. It next develops a spatial-temporal transformer model, namely GPSFormer, to learn rich spatial and temporal features along with a Sub-Graph Generation module to capture the spatial features for each GPS point in the trajectory. It finally forwards the outputs of encoder model into a multi-task decoder model to recover the missing GPS points. Extensive experiments based on three large-scale real-life trajectory datasets confirm the effectiveness of our approach.

Time series anomaly detection has applications in a wide range of research fields and applications, including manufacturing and healthcare. The presence of anomalies can indicate novel or unexpected events, such as production faults, system defects, or heart fluttering, and is therefore of particular interest. The large size and complex patterns of time series have led researchers to develop specialised deep learning models for detecting anomalous patterns. This survey focuses on providing structured and comprehensive state-of-the-art time series anomaly detection models through the use of deep learning. It providing a taxonomy based on the factors that divide anomaly detection models into different categories. Aside from describing the basic anomaly detection technique for each category, the advantages and limitations are also discussed. Furthermore, this study includes examples of deep anomaly detection in time series across various application domains in recent years. It finally summarises open issues in research and challenges faced while adopting deep anomaly detection models.

给定一系列集合，其中每个集合与时间戳关联并包含任意数量的元素，时间集的任务预测旨在预测后续集合中的元素。先前对时间集预测的研究主要通过从自己的序列中学习来捕获每个用户的进化偏好。尽管有见地，但我们认为：1）不同用户序列中潜在的协作信号是必不可少的，但尚未被利用； 2）用户还倾向于显示固定的偏好，而现有方法未能考虑。为此，我们提出了一个集成的学习框架，以对时间集预测的用户的进化和固定偏好进行建模，该预测首先通过按时间顺序排列所有用户群的交互来构建通用序列，然后在每个用户集中学习相互作用。特别是，对于每个用户集的交互，我们首先设计一个进化用户偏好建模组件，以跟踪用户的时间不断发展的偏好，并在不同用户之间利用潜在的协作信号。该组件维护一个存储库来存储相关用户和元素的记忆，并根据当前编码的消息和过去的记忆不断更新其记忆。然后，我们设计了一个固定的用户偏好模型模块，以根据历史序列来发现每个用户的个性化特征，该模块从双重角度自适应地汇总了以前相互作用的元素，并在用户和元素的嵌入方式的指导下。最后，我们开发了一种设定批次算法来提高模型效率，该算法可以提前创建时间一致的批次，并平均实现3.5倍的训练速度。现实世界数据集的实验证明了我们方法的有效性和良好的解释性。