业务流程的自动化和数字化导致信息系统中捕获的大量数据，这可以帮助企业更好地理解其流程，改善工作流或提供运营支持。通过对正在进行的过程进行预测，可以识别瓶颈并重新分配资源，以及在过程实例的状态（案例）中获得的见解。传统上，数据是以带有单个识别案例概念的事件日志的形式从系统中提取的，例如用于现金订单（O2C）流程的订单ID。但是，实际过程通常具有多种对象类型，例如订单，项目和软件包，因此强制使用单个案例概念的格式不会反映数据中的基本关系。引入了以对象为中心的事件日志（OCEL）格式，以正确捕获此信息。最先进的预测方法仅根据传统事件日志量身定制。该论点表明，可以使用OCEL中包含的丰富数据来增强一种利用生成对抗网络（GAN），长期记忆（LSTM）体系结构（SEQ2SEQ）的预测方法。 OCEL中的对象可以具有可用于预测下一个事件和时间戳的属性，例如对于对象类型包的优先类属性，指示速度较慢或更快地处理。在预测剩余事件的序列相似性和时间戳的平均绝对误差（MAE）的指标中，本文中的方法匹配或超过了先前的研究，具体取决于所选对象属性是否是模型的有用特征。此外，本文提供了一个Web界面，以预测用户输入中的下一个活动序列。

预测过程分析已成为组织的基本援助，从而为其流程提供在线运营支持。但是，需要向流程利益相关者提供解释为什么预测给定流程执行以某种方式行事的原因。否则，他们将不太可能相信预测性监测技术，从而采用它。本文提出了一个预测分析框架，该框架还具有基于Shapley值的游戏理论的解释功能。该框架已在IBM Process采矿套件中实施，并为业务用户商业化。该框架已在现实生活事件数据上进行了测试，以评估预测的质量和相应的评估。特别是，已经执行了用户评估，以了解系统提供的解释是否可以使流程利益相关者可理解。

“轨迹”是指由地理空间中的移动物体产生的迹线，通常由一系列按时间顺序排列的点表示，其中每个点由地理空间坐标集和时间戳组成。位置感应和无线通信技术的快速进步使我们能够收集和存储大量的轨迹数据。因此，许多研究人员使用轨迹数据来分析各种移动物体的移动性。在本文中，我们专注于“城市车辆轨迹”，这是指城市交通网络中车辆的轨迹，我们专注于“城市车辆轨迹分析”。城市车辆轨迹分析提供了前所未有的机会，可以了解城市交通网络中的车辆运动模式，包括以用户为中心的旅行经验和系统范围的时空模式。城市车辆轨迹数据的时空特征在结构上相互关联，因此，许多先前的研究人员使用了各种方法来理解这种结构。特别是，由于其强大的函数近似和特征表示能力，深度学习模型是由于许多研究人员的注意。因此，本文的目的是开发基于深度学习的城市车辆轨迹分析模型，以更好地了解城市交通网络的移动模式。特别是，本文重点介绍了两项研究主题，具有很高的必要性，重要性和适用性：下一个位置预测，以及合成轨迹生成。在这项研究中，我们向城市车辆轨迹分析提供了各种新型模型，使用深度学习。

Predictive monitoring is a subfield of process mining that aims to predict how a running case will unfold in the future. One of its main challenges is forecasting the sequence of activities that will occur from a given point in time -- suffix prediction -- . Most approaches to the suffix prediction problem learn to predict the suffix by learning how to predict the next activity only, not learning from the whole suffix during the training phase. This paper proposes a novel architecture based on an encoder-decoder model with an attention mechanism that decouples the representation learning of the prefixes from the inference phase, predicting only the activities of the suffix. During the inference phase, this architecture is extended with a heuristic search algorithm that improves the selection of the activity for each index of the suffix. Our approach has been tested using 12 public event logs against 6 different state-of-the-art proposals, showing that it significantly outperforms these proposals.

Various methods using machine and deep learning have been proposed to tackle different tasks in predictive process monitoring, forecasting for an ongoing case e.g. the most likely next event or suffix, its remaining time, or an outcome-related variable. Recurrent neural networks (RNNs), and more specifically long short-term memory nets (LSTMs), stand out in terms of popularity. In this work, we investigate the capabilities of such an LSTM to actually learn the underlying process model structure of an event log. We introduce an evaluation framework that combines variant-based resampling and custom metrics for fitness, precision and generalization. We evaluate 4 hypotheses concerning the learning capabilities of LSTMs, the effect of overfitting countermeasures, the level of incompleteness in the training set and the level of parallelism in the underlying process model. We confirm that LSTMs can struggle to learn process model structure, even with simplistic process data and in a very lenient setup. Taking the correct anti-overfitting measures can alleviate the problem. However, these measures did not present themselves to be optimal when selecting hyperparameters purely on predicting accuracy. We also found that decreasing the amount of information seen by the LSTM during training, causes a sharp drop in generalization and precision scores. In our experiments, we could not identify a relationship between the extent of parallelism in the model and the generalization capability, but they do indicate that the process' complexity might have impact.

这是一门专门针对STEM学生开发的介绍性机器学习课程。我们的目标是为有兴趣的读者提供基础知识，以在自己的项目中使用机器学习，并将自己熟悉术语作为进一步阅读相关文献的基础。在这些讲义中，我们讨论受监督，无监督和强化学习。注释从没有神经网络的机器学习方法的说明开始，例如原理分析，T-SNE，聚类以及线性回归和线性分类器。我们继续介绍基本和先进的神经网络结构，例如密集的进料和常规神经网络，经常性的神经网络，受限的玻尔兹曼机器，（变性）自动编码器，生成的对抗性网络。讨论了潜在空间表示的解释性问题，并使用梦和对抗性攻击的例子。最后一部分致力于加强学习，我们在其中介绍了价值功能和政策学习的基本概念。

传统的过程挖掘技术将事件数据作为输入，其中每个事件与一个对象完全关联。对象表示过程的实例化。以对象为中心的事件数据包含与表达多个过程相互作用的多个对象关联的事件。由于传统的过程挖掘技术假设与一个对象相关的事件，因此这些技术不能应用于以对象为中心的事件数据。为了使用传统的过程挖掘技术，通过删除所有对象引用，以一种以对象为中心的事件数据来平坦。扁平过程是有损的，导致从扁平数据中提取的不准确的特征。此外，在变平时丢失了以对象事件数据的图形结构。在本文中，我们介绍了一个通用框架，用于从对象事件数据中提取和编码功能。我们在以对象为中心的事件数据上本地计算功能，从而导致准确的度量。此外，我们为这些功能提供了三个编码：基于表格，顺序和图形。尽管表格和顺序编码已在过程挖掘中大量使用，但基于图的编码是一种保留以对象事件数据结构的新技术。我们提供六种用例：为三个编码中的每个编码中的每一个提供可视化和预测用例。我们在预测用例中使用可解释的AI来显示以对象为中心的特征的实用性以及针对预测模型的基于顺序和基于图的编码的结构。

对业务流程的预测监控是流程挖掘的子领域，旨在预测下一个事件的特征或下一个事件的序列。虽然已经提出了基于深度学习的多种方法，主要是经常发生的神经网络和卷积神经网络，但它们都不是真正利用过程模型中可用的结构信息。本文提出了一种基于图形卷积网络和经常性神经网络的方法，所述内部网络从过程模型中使用信息。真实事件日志的实验评估表明，我们的方法更加一致，更优于当前的最先进的方法。

进程感知的推荐系统可以提供关键的决策支持功能，以帮助通过推荐接下来采取的操作来执行业务流程执行。基于深度学习领域的最近进步，我们介绍了一种基于新的内存增强神经网络（MANN）构建过程感知推荐系统。我们提出了一种新颖的网络架构，即写保护的双控制器存储器增强神经网络（DCW-MANN），用于构建规范模型。为了评估我们方法的可行性和有用性，我们考虑了三个现实世界数据集，并表明我们的方法在后缀推荐和下一个任务预测任务的几个基线上导致更好的性能。

本次调查绘制了用于分析社交媒体数据的生成方法的研究状态的广泛的全景照片（Sota）。它填补了空白，因为现有的调查文章在其范围内或被约会。我们包括两个重要方面，目前正在挖掘和建模社交媒体的重要性：动态和网络。社会动态对于了解影响影响或疾病的传播，友谊的形成，友谊的形成等，另一方面，可以捕获各种复杂关系，提供额外的洞察力和识别否则将不会被注意的重要模式。

Time series anomaly detection has applications in a wide range of research fields and applications, including manufacturing and healthcare. The presence of anomalies can indicate novel or unexpected events, such as production faults, system defects, or heart fluttering, and is therefore of particular interest. The large size and complex patterns of time series have led researchers to develop specialised deep learning models for detecting anomalous patterns. This survey focuses on providing structured and comprehensive state-of-the-art time series anomaly detection models through the use of deep learning. It providing a taxonomy based on the factors that divide anomaly detection models into different categories. Aside from describing the basic anomaly detection technique for each category, the advantages and limitations are also discussed. Furthermore, this study includes examples of deep anomaly detection in time series across various application domains in recent years. It finally summarises open issues in research and challenges faced while adopting deep anomaly detection models.

被证明是深度学习是一种用于建模顺序数据的有效工具，如自然语言，计算机视觉和信号处理的成功所示。过程挖掘涉及通过支持信息系统记录的执行数据来发现对业务流程的见解。记录数据（事件日志）由对应于过程的执行的事件序列（迹线）形成。许多深度学习技术已成功适用于预测过程挖掘，其旨在预测过程结果，剩余时间，下一个事件，甚至运行迹线的后缀。过程挖掘中的迹线是多模式序列，而不是自然语言句子或图像的结构非常不同。这可能需要不同的处理方法。到目前为止，几乎没有焦点这些差异，呈现挑战。看起来后缀预测作为这些任务的最具挑战性，只有在平均措施和少量现实生活事件日志中评估了深度学习模型的性能。由于不同的预处理和评估策略，比较纸张之间的结果是困难的。可能是相关的挑战是微量痕量分布的歪曲和现实事件日志中的活动分布的歪曲。我们提供了端到端的框架，可以在公共设置中比较七种最先进的顺序体系结构的性能。结果表明，序列建模仍然有大量改善大多数更复杂的数据集的空间。需要进一步的研究和见解，以获得一致的性能，不仅仅是平均措施，而且还在所有的前缀上。

流程挖掘提供了各种算法来根据事件数据分析过程执行。过程发现是过程挖掘技术的最突出类别，旨在从事件日志中发现过程模型，但是，在使用现实生活数据时会导致意大利面模型。因此，已经在传统事件日志（即带有单个情况概念的事件日志）上提出了几种聚类技术，以降低过程模型的复杂性并发现案例的均匀子集。然而，在现实生活中，尤其是在企业对企业（B2B）过程的背景下，流程中涉及多个对象。最近，已经引入了以对象为中心的事件日志（OCEL）来捕获此类过程的信息，并在OCEL的顶部开发了几种过程发现技术。然而，提出的关于真实OCEL的发现技术的输出导致更具信息性但更复杂的模型。在本文中，我们提出了一种基于聚类的方法，用于群集在OCEL中类似对象，以简化所获得的过程模型。使用对实际B2B过程的案例研究，我们证明我们的方法降低了过程模型的复杂性，并生成了对象的相干子集，这些子集有助于最终用户获得对流程的见解。

Alphazero，Leela Chess Zero和Stockfish Nnue革新了计算机国际象棋。本书对此类引擎的技术内部工作进行了完整的介绍。该书分为四个主要章节 - 不包括第1章（简介）和第6章（结论）：第2章引入神经网络，涵盖了所有用于构建深层网络的基本构建块，例如Alphazero使用的网络。内容包括感知器，后传播和梯度下降，分类，回归，多层感知器，矢量化技术，卷积网络，挤压网络，挤压和激发网络，完全连接的网络，批处理归一化和横向归一化和跨性线性单位，残留层，剩余层，过度效果和底漆。第3章介绍了用于国际象棋发动机以及Alphazero使用的经典搜索技术。内容包括minimax，alpha-beta搜索和蒙特卡洛树搜索。第4章展示了现代国际象棋发动机的设计。除了开创性的Alphago，Alphago Zero和Alphazero我们涵盖Leela Chess Zero，Fat Fritz，Fat Fritz 2以及有效更新的神经网络（NNUE）以及MAIA。第5章是关于实施微型α。 Shexapawn是国际象棋的简约版本，被用作为此的示例。 Minimax搜索可以解决六ap峰，并产生了监督学习的培训位置。然后，作为比较，实施了类似Alphazero的训练回路，其中通过自我游戏进行训练与强化学习结合在一起。最后，比较了类似α的培训和监督培训。

这本数字本书包含在物理模拟的背景下与深度学习相关的一切实际和全面的一切。尽可能多，所有主题都带有Jupyter笔记本的形式的动手代码示例，以便快速入门。除了标准的受监督学习的数据中，我们将看看物理丢失约束，更紧密耦合的学习算法，具有可微分的模拟，以及加强学习和不确定性建模。我们生活在令人兴奋的时期：这些方法具有从根本上改变计算机模拟可以实现的巨大潜力。

Generative Adversarial Networks (GANs) were introduced by Goodfellow in 2014, and since then have become popular for constructing generative artificial intelligence models. However, the drawbacks of such networks are numerous, like their longer training times, their sensitivity to hyperparameter tuning, several types of loss and optimization functions and other difficulties like mode collapse. Current applications of GANs include generating photo-realistic human faces, animals and objects. However, I wanted to explore the artistic ability of GANs in more detail, by using existing models and learning from them. This dissertation covers the basics of neural networks and works its way up to the particular aspects of GANs, together with experimentation and modification of existing available models, from least complex to most. The intention is to see if state of the art GANs (specifically StyleGAN2) can generate album art covers and if it is possible to tailor them by genre. This was attempted by first familiarizing myself with 3 existing GANs architectures, including the state of the art StyleGAN2. The StyleGAN2 code was used to train a model with a dataset containing 80K album cover images, then used to style images by picking curated images and mixing their styles.

本文使用机器学习方法对建模用户行为进行建模的开放精算数学问题，以预测非寿命保险产品的购买意图。一家公司了解用户与其网站的互动是有价值的，因为它为消费者行为提供了丰富和个性化的洞察力。用户行为建模的大多数现有研究旨在解释或预测搜索引擎结果页面或在赞助搜索中估计点击率。这些模型基于关于网页的用户检测模式的概念和网页的项目表示。调查建模用户行为以预测商业网站的购买意图的问题，我们观察到用户的意图会产生高依赖，对用户如何在用户访问的不同网页的方式导航网站，什么样的网页用户互动，用户在每个网页上花了多少时间。灵感来自这些发现，我们提出了两种不同的方式代表用户会话的特征，导致了基于用户点击的购买预测的两个模型：一个基于馈送前向神经网络，另一个基于经常性神经网络。我们通过使用用户的人口统计特征将上述两种模型与模型进行比较，检查用户点击用户点击的歧视以预测购买意图。我们的实验结果表明，根据标准分类评估指标，我们的点击基础模型显着优于人口统计模型，并且基于用户点击的顺序表示的模型比基于点击特征工程的模型产生略大的性能。

即使机器学习算法已经在数据科学中发挥了重要作用，但许多当前方法对输入数据提出了不现实的假设。由于不兼容的数据格式，或数据集中的异质，分层或完全缺少的数据片段，因此很难应用此类方法。作为解决方案，我们提出了一个用于样本表示，模型定义和培训的多功能，统一的框架，称为“ Hmill”。我们深入审查框架构建和扩展的机器学习的多个范围范式。从理论上讲，为HMILL的关键组件的设计合理，我们将通用近似定理的扩展显示到框架中实现的模型所实现的所有功能的集合。本文还包含有关我们实施中技术和绩效改进的详细讨论，该讨论将在MIT许可下发布供下载。该框架的主要资产是其灵活性，它可以通过相同的工具对不同的现实世界数据源进行建模。除了单独观察到每个对象的一组属性的标准设置外，我们解释了如何在框架中实现表示整个对象系统的图表中的消息推断。为了支持我们的主张，我们使用框架解决了网络安全域的三个不同问题。第一种用例涉及来自原始网络观察结果的IoT设备识别。在第二个问题中，我们研究了如何使用以有向图表示的操作系统的快照可以对恶意二进制文件进行分类。最后提供的示例是通过网络中实体之间建模域黑名单扩展的任务。在所有三个问题中，基于建议的框架的解决方案可实现与专业方法相当的性能。

A well-performing prediction model is vital for a recommendation system suggesting actions for energy-efficient consumer behavior. However, reliable and accurate predictions depend on informative features and a suitable model design to perform well and robustly across different households and appliances. Moreover, customers' unjustifiably high expectations of accurate predictions may discourage them from using the system in the long term. In this paper, we design a three-step forecasting framework to assess predictability, engineering features, and deep learning architectures to forecast 24 hourly load values. First, our predictability analysis provides a tool for expectation management to cushion customers' anticipations. Second, we design several new weather-, time- and appliance-related parameters for the modeling procedure and test their contribution to the model's prediction performance. Third, we examine six deep learning techniques and compare them to tree- and support vector regression benchmarks. We develop a robust and accurate model for the appliance-level load prediction based on four datasets from four different regions (US, UK, Austria, and Canada) with an equal set of appliances. The empirical results show that cyclical encoding of time features and weather indicators alongside a long-short term memory (LSTM) model offer the optimal performance.

可靠的剩余时间预测正在进行的业务流程是一个高度相关的主题。一个例子是订单交付，这是一个关键的竞争因素，例如零售是因为它是客户满意度的主要驱动力。为了及时实现及时的交付，对交付过程剩余时间的准确预测至关重要。在过程挖掘领域内，已经提出了各种各样的剩余时间预测技术。在这项工作中，我们基于随机培养皿网的剩余时间预测，该预测通常分布在k-nearthiend邻居中。 k-nearest邻居算法是在存储过去的时间以完成先前活动的时间的简单矢量上执行的。通过仅采用一部分实例，获得了更具代表性和稳定的随机培养皿网，从而导致更准确的时间预测。我们讨论了该技术及其在Python中的基本实现，并使用不同的现实世界数据集来评估我们扩展的预测能力。这些实验在结合有关预测能力方面的两种技术方面都具有明显的优势。