在这项工作中，我们提出了一个完全可区分的图形神经网络（GNN）的架构，用于用于通道解码和展示各种编码方案的竞争性解码性能，例如低密度奇偶校验检查（LDPC）和BCH代码。这个想法是让神经网络（NN）通过给定图的通用消息传递算法，该算法通过用可训练的函数替换节点和边缘消息更新来代表正向误差校正（FEC）代码结构。与许多其他基于深度学习的解码方法相反，提出的解决方案享有对任意块长度的可扩展性，并且训练不受维数的诅咒的限制。我们在常规渠道解码中对最新的解码以及最近的基于深度学习的结果基准了我们提出的解码器。对于（63,45）BCH代码，我们的解决方案优于加权信念传播（BP）的解码约0.4 dB，而解码迭代率明显较小，甚至对于5G NR LDPC代码，我们观察到与常规BP解码相比，我们观察到竞争性能。对于BCH代码，所得的GNN解码器只能以9640个权重进行完全参数。

查找最佳消息量化是低复杂性信念传播（BP）解码的关键要求。为此，我们提出了一个浮点替代模型，该模型模仿量化效果，作为均匀噪声的添加，其幅度是可训练的变量。我们验证替代模型与定点实现的行为非常匹配，并提出了手工制作的损失功能，以实现复杂性和误差率性能之间的权衡。然后，采用一种基于深度学习的方法来优化消息位。此外，我们表明参数共享既可以确保实现友好的解决方案，又比独立参数导致更快的培训收敛。我们为5G低密度均衡检查（LDPC）代码提供模拟结果，并在浮点分解的0.2 dB内报告误差率性能，平均消息量化位低于3.1位。此外，我们表明，学到的位宽也将其推广到其他代码速率和渠道。

虽然可以通过对位渠道进行排序来有效地实现连续策略解码的极性代码，但以有效且可扩展的方式为连续策略列表（SCL）解码找到最佳的极性代码结构，但仍在等待研究。本文提出了一个基于图形神经网络（GNN）基于迭代消息通话（IMP）算法的强化算法，以解决SCL解码的极性代码构建问题。该算法仅在极地代码的生成器矩阵诱导的图的局部结构上运行。 IMP模型的大小独立于区块长度和代码速率，从而使其可扩展到具有长块长度的极性代码。此外，单个受过训练的IMP模型可以直接应用于广泛的目标区块长度，代码速率和渠道条件，并且可以生成相应的极性代码，而无需单独的训练。数值实验表明，IMP算法找到了极性代码构建体，这些构建体在环状划分 - 检查辅助辅助AD的SCL（CA-SCL）解码下显着优于经典构建体。与针对SCL/CA-SCL解码量身定制的其他基于学习的施工方法相比，IMP算法构建具有可比或较低帧错误率的极地代码，同时通过消除每个目标阻止长度的单独训练的需求，从而大大降低了训练的复杂性，代码速率和通道状况。

已知的信念信念传播解码变体在将不同的权重分配给消息传递边缘后，可以轻松地作为神经网络展开，因为神经网络灵活地传递。在本文中，我们关注如何在深度学习框架内以可训练的参数的形式确定这些权重。首先，提出了一种新方法来通过利用靶向混合物密度的近似值来生成高质量的训练数据。然后，在追踪训练演化曲线后，训练损失和解码指标之间的强正相关已完全暴露。最后，为了促进训练收敛并降低解码的复杂性，我们强调了削减可训练参数的数量的必要性，同时强调这些幸存的参数的位置，这在广泛的模拟中是合理的。

我们考虑在线性符号间干扰通道上使用因子图框架的符号检测的应用。基于Ungerboeck观察模型，可以得出具有吸引人复杂性能的检测算法。但是，由于基础因子图包含循环，因此总和算法（SPA）产生了次优算法。在本文中，我们制定并评估有效的策略，以通过神经增强来提高基于因子图的符号检测的性能。特别是，我们将因子节点的神经信念传播和概括是减轻因子图内周期效应的有效方法。通过将通用预处理器应用于通道输出，我们提出了一种简单的技术来改变每个SPA迭代中的基本因子图。使用这种动态因子图跃迁，我们打算保留水疗消息的外在性质，否则由于周期而受到损害。仿真结果表明，所提出的方法可以大大改善检测性能，甚至可以在各种传输方案中接近最大后验性能，同时保留在块长度和通道内存中线性线性的复杂性。

纠错码是现代通信系统中的基本组件，要求极高的吞吐量，超可靠性和低延迟。随着解码器的近期使用机器学习（ML）模型的方法提供了改进的性能和对未知环境的巨大适应性，传统的解码器斗争。我们介绍了一般框架，以进一步提高ML模型的性能和适用性。我们建议将ML解码器与竞争鉴别器网络组合，该网络试图区分码字和嘈杂的单词，因此，指导解码模型以恢复传输的码字。我们的框架是游戏理论，由生成的对抗网络（GANS）有动力，解码器和鉴别者在零和游戏中竞争。解码器学习同时解码和生成码字，而鉴别器学会讲述解码输出和码字之间的差异。因此，解码器能够将嘈杂的接收信号解码为码字，增加成功解码的概率。我们通过证明这解码器定义了我们游戏的NASH均衡点，我们与最佳最大可能性解码器展示了我们的框架的强烈连接。因此，培训均衡具有实现最佳最大可能性性能的良好可能性。此外，我们的框架不需要培训标签，这些标签通常在通信期间通常不可用，因此似乎可以在线培训并适应频道动态。为了展示我们框架的表现，我们将其与最近的神经解码器相结合，并与各种代码上的原始模型和传统解码算法相比，表现出改进的性能。

考虑了使用神经解码器进行错误校正代码的最大似然解码的问题。结果表明，通过在节点的激活上使用两个新颖的损失项可以改善神经解码器。第一个损失项对节点的激活施加了稀疏的约束。鉴于，第二个损失术语试图模仿一个具有更好性能的教师解码器的节点的激活。所提出的方法具有与神经信念传播解码器相同的运行时间复杂性和模型大小，同时将解码性能提高了BCH代码上的$ 1DB $。

我们研究了因子图框架在线性符号间干扰通道上的符号检测的应用。循环因子图具有产生低复杂性符号探测器的潜力，但是如果应用无处不在的总和产物算法，则是次优的。在本文中，我们介绍并评估策略，以通过神经增强来提高基于环的符号检测算法的性能。特别是，我们将神经信念传播作为抵消因子图内周期效应的有效方法。我们进一步提出了通道输出的线性预处理器的应用和优化。通过修改观察模型，预处理可以有效地改变基本因子图，从而显着提高检测性能并降低复杂性。

在这项工作中，我们提出了Reldec，一种用于顺序解码中等长度低密度奇偶校验（LDPC）代码的新方法。 Reldec背后的主要思想是，基于Markov决策过程（MDP），通过增强学习获得优化的解码策略。与我们以前的工作相比，如果代理学习在每个迭代的CNS的组（群集中）中只学习一个检查节点（CN），我们在这项工作中我们培训代理程序在群集中安排所有CN和所有集群在每一次迭代中。也就是说，在Reldec的每个学习步骤中，代理学会根据与调度特定群集的结果相关联的奖励来顺序地安排CN簇。我们还修改了MDP的状态空间表示，使RELDEC能够适用于比我们之前的工作中研究的更大的块长度LDPC代码。此外，为了在不同信道条件下进行解码，我们提出了两个相关方案，即敏捷元 - Reldec（AM-Reldec）和Meta-Reldec（M-Reldec），这两者都采用了元增强学习。所提出的Reldec计划显着优于各种LDPC代码的标准洪水和随机顺序解码，包括为5G新无线电设计的代码。

Deep learning-based approaches have been developed to solve challenging problems in wireless communications, leading to promising results. Early attempts adopted neural network architectures inherited from applications such as computer vision. They often yield poor performance in large scale networks (i.e., poor scalability) and unseen network settings (i.e., poor generalization). To resolve these issues, graph neural networks (GNNs) have been recently adopted, as they can effectively exploit the domain knowledge, i.e., the graph topology in wireless communications problems. GNN-based methods can achieve near-optimal performance in large-scale networks and generalize well under different system settings, but the theoretical underpinnings and design guidelines remain elusive, which may hinder their practical implementations. This paper endeavors to fill both the theoretical and practical gaps. For theoretical guarantees, we prove that GNNs achieve near-optimal performance in wireless networks with much fewer training samples than traditional neural architectures. Specifically, to solve an optimization problem on an $n$-node graph (where the nodes may represent users, base stations, or antennas), GNNs' generalization error and required number of training samples are $\mathcal{O}(n)$ and $\mathcal{O}(n^2)$ times lower than the unstructured multi-layer perceptrons. For design guidelines, we propose a unified framework that is applicable to general design problems in wireless networks, which includes graph modeling, neural architecture design, and theory-guided performance enhancement. Extensive simulations, which cover a variety of important problems and network settings, verify our theory and the effectiveness of the proposed design framework.

For improving short-length codes, we demonstrate that classic decoders can also be used with real-valued, neural encoders, i.e., deep-learning based codeword sequence generators. Here, the classical decoder can be a valuable tool to gain insights into these neural codes and shed light on weaknesses. Specifically, the turbo-autoencoder is a recently developed channel coding scheme where both encoder and decoder are replaced by neural networks. We first show that the limited receptive field of convolutional neural network (CNN)-based codes enables the application of the BCJR algorithm to optimally decode them with feasible computational complexity. These maximum a posteriori (MAP) component decoders then are used to form classical (iterative) turbo decoders for parallel or serially concatenated CNN encoders, offering a close-to-maximum likelihood (ML) decoding of the learned codes. To the best of our knowledge, this is the first time that a classical decoding algorithm is applied to a non-trivial, real-valued neural code. Furthermore, as the BCJR algorithm is fully differentiable, it is possible to train, or fine-tune, the neural encoder in an end-to-end fashion.

深度学习技术的普及更新了能够处理可以使用图形的复杂结构的神经结构的兴趣，由图形神经网络（GNN）的启发。我们将注意力集中在最初提出的Scarselli等人的GNN模型上。 2009，通过迭代扩散过程编码图表的节点的状态，即在学习阶段，必须在每个时期计算，直到达到学习状态转换功能的固定点，传播信息邻近节点。基于拉格朗日框架的约束优化，我们提出了一种在GNNS中学习的新方法。学习转换功能和节点状态是联合过程的结果，其中通过约束满足机制隐含地表达了状态会聚过程，避免了迭代巨头程序和网络展开。我们的计算结构在由权重组成的伴随空间中搜索拉格朗日的马鞍点，节点状态变量和拉格朗日乘法器。通过加速扩散过程的多个约束层进一步增强了该过程。实验分析表明，该方法在几个基准上的流行模型有利地比较。

近年来，已经进行了重要的研究活动，可以通过深度学习自动化渠道编码器和解码器的设计。由于通道编码的维度挑战，因此通过深度学习技术设计和训练相对较大的神经通道代码非常复杂。因此，文献中的大多数结果仅限于相对较短的代码，其信息位少于100个。在本文中，我们构建了Productaes，这是一个有效的深度学习驱动（编码器，解码器）对的家族，旨在以可管理的培训复杂性来培训相对较大的通道代码（编码器和解码器）。我们基于经典产品代码的想法，并建议使用较小的代码组件构建大型神经代码。更具体地说，我们没有直接培训编码器和解码器的大型神经代码$ k $ and blocklength $ n $，而是提供了一个框架，需要培训对代码参数的神经编码器和解码器$（n_1，k_1）$和$（n_2，k_2）$，这样$ n_1 n_2 = n $和$ k_1 k_2 = k $。我们的培训结果表明，对于参数守则$（225,100）$和中等长度参数码$（441,196）$，与连续的极性码相比，参数码（225,100）$（225,100）$（225,100）$（225,100）$（225,100）$（225,100）$（225,100）$（225,100）$（225,100）$，与连续的极地码相比取消（SC）解码器。此外，我们的结果表明，涡轮自动编码器（涡轮增压器）和最先进的古典代码有意义。这是设计产品自动编码器和培训大型频道代码的开创性工作的第一项工作。

Iterative detection and decoding (IDD) is known to achieve near-capacity performance in multi-antenna wireless systems. We propose deep-unfolded interleaved detection and decoding (DUIDD), a new paradigm that reduces the complexity of IDD while achieving even lower error rates. DUIDD interleaves the inner stages of the data detector and channel decoder, which expedites convergence and reduces complexity. Furthermore, DUIDD applies deep unfolding to automatically optimize algorithmic hyperparameters, soft-information exchange, message damping, and state forwarding. We demonstrate the efficacy of DUIDD using NVIDIA's Sionna link-level simulator in a 5G-near multi-user MIMO-OFDM wireless system with a novel low-complexity soft-input soft-output data detector, an optimized low-density parity-check decoder, and channel vectors from a commercial ray-tracer. Our results show that DUIDD outperforms classical IDD both in terms of block error rate and computational complexity.

Algorithmic solutions for multi-object tracking (MOT) are a key enabler for applications in autonomous navigation and applied ocean sciences. State-of-the-art MOT methods fully rely on a statistical model and typically use preprocessed sensor data as measurements. In particular, measurements are produced by a detector that extracts potential object locations from the raw sensor data collected for a discrete time step. This preparatory processing step reduces data flow and computational complexity but may result in a loss of information. State-of-the-art Bayesian MOT methods that are based on belief propagation (BP) systematically exploit graph structures of the statistical model to reduce computational complexity and improve scalability. However, as a fully model-based approach, BP can only provide suboptimal estimates when there is a mismatch between the statistical model and the true data-generating process. Existing BP-based MOT methods can further only make use of preprocessed measurements. In this paper, we introduce a variant of BP that combines model-based with data-driven MOT. The proposed neural enhanced belief propagation (NEBP) method complements the statistical model of BP by information learned from raw sensor data. This approach conjectures that the learned information can reduce model mismatch and thus improve data association and false alarm rejection. Our NEBP method improves tracking performance compared to model-based methods. At the same time, it inherits the advantages of BP-based MOT, i.e., it scales only quadratically in the number of objects, and it can thus generate and maintain a large number of object tracks. We evaluate the performance of our NEBP approach for MOT on the nuScenes autonomous driving dataset and demonstrate that it has state-of-the-art performance.

基于深度学习的渠道代码设计最近引起了人们的兴趣，可以替代传统的编码算法，尤其是对于现有代码不提供有效解决方案的渠道。通过反馈渠道进行的沟通就是一个这样的问题，最近通过采用各种深度学习体系结构来获得有希望的结果。在本文中，我们为反馈渠道介绍了一种新颖的学习辅助代码设计，称为广义块注意反馈（GBAF）代码，i）使用模块化体系结构，可以使用不同的神经网络体系结构实现；ii）与现有设计相比，错误的可能性提高了误顺序；iii）可以以所需的代码速率传输。

由于处理非covex公式的能力，深入研究深度学习（DL）技术以优化多用户多输入单输出（MU-MISO）下行链接系统。但是，现有的深神经网络（DNN）的固定计算结构在系统大小（即天线或用户的数量）方面缺乏灵活性。本文开发了一个双方图神经网络（BGNN）框架，这是一种可扩展的DL溶液，旨在多端纳纳波束形成优化。首先，MU-MISO系统以两分图为特征，其中两个不相交的顶点集（由传输天线和用户组成）通过成对边缘连接。这些顶点互连状态是通过通道褪色系数建模的。因此，将通用的光束优化过程解释为重量双分图上的计算任务。这种方法将波束成型的优化过程分为多个用于单个天线顶点和用户顶点的子操作。分离的顶点操作导致可扩展的光束成型计算，这些计算不变到系统大小。顶点操作是由一组DNN模块实现的，这些DNN模块共同构成了BGNN体系结构。在所有天线和用户中都重复使用相同的DNN，以使所得的学习结构变得灵活地适合网络大小。 BGNN的组件DNN在许多具有随机变化的网络尺寸的MU-MISO配置上进行了训练。结果，训练有素的BGNN可以普遍应用于任意的MU-MISO系统。数值结果验证了BGNN框架比常规方法的优势。

传统上依赖于时间序列推断的方法的设计统计模型，其描述了所需期望序列和观察到的序列之间的关系。已经得出了广泛的基于模型的算法，以使用表示基础分布的因子图上的递归计算来实现可控复杂性的推断。替代模型 - 不可知方法利用机器学习（ML）方法。在这里，我们提出了一个框架，它将基于模型的算法和数据驱动ML工具组合起来的静止时间序列。在所提出的方法中，开发了神经网络以分别学习描述时间序列分布的因子图的特定组件，而不是完全推理任务。通过利用该分布的静止性质，可以将所得方法应用于不同时间持续时间的序列。学习的因子图可以使用紧凑的神经网络来实现使用小型训练集的培训，或者可选地用于改进现有的深度推理系统。我们介绍了一种基于学习的静止因子图的推理算法，其学习从标记数据实现总和 - 产品方案，并且可以应用于不同长度的序列。我们的实验结果表明了所提出的学习因素图表学习从睡眠级数据集进行睡眠阶段检测的小型训练集的精确推断的能力，以及与未知通道的数字通信中的符号检测。

Pre-publication draft of a book to be published byMorgan & Claypool publishers. Unedited version released with permission. All relevant copyrights held by the author and publisher extend to this pre-publication draft.

信仰传播（BP）是针对图形模型的各种推理任务的重要消息算法，包括解决约束优化问题（COPS）。已经表明，BP可以通过在发送新消息（即抑制作用）之前将旧消息和新消息混合在各种基准测试中实现最先进的性能。但是，现有的调整BP静态阻尼因子的方法不仅在费力，而且损害其性能。此外，现有的BP算法在撰写新消息时平均处理每个变量节点的邻居，这也限制了其探索能力。为了解决这些问题，我们无缝地集成了BP，封闭式复发单元（GRU）和图形注意网络（GATS），以推理构成新的BP消息的动态权重和阻尼因子，以推理有关动态权重和阻尼因子。我们的模型，深切的信念传播（DABP），将因子图和每次迭代中的BP消息作为输入，并通过GRUS和GATs渗透最佳权重和阻尼因子，然后是多头注意力层。此外，与现有的基于神经的BP变体不同，我们提出了一种新颖的DABP的自我监督学习算法，其解决方案成本不需要昂贵的培训标签，并且还可以通过有效的在线学习避免常见的分发问题。广泛的实验表明，我们的模型大大优于最先进的基线。