纠错码是现代通信系统中的基本组件，要求极高的吞吐量，超可靠性和低延迟。随着解码器的近期使用机器学习（ML）模型的方法提供了改进的性能和对未知环境的巨大适应性，传统的解码器斗争。我们介绍了一般框架，以进一步提高ML模型的性能和适用性。我们建议将ML解码器与竞争鉴别器网络组合，该网络试图区分码字和嘈杂的单词，因此，指导解码模型以恢复传输的码字。我们的框架是游戏理论，由生成的对抗网络（GANS）有动力，解码器和鉴别者在零和游戏中竞争。解码器学习同时解码和生成码字，而鉴别器学会讲述解码输出和码字之间的差异。因此，解码器能够将嘈杂的接收信号解码为码字，增加成功解码的概率。我们通过证明这解码器定义了我们游戏的NASH均衡点，我们与最佳最大可能性解码器展示了我们的框架的强烈连接。因此，培训均衡具有实现最佳最大可能性性能的良好可能性。此外，我们的框架不需要培训标签，这些标签通常在通信期间通常不可用，因此似乎可以在线培训并适应频道动态。为了展示我们框架的表现，我们将其与最近的神经解码器相结合，并与各种代码上的原始模型和传统解码算法相比，表现出改进的性能。

在这项工作中，我们提出了一个完全可区分的图形神经网络（GNN）的架构，用于用于通道解码和展示各种编码方案的竞争性解码性能，例如低密度奇偶校验检查（LDPC）和BCH代码。这个想法是让神经网络（NN）通过给定图的通用消息传递算法，该算法通过用可训练的函数替换节点和边缘消息更新来代表正向误差校正（FEC）代码结构。与许多其他基于深度学习的解码方法相反，提出的解决方案享有对任意块长度的可扩展性，并且训练不受维数的诅咒的限制。我们在常规渠道解码中对最新的解码以及最近的基于深度学习的结果基准了我们提出的解码器。对于（63,45）BCH代码，我们的解决方案优于加权信念传播（BP）的解码约0.4 dB，而解码迭代率明显较小，甚至对于5G NR LDPC代码，我们观察到与常规BP解码相比，我们观察到竞争性能。对于BCH代码，所得的GNN解码器只能以9640个权重进行完全参数。

考虑了使用神经解码器进行错误校正代码的最大似然解码的问题。结果表明，通过在节点的激活上使用两个新颖的损失项可以改善神经解码器。第一个损失项对节点的激活施加了稀疏的约束。鉴于，第二个损失术语试图模仿一个具有更好性能的教师解码器的节点的激活。所提出的方法具有与神经信念传播解码器相同的运行时间复杂性和模型大小，同时将解码性能提高了BCH代码上的$ 1DB $。

查找最佳消息量化是低复杂性信念传播（BP）解码的关键要求。为此，我们提出了一个浮点替代模型，该模型模仿量化效果，作为均匀噪声的添加，其幅度是可训练的变量。我们验证替代模型与定点实现的行为非常匹配，并提出了手工制作的损失功能，以实现复杂性和误差率性能之间的权衡。然后，采用一种基于深度学习的方法来优化消息位。此外，我们表明参数共享既可以确保实现友好的解决方案，又比独立参数导致更快的培训收敛。我们为5G低密度均衡检查（LDPC）代码提供模拟结果，并在浮点分解的0.2 dB内报告误差率性能，平均消息量化位低于3.1位。此外，我们表明，学到的位宽也将其推广到其他代码速率和渠道。

已知的信念信念传播解码变体在将不同的权重分配给消息传递边缘后，可以轻松地作为神经网络展开，因为神经网络灵活地传递。在本文中，我们关注如何在深度学习框架内以可训练的参数的形式确定这些权重。首先，提出了一种新方法来通过利用靶向混合物密度的近似值来生成高质量的训练数据。然后，在追踪训练演化曲线后，训练损失和解码指标之间的强正相关已完全暴露。最后，为了促进训练收敛并降低解码的复杂性，我们强调了削减可训练参数的数量的必要性，同时强调这些幸存的参数的位置，这在广泛的模拟中是合理的。

符号检测是现代通信系统中的一个基本且具有挑战性的问题，例如多源多输入多输出（MIMO）设置。迭代软干扰取消（SIC）是该任务的最新方法，最近动机的数据驱动的神经网络模型，例如深度，可以处理未知的非线性通道。但是，这些神经网络模型需要在应用之前对网络进行全面的时间量培训，因此在实践中不容易适合高度动态的渠道。我们介绍了一个在线培训框架，该框架可以迅速适应频道中的任何更改。我们提出的框架将最近的深层发展方法与新兴的生成对抗网络（GAN）统一，以捕获频道中的任何变化，并快速调整网络以维持模型的最佳性能。我们证明，我们的框架在高度动态的通道上显着优于最近的神经网络模型，甚至超过了我们实验中静态通道上的神经网络模型。

我们考虑在线性符号间干扰通道上使用因子图框架的符号检测的应用。基于Ungerboeck观察模型，可以得出具有吸引人复杂性能的检测算法。但是，由于基础因子图包含循环，因此总和算法（SPA）产生了次优算法。在本文中，我们制定并评估有效的策略，以通过神经增强来提高基于因子图的符号检测的性能。特别是，我们将因子节点的神经信念传播和概括是减轻因子图内周期效应的有效方法。通过将通用预处理器应用于通道输出，我们提出了一种简单的技术来改变每个SPA迭代中的基本因子图。使用这种动态因子图跃迁，我们打算保留水疗消息的外在性质，否则由于周期而受到损害。仿真结果表明，所提出的方法可以大大改善检测性能，甚至可以在各种传输方案中接近最大后验性能，同时保留在块长度和通道内存中线性线性的复杂性。

虽然可以通过对位渠道进行排序来有效地实现连续策略解码的极性代码，但以有效且可扩展的方式为连续策略列表（SCL）解码找到最佳的极性代码结构，但仍在等待研究。本文提出了一个基于图形神经网络（GNN）基于迭代消息通话（IMP）算法的强化算法，以解决SCL解码的极性代码构建问题。该算法仅在极地代码的生成器矩阵诱导的图的局部结构上运行。 IMP模型的大小独立于区块长度和代码速率，从而使其可扩展到具有长块长度的极性代码。此外，单个受过训练的IMP模型可以直接应用于广泛的目标区块长度，代码速率和渠道条件，并且可以生成相应的极性代码，而无需单独的训练。数值实验表明，IMP算法找到了极性代码构建体，这些构建体在环状划分 - 检查辅助辅助AD的SCL（CA-SCL）解码下显着优于经典构建体。与针对SCL/CA-SCL解码量身定制的其他基于学习的施工方法相比，IMP算法构建具有可比或较低帧错误率的极地代码，同时通过消除每个目标阻止长度的单独训练的需求，从而大大降低了训练的复杂性，代码速率和通道状况。

传统上依赖于时间序列推断的方法的设计统计模型，其描述了所需期望序列和观察到的序列之间的关系。已经得出了广泛的基于模型的算法，以使用表示基础分布的因子图上的递归计算来实现可控复杂性的推断。替代模型 - 不可知方法利用机器学习（ML）方法。在这里，我们提出了一个框架，它将基于模型的算法和数据驱动ML工具组合起来的静止时间序列。在所提出的方法中，开发了神经网络以分别学习描述时间序列分布的因子图的特定组件，而不是完全推理任务。通过利用该分布的静止性质，可以将所得方法应用于不同时间持续时间的序列。学习的因子图可以使用紧凑的神经网络来实现使用小型训练集的培训，或者可选地用于改进现有的深度推理系统。我们介绍了一种基于学习的静止因子图的推理算法，其学习从标记数据实现总和 - 产品方案，并且可以应用于不同长度的序列。我们的实验结果表明了所提出的学习因素图表学习从睡眠级数据集进行睡眠阶段检测的小型训练集的精确推断的能力，以及与未知通道的数字通信中的符号检测。

我们提供了传递用于使用图形模型推断的新消息传递算法。我们的方法是为最困难的推理问题而设计的，即循环信念传播和其他启发式方法无法融合。当基础图形模型是无环时，信念的传播可以保证会收敛，但是当基础图具有复杂的拓扑结构时，可能会收敛，并且对初始化敏感。本文描述了对标准信念传播算法的修改，这些算法导致方法会收敛到具有任意拓扑和潜在功能的图形模型上的独特解决方案。

我们正在协助对学习架构的发展，并将其应用于数字通信系统。在此，我们考虑检测/解码问题。我们旨在为这项任务开发最佳的神经体系结构。最佳标准的定义是一个基本步骤。我们建议使用通道输入输出信号对的共同信息（MI），这可以在鉴于通信通道输出观察值的情况下最小化传输代码字的A型构源性信息。 A-posteriori信息的计算是一项艰巨的任务，对于大多数渠道而言，它尚不清楚。因此，必须学会。对于这样的目标，我们提出了基于判别性公式的新型神经估计量。这导致了相互信息神经解码器（思维）的推导。开发的神经体系结构不仅能够解决未知通道中的解码问题，还可以返回对编码方案获得的平均MI的估计以及解码误差概率。报告了几个数值结果，并将其与最大的A型和最大似然解码策略进行了比较。

在这项工作中，我们提出了Reldec，一种用于顺序解码中等长度低密度奇偶校验（LDPC）代码的新方法。 Reldec背后的主要思想是，基于Markov决策过程（MDP），通过增强学习获得优化的解码策略。与我们以前的工作相比，如果代理学习在每个迭代的CNS的组（群集中）中只学习一个检查节点（CN），我们在这项工作中我们培训代理程序在群集中安排所有CN和所有集群在每一次迭代中。也就是说，在Reldec的每个学习步骤中，代理学会根据与调度特定群集的结果相关联的奖励来顺序地安排CN簇。我们还修改了MDP的状态空间表示，使RELDEC能够适用于比我们之前的工作中研究的更大的块长度LDPC代码。此外，为了在不同信道条件下进行解码，我们提出了两个相关方案，即敏捷元 - Reldec（AM-Reldec）和Meta-Reldec（M-Reldec），这两者都采用了元增强学习。所提出的Reldec计划显着优于各种LDPC代码的标准洪水和随机顺序解码，包括为5G新无线电设计的代码。

信仰传播（BP）是针对图形模型的各种推理任务的重要消息算法，包括解决约束优化问题（COPS）。已经表明，BP可以通过在发送新消息（即抑制作用）之前将旧消息和新消息混合在各种基准测试中实现最先进的性能。但是，现有的调整BP静态阻尼因子的方法不仅在费力，而且损害其性能。此外，现有的BP算法在撰写新消息时平均处理每个变量节点的邻居，这也限制了其探索能力。为了解决这些问题，我们无缝地集成了BP，封闭式复发单元（GRU）和图形注意网络（GATS），以推理构成新的BP消息的动态权重和阻尼因子，以推理有关动态权重和阻尼因子。我们的模型，深切的信念传播（DABP），将因子图和每次迭代中的BP消息作为输入，并通过GRUS和GATs渗透最佳权重和阻尼因子，然后是多头注意力层。此外，与现有的基于神经的BP变体不同，我们提出了一种新颖的DABP的自我监督学习算法，其解决方案成本不需要昂贵的培训标签，并且还可以通过有效的在线学习避免常见的分发问题。广泛的实验表明，我们的模型大大优于最先进的基线。

Deep learning-based approaches have been developed to solve challenging problems in wireless communications, leading to promising results. Early attempts adopted neural network architectures inherited from applications such as computer vision. They often yield poor performance in large scale networks (i.e., poor scalability) and unseen network settings (i.e., poor generalization). To resolve these issues, graph neural networks (GNNs) have been recently adopted, as they can effectively exploit the domain knowledge, i.e., the graph topology in wireless communications problems. GNN-based methods can achieve near-optimal performance in large-scale networks and generalize well under different system settings, but the theoretical underpinnings and design guidelines remain elusive, which may hinder their practical implementations. This paper endeavors to fill both the theoretical and practical gaps. For theoretical guarantees, we prove that GNNs achieve near-optimal performance in wireless networks with much fewer training samples than traditional neural architectures. Specifically, to solve an optimization problem on an $n$-node graph (where the nodes may represent users, base stations, or antennas), GNNs' generalization error and required number of training samples are $\mathcal{O}(n)$ and $\mathcal{O}(n^2)$ times lower than the unstructured multi-layer perceptrons. For design guidelines, we propose a unified framework that is applicable to general design problems in wireless networks, which includes graph modeling, neural architecture design, and theory-guided performance enhancement. Extensive simulations, which cover a variety of important problems and network settings, verify our theory and the effectiveness of the proposed design framework.

深度学习的进步导致了用于低延迟通信的神经解码器的发展。然而，神经解码器可以非常复杂，这可能导致计算和延迟增加。我们考虑迭代修剪方法（例如彩票假设算法）以修剪神经解码器的重量。具有较少数量的重量的解码器可以具有更低的延迟和更低的复杂性，同时保留原始模型的准确性。这将使神经解码器更适合于具有有限的计算能力的移动和其他边缘设备。我们还提出了用于神经解码器的半软判决解码，其可用于改善修剪网络的误码率性能。

显示用于误差校正的小型神经网络（NNS）可改善经典通道代码并解决通道模型更改。我们通过多次使用相同的NN使用相同的NN扩展了任何此类结构的代码维度，这些NN与外部经典代码串行串联。我们设计具有相同网络参数的NN，其中每个REED - Solomon CodeWord符号都是对其他NN的输入。与小型神经代码相比，增加了加斯噪声通道的块误差概率的显着改善，以及通道模型变化的稳健性。

近年来，已经进行了重要的研究活动，可以通过深度学习自动化渠道编码器和解码器的设计。由于通道编码的维度挑战，因此通过深度学习技术设计和训练相对较大的神经通道代码非常复杂。因此，文献中的大多数结果仅限于相对较短的代码，其信息位少于100个。在本文中，我们构建了Productaes，这是一个有效的深度学习驱动（编码器，解码器）对的家族，旨在以可管理的培训复杂性来培训相对较大的通道代码（编码器和解码器）。我们基于经典产品代码的想法，并建议使用较小的代码组件构建大型神经代码。更具体地说，我们没有直接培训编码器和解码器的大型神经代码$ k $ and blocklength $ n $，而是提供了一个框架，需要培训对代码参数的神经编码器和解码器$（n_1，k_1）$和$（n_2，k_2）$，这样$ n_1 n_2 = n $和$ k_1 k_2 = k $。我们的培训结果表明，对于参数守则$（225,100）$和中等长度参数码$（441,196）$，与连续的极性码相比，参数码（225,100）$（225,100）$（225,100）$（225,100）$（225,100）$（225,100）$（225,100）$（225,100）$（225,100）$，与连续的极地码相比取消（SC）解码器。此外，我们的结果表明，涡轮自动编码器（涡轮增压器）和最先进的古典代码有意义。这是设计产品自动编码器和培训大型频道代码的开创性工作的第一项工作。

传统上，信号处理，通信和控制一直依赖经典的统计建模技术。这种基于模型的方法利用代表基本物理，先验信息和其他领域知识的数学公式。简单的经典模型有用，但对不准确性敏感，当真实系统显示复杂或动态行为时，可能会导致性能差。另一方面，随着数据集变得丰富，现代深度学习管道的力量增加，纯粹的数据驱动的方法越来越流行。深度神经网络（DNNS）使用通用体系结构，这些架构学会从数据中运行，并表现出出色的性能，尤其是针对受监督的问题。但是，DNN通常需要大量的数据和巨大的计算资源，从而限制了它们对某些信号处理方案的适用性。我们对将原则数学模型与数据驱动系统相结合的混合技术感兴趣，以从两种方法的优势中受益。这种基于模型的深度学习方法通​​过为特定问题设计的数学结构以及从有限的数据中学习来利用这两个部分领域知识。在本文中，我们调查了研究和设计基于模型的深度学习系统的领先方法。我们根据其推理机制将基于混合模型/数据驱动的系统分为类别。我们对以系统的方式将基于模型的算法与深度学习以及具体指南和详细的信号处理示例相结合的领先方法进行了全面综述。我们的目的是促进对未来系统的设计和研究信号处理和机器学习的交集，这些系统结合了两个领域的优势。

最近，使用自动编码器（由使用神经网络建模的编码器，渠道和解码器组成）的通信系统的端到端学习问题最近被证明是一种有希望的方法。实际采用这种学习方法面临的挑战是，在变化的渠道条件（例如无线链接）下，它需要经常对自动编码器进行重新训练，以保持低解码错误率。由于重新培训既耗时又需要大量样本，因此当通道分布迅速变化时，它变得不切实际。我们建议使用不更改编码器和解码器网络的快速和样本（几射击）域的适应方法来解决此问题。不同于常规的训练时间无监督或半监督域的适应性，在这里，我们有一个训练有素的自动编码器，来自源分布，我们希望（在测试时间）使用仅使用一个小标记的数据集和无标记的数据来适应（测试时间）到目标分布。我们的方法着重于基于高斯混合物网络的通道模型，并根据类和组件条件仿射变换制定其适应性。学习的仿射转换用于设计解码器的最佳输入转换以补偿分布变化，并有效地呈现在接近源分布的解码器输入中。在实际MMWAVE FPGA设置以及无线设置共有的许多模拟分布变化上，使用非常少量的目标域样本来证明我们方法在适应时的有效性。

基于深度学习的渠道代码设计最近引起了人们的兴趣，可以替代传统的编码算法，尤其是对于现有代码不提供有效解决方案的渠道。通过反馈渠道进行的沟通就是一个这样的问题，最近通过采用各种深度学习体系结构来获得有希望的结果。在本文中，我们为反馈渠道介绍了一种新颖的学习辅助代码设计，称为广义块注意反馈（GBAF）代码，i）使用模块化体系结构，可以使用不同的神经网络体系结构实现；ii）与现有设计相比，错误的可能性提高了误顺序；iii）可以以所需的代码速率传输。