我们展示了一种简单，高效的“直接学习”方法来利用神经网络培训基于Volterra系列的数字预失真滤波器。我们使用64-QAM 64-GBaud模拟发射器显示出对传统训练方法的卓越性能，具有不同的发射器非线性和嘈杂的条件。

在本文中，提出了一种新的方法，该方法允许基于神经网络（NN）均衡器的低复杂性发展，以缓解高速相干光学传输系统中的损伤。在这项工作中，我们提供了已应用于馈电和经常性NN设计的各种深层模型压缩方法的全面描述和比较。此外，我们评估了这些策略对每个NN均衡器的性能的影响。考虑量化，重量聚类，修剪和其他用于模型压缩的尖端策略。在这项工作中，我们提出并评估贝叶斯优化辅助压缩，其中选择了压缩的超参数以同时降低复杂性并提高性能。总之，通过使用模拟和实验数据来评估每种压缩方法的复杂性及其性能之间的权衡，以完成分析。通过利用最佳压缩方法，我们表明可以设计基于NN的均衡器，该均衡器比传统的数字背部传播（DBP）均衡器具有更好的性能，并且只有一个步骤。这是通过减少使用加权聚类和修剪算法后在NN均衡器中使用的乘数数量来完成的。此外，我们证明了基于NN的均衡器也可以实现卓越的性能，同时仍然保持与完整的电子色色散补偿块相同的复杂性。我们通过强调开放问题和现有挑战以及未来的研究方向来结束分析。

非正交多访问（NOMA）是一项有趣的技术，可以根据未来的5G和6G网络的要求实现大规模连通性。尽管纯线性处理已经在NOMA系统中达到了良好的性能，但在某些情况下，非线性处理是必须的，以确保可接受的性能。在本文中，我们提出了一个神经网络体系结构，该架构结合了线性和非线性处理的优势。在图形处理单元（GPU）上的高效实现证明了其实时检测性能。使用实验室环境中的实际测量值，我们显示了方法比常规方法的优越性。

In this work, we demonstrate the offline FPGA realization of both recurrent and feedforward neural network (NN)-based equalizers for nonlinearity compensation in coherent optical transmission systems. First, we present a realization pipeline showing the conversion of the models from Python libraries to the FPGA chip synthesis and implementation. Then, we review the main alternatives for the hardware implementation of nonlinear activation functions. The main results are divided into three parts: a performance comparison, an analysis of how activation functions are implemented, and a report on the complexity of the hardware. The performance in Q-factor is presented for the cases of bidirectional long-short-term memory coupled with convolutional NN (biLSTM + CNN) equalizer, CNN equalizer, and standard 1-StpS digital back-propagation (DBP) for the simulation and experiment propagation of a single channel dual-polarization (SC-DP) 16QAM at 34 GBd along 17x70km of LEAF. The biLSTM+CNN equalizer provides a similar result to DBP and a 1.7 dB Q-factor gain compared with the chromatic dispersion compensation baseline in the experimental dataset. After that, we assess the Q-factor and the impact of hardware utilization when approximating the activation functions of NN using Taylor series, piecewise linear, and look-up table (LUT) approximations. We also show how to mitigate the approximation errors with extra training and provide some insights into possible gradient problems in the LUT approximation. Finally, to evaluate the complexity of hardware implementation to achieve 400G throughput, fixed-point NN-based equalizers with approximated activation functions are developed and implemented in an FPGA.

我们根据光学通信中的载体回收率的变异推断研究了自适应盲人均衡器的潜力。这些均衡器基于最大似然通道估计的低复杂性近似。我们将变异自动编码器（VAE）均衡器的概念概括为包括概率星座塑形（PCS）的高阶调制格式，无处不在，在光学通信中，对接收器进行过度采样和双极化传输。除了基于卷积神经网络的黑盒均衡器外，我们还提出了基于线性蝴蝶滤波器的基于模型的均衡器，并使用变异推理范式训练过滤器系数。作为副产品，VAE还提供了可靠的通道估计。我们在具有符号间干扰（ISI）的经典添加剂白色高斯噪声（AWGN）通道和色散线性光学双极化通道上分析了VAE的性能和灵活性。我们表明，对于固定的固定通道但也随时间变化的通道，它可以超越最先进的恒定算法（CMA）来扩展盲人自适应均衡器的应用范围。评估伴随着超参数分析。

由于自动驾驶，物联网和流媒体服务的快速发展，现代通信系统必须应对各种渠道条件以及用户和设备的稳步增加。这以及仍在上升的带宽需求只能通过智能网络自动化来满足，这需要高度灵活和盲目的收发器算法。为了应对这些挑战，我们提出了一种新颖的自适应均衡计划，该计划通过训练用对抗性网络训练均衡器来利用深度学习的繁荣进步。该学习仅基于发射信号的统计数据，因此它对通道模型的实际发送符号和不可知论是盲目的。所提出的方法独立于均衡器拓扑，并实现了强大的基于神经网络的均衡器的应用。在这项工作中，我们证明了这一概念在对线性和非线性传输通道的模拟中，并证明了拟议的盲目学习方案的能力，可以接近非盲均衡器的性能。此外，我们提供了理论观点，并强调了方法的挑战。

在基于学习的语义沟通中，神经网络在传统通信系统中取代了不同的构件。但是，数字调制仍然是神经网络的挑战。基于神经网络的数字调制的固有机制是将神经网络编码器的连续输出映射到离散的星座符号中，这是一个不可差的函数，无法使用现有的梯度下降算法进行训练。为了克服这一挑战，在本文中，我们为使用BPSK调制的数字语义通信制定了联合编码调节方案。在我们的方法中，神经网络输出了每个星座点的可能性，而不是具有混凝土映射。因此，使用了随机代码而不是确定性代码，该代码在每个星座上都有可能的符号保留更多信息。联合编码调制设计可以与频道状态相匹配，从而提高数字语义通信的性能。实验结果表明，我们的方法在广泛的SNR上优于语义通信中现有的数字调制方法，并且低SNR制度中的基于神经网络的模拟调制方法优于基于神经网络的模拟调制方法。

近年来，已经进行了重要的研究活动，可以通过深度学习自动化渠道编码器和解码器的设计。由于通道编码的维度挑战，因此通过深度学习技术设计和训练相对较大的神经通道代码非常复杂。因此，文献中的大多数结果仅限于相对较短的代码，其信息位少于100个。在本文中，我们构建了Productaes，这是一个有效的深度学习驱动（编码器，解码器）对的家族，旨在以可管理的培训复杂性来培训相对较大的通道代码（编码器和解码器）。我们基于经典产品代码的想法，并建议使用较小的代码组件构建大型神经代码。更具体地说，我们没有直接培训编码器和解码器的大型神经代码$ k $ and blocklength $ n $，而是提供了一个框架，需要培训对代码参数的神经编码器和解码器$（n_1，k_1）$和$（n_2，k_2）$，这样$ n_1 n_2 = n $和$ k_1 k_2 = k $。我们的培训结果表明，对于参数守则$（225,100）$和中等长度参数码$（441,196）$，与连续的极性码相比，参数码（225,100）$（225,100）$（225,100）$（225,100）$（225,100）$（225,100）$（225,100）$（225,100）$（225,100）$，与连续的极地码相比取消（SC）解码器。此外，我们的结果表明，涡轮自动编码器（涡轮增压器）和最先进的古典代码有意义。这是设计产品自动编码器和培训大型频道代码的开创性工作的第一项工作。

多节点WDM网络的数字双胞胎模型是从单个访问点获得的。该模型用于预测和优化网络中每个链接的发射功率配置文件，并获得最多2.2 〜db的边距改进。不优化的传输。

FPGA中首次实施了针对非线性补偿的经常性和前馈神经网络均衡器，其复杂度与分散均衡器的复杂度相当。我们证明，基于NN的均衡器可以胜过1个速度的DBP。

正交频分复用（OFDM）已广泛应用于当前通信系统。人工智能（AI）addm接收器目前被带到最前沿替换和改进传统的OFDM接收器。在这项研究中，我们首先比较两个AI辅助OFDM接收器，即数据驱动的完全连接的深神经网络和模型驱动的COMNet，通过广泛的仿真和实时视频传输，使用5G快速原型制作系统进行跨越式-Air（OTA）测试。我们在离线训练和真实环境之间的频道模型之间的差异差异导致的模拟和OTA测试之间找到了性能差距。我们开发一种新颖的在线培训系统，称为SwitchNet接收器，以解决此问题。该接收器具有灵活且可扩展的架构，可以通过在线训练几个参数来适应真实频道。从OTA测试中，AI辅助OFDM接收器，尤其是SwitchNet接收器，对真实环境具有鲁棒，并且对未来的通信系统有前途。我们讨论了本文初步研究的潜在挑战和未来的研究。

最近的作品表明，现代机器学习技术可以为长期存在的联合源通道编码（JSCC）问题提供另一种方法。非常有希望的初始结果，优于使用单独的源代码和通道代码的流行数字方案，已被证明用于使用深神经网络（DNNS）的无线图像和视频传输。但是，此类方案的端到端培训需要可区分的通道输入表示。因此，先前的工作假设可以通过通道传输任何复杂值。这可以防止在硬件或协议只能接收数字星座规定的某些频道输入集的情况下应用这些代码。本文中，我们建议使用有限通道输入字母的端到端优化的JSCC解决方案DeepJSCC-Q。我们表明，DEEPJSCC-Q可以实现与允许任何复杂的有价值通道输入的先前作品相似的性能，尤其是在可用的高调制订单时，并且在调制顺序增加的情况下，性能渐近接近无约束通道输入的情况。重要的是，DEEPJSCC-Q保留了不可预测的渠道条件下图像质量的优雅降级，这是在频道迅速变化的移动系统中部署的理想属性。

自适应滤波器处于许多信号处理应用的核心，从声噪声繁殖到回声消除，阵列波束形成，信道均衡，以更新的传感器网络应用在监控，目标本地化和跟踪中。沿着该方向的趋势方法是重复到网络内分布式处理，其中各个节点实现适应规则并将它们的估计扩散到网络。当关于过滤方案的先验知识有限或不精确时，选择最适当的过滤器结构并调整其参数变得有挑战性的任务，并且错误的选择可能导致性能不足。为了解决这个困难，一种有用的方法是依赖自适应结构的组合。自适应滤波器的组合在某种程度上利用相同的鸿沟和征服机器学习界（例如，袋装或升级）成功利用的原则。特别地，在不同的视角下，在计算学习领域中研究了组合若干学习算法的输出（专家的混合）：而不是研究混合物的预期性能，衍生出适用于各个序列的确定性范围因此，反映了最糟糕的情况。这些界限需要与通常在自适应滤波中使用的那些不同的假设，这是该概述文章的重点。我们审查了这些组合计划背后的关键思想和原则，重点是设计规则。我们还通过各种示例说明了它们的性能。

最近在无线通信领域的许多任务中考虑了机器学习算法。以前，我们已经提出了使用深度卷积神经网络（CNN）进行接收器处理的使用，并证明它可以提供可观的性能提高。在这项研究中，我们专注于发射器的机器学习算法。特别是，我们考虑进行波束形成并提出一个CNN，该CNN对于给定上行链路通道估计值作为输入，输出下链路通道信息用于波束成形。考虑到基于UE接收器性能的损失函数的上行链路传输和下行链路传输，CNN以有监督的方式进行培训。神经网络的主要任务是预测上行链路和下行链路插槽之间的通道演变，但它也可以学会处理整个链中的效率低下和错误，包括实际的光束成型阶段。提供的数值实验证明了波束形成性能的改善。

在多输入多输出（MIMO）系统中使用深度自动码器（DAE）进行端到端通信，是一种具有重要潜力的新概念。在误码率（BER）方面，已示出DAE-ADED MIMO以占地识别的奇异值分解（SVD）为基础的预编码MIMO。本文提出将信道矩阵的左右奇异矢量嵌入到DAE编码器和解码器中，以进一步提高MIMO空间复用的性能。 SVD嵌入式DAE主要优于BER的理论线性预编码。这是显着的，因为它表明所提出的DAES通过将通信系统视为单个端到端优化块来超出当前系统设计的极限。基于仿真结果，在SNR = 10dB，所提出的SVD嵌入式设计可以实现近10美元，并将BER减少至少10次，而没有SVD，相比增长了18倍的增长率最高18倍具有理论线性预编码。我们将这一点归因于所提出的DAE可以将输入和输出与具有有限字母输入的自适应调制结构匹配。我们还观察到添加到DAE的剩余连接进一步提高了性能。

振荡器输出通常具有相位噪声，导致输出功率谱密度（PSD）分散在DIRAC DELTA功能周围。在本文中，考虑了AWGN信道，其中伴随相位噪声的发送信号被添加到信道高斯噪声并在接收器处接收。诸如最小均方（LMS）和平均MSE标准的传统信道估计算法不适用于该信道估计。我们（i）通过信息理论学习（ITL）标准，即最大正控性标准（MCC）分析该相位噪声信道估计，导致信道估计器稳定状态行为中的稳健性;（ii）通过将MSE和MCC组合为新的混合LMS算法来提高收敛速度。

基于深度学习的渠道代码设计最近引起了人们的兴趣，可以替代传统的编码算法，尤其是对于现有代码不提供有效解决方案的渠道。通过反馈渠道进行的沟通就是一个这样的问题，最近通过采用各种深度学习体系结构来获得有希望的结果。在本文中，我们为反馈渠道介绍了一种新颖的学习辅助代码设计，称为广义块注意反馈（GBAF）代码，i）使用模块化体系结构，可以使用不同的神经网络体系结构实现；ii）与现有设计相比，错误的可能性提高了误顺序；iii）可以以所需的代码速率传输。

We propose spectrum-sliced reservoir computer-based (RC) multi-symbol equalization for 32-GBd PAM4 transmission. RC with 17 symbols at the output achieves an order of magnitude reduction in multiplications/symbol versus single output case while maintaining simple training.

我们介绍了一种基于基于自动化的基于的基于AutoEncoder的学习，用于编码调制系统的联合几何和概率星座形状。它可以最大化互信息（用于符号度量解码）或广义互联信息（用于比特度量解码）。

查找最佳消息量化是低复杂性信念传播（BP）解码的关键要求。为此，我们提出了一个浮点替代模型，该模型模仿量化效果，作为均匀噪声的添加，其幅度是可训练的变量。我们验证替代模型与定点实现的行为非常匹配，并提出了手工制作的损失功能，以实现复杂性和误差率性能之间的权衡。然后，采用一种基于深度学习的方法来优化消息位。此外，我们表明参数共享既可以确保实现友好的解决方案，又比独立参数导致更快的培训收敛。我们为5G低密度均衡检查（LDPC）代码提供模拟结果，并在浮点分解的0.2 dB内报告误差率性能，平均消息量化位低于3.1位。此外，我们表明，学到的位宽也将其推广到其他代码速率和渠道。