通过大量多输入和多重输出实现的许多性能增长取决于发射机（基站）下链路通道状态信息（CSI）的准确性，这通常是通过在接收器（用户终端）估算并馈入的。到发射器。 CSI反馈的开销占据了大量的上行链路带宽资源，尤其是当传输天线数量较大时。基于深度学习（DL）的CSI反馈是指基于DL的自动编码器的CSI压缩和重建，并且可以大大减少反馈开销。在本文中，提供了有关该主题的最新研究的全面概述，首先是在CSI反馈中广泛使用的基本DL概念，然后对一些现有的基于DL的反馈作品进行分类和描述。重点是新型的神经网络体系结构和沟通专家知识的利用来提高CSI反馈准确性。还介绍了有关CSI反馈和CSI反馈与其他通信模块的联合设计的作品，并讨论了一些实际问题，包括培训数据集收集，在线培训，复杂性，概括和标准化效果。在本文的最后，确定了与未来无线通信系统中基于DL的CSI反馈相关的一些挑战和潜在的研究方向。

第三代合作伙伴项目已开始研究2021年的第18版。人工智能（AI）空气界面是第18版的关键特征之一，其中选择了用于渠道状态信息的AI（CSI）反馈增强作为代表性。用例。本文提供了5G助长和6G中CSI反馈增强的AI的全面概述。首先介绍和讨论了5G效率的CSI反馈增强AI的范围，包括高架降低，准确性提高和渠道预测。然后，介绍并比较了三个代表性CSI反馈的代表性框架，包括单方面隐式反馈，基于双面自动编码器的隐式反馈和双面显式反馈。最后，已经确定和讨论了CSI反馈增强的AI标准化考虑因素，尤其是重点是评估，复杂性，协作，概括，信息共享，具有渠道预测的联合设计和互惠性。本文为基于AI的CSI反馈增强的标准化研究提供了指南。

6G无线网络可以预见，以加快物理和网络世界的融合，并以我们部署和利用通信网络的方式实现范式换档。机器学习，尤其是深度学习（DL），将通过提供具有高水平智能的网络的新范式来成为6G的关键技术推动力之一。在本文中，我们介绍了一种新兴的DL体系结构，称为Transformer，并讨论了其对6G网络设计的潜在影响。我们首先讨论变压器和经典DL体系结构之间的差异，并强调变压器的自我发挥机制和强大的代表能力，这使其在应对无线网络设计的各种挑战方面特别有吸引力。具体而言，我们提出了基于变压器的解决方案，用于大规模多输入多输出（MIMO）系统和6G网络中的各种语义通信问题。最后，我们讨论了基于变压器的解决方案中的关键挑战和开放问题，并确定未来在智能6G网络中部署的研究方向。

In massive multiple-input multiple-output (MIMO) systems, the user equipment (UE) needs to feed the channel state information (CSI) back to the base station (BS) for the following beamforming. But the large scale of antennas in massive MIMO systems causes huge feedback overhead. Deep learning (DL) based methods can compress the CSI at the UE and recover it at the BS, which reduces the feedback cost significantly. But the compressed CSI must be quantized into bit streams for transmission. In this paper, we propose an adaptor-assisted quantization strategy for bit-level DL-based CSI feedback. First, we design a network-aided adaptor and an advanced training scheme to adaptively improve the quantization and reconstruction accuracy. Moreover, for easy practical employment, we introduce the expert knowledge of data distribution and propose a pluggable and cost-free adaptor scheme. Experiments show that compared with the state-of-the-art feedback quantization method, this adaptor-aided quantization strategy can achieve better quantization accuracy and reconstruction performance with less or no additional cost. The open-source codes are available at https://github.com/zhangxd18/QCRNet.

在空中杂种大规模多输入多输出（MIMO）和正交频施加多路复用（OFDM）系统中，如何设计具有有限的飞行员和反馈开销的光谱效率宽带多用户混合波束，这是具有挑战性的。为此，通过将关键传输模块建模为端到端（E2E）神经网络，本文提出了一个数据驱动的深度学习（DL）基于时间划分双工（TDD）的基于数据驱动的深度学习（DL）的统一混合边际框架和具有隐式通道状态信息（CSI）的频分隔双链（FDD）系统。对于TDD系统，提出的基于DL的方法共同对上行链路飞行员组合和下行链路混合光束模块作为E2E神经网络。在FDD系统中，我们将下行链路飞行员传输，上行链路CSI反馈和下行链路混合光束形成模块作为E2E神经网络建模。与分别处理不同模块的常规方法不同，提出的解决方案同时以总和速率作为优化对象优化了所有模块。因此，通过感知空对地面大规模MIMO-OFDM通道样本的固有属性，基于DL的E2E神经网络可以建立从通道到波束形式的映射函数，以便可以避免使用显式通道重建，以减少飞行员和反馈开销。此外，实用的低分辨率相变（PSS）引入了量化约束，从而导致训练神经网络时棘手的梯度反向传播。为了减轻阶段量化误差引起的性能损失，我们采用转移学习策略，以基于假定理想的无限分辨率PSS的预训练网络来进一步调整E2E神经网络。数值结果表明，我们的基于DL的方案比最先进的方案具有相当大的优势。

在带有频划分双链体（FDD）的常规多用户多用户多输入多输出（MU-MIMO）系统中，尽管高度耦合，但已单独设计了通道采集和预编码器优化过程。本文研究了下行链路MU-MIMO系统的端到端设计，其中包括试点序列，有限的反馈和预编码。为了解决这个问题，我们提出了一个新颖的深度学习（DL）框架，该框架共同优化了用户的反馈信息生成和基础站（BS）的预编码器设计。 MU-MIMO系统中的每个过程都被智能设计的多个深神经网络（DNN）单元所取代。在BS上，神经网络生成试验序列，并帮助用户获得准确的频道状态信息。在每个用户中，频道反馈操作是由单个用户DNN以分布方式进行的。然后，另一个BS DNN从用户那里收集反馈信息，并确定MIMO预编码矩阵。提出了联合培训算法以端到端的方式优化所有DNN单元。此外，还提出了一种可以避免针对可扩展设计的不同网络大小进行重新训练的培训策略。数值结果证明了与经典优化技术和其他常规DNN方案相比，提出的DL框架的有效性。

可重新配置的智能表面（RIS）可以显着增强TERA-HERTZ大量多输入多输出（MIMO）通信系统的服务覆盖范围。但是，获得有限的飞行员和反馈信号开销的准确高维通道状态信息（CSI）具有挑战性，从而严重降低了常规空间分裂多次访问的性能。为了提高针对CSI缺陷的鲁棒性，本文提出了针对RIS辅助TERA-HERTZ多用户MIMO系统的基于深度学习的（DL）基于速率的多访问（RSMA）方案。具体而言，我们首先提出了基于DL的混合数据模型驱动的RSMA预编码方案，包括RIS的被动预编码以及模拟主动编码和基本站（BS）的RSMA数字活动预码。为了实现RIS的被动预码，我们提出了一个基于变压器的数据驱动的RIS反射网络（RRN）。至于BS的模拟主动编码，我们提出了一个基于匹配器的模拟预编码方案，因为BS和RIS采用了Los-Mimo天线阵列结构。至于BS的RSMA数字活动预码，我们提出了一个低复杂性近似加权的最小均方误差（AWMMSE）数字编码方案。此外，为了更好地编码性能以及较低的计算复杂性，模型驱动的深层展开的主动编码网络（DFAPN）也是通过将所提出的AWMMSE方案与DL相结合的。然后，为了在BS处获得准确的CSI，以实现提高光谱效率的RSMA预编码方案，我们提出了一个CSI采集网络（CAN），具有低飞行员和反馈信号开销，下行链接飞行员的传输，CSI在此处使用CSI的CSI反馈。 （UES）和BS处的CSI重建被建模为基于变压器的端到端神经网络。

Along with the springing up of semantics-empowered communication (SemCom) researches, it is now witnessing an unprecedentedly growing interest towards a wide range of aspects (e.g., theories, applications, metrics and implementations) in both academia and industry. In this work, we primarily aim to provide a comprehensive survey on both the background and research taxonomy, as well as a detailed technical tutorial. Specifically, we start by reviewing the literature and answering the "what" and "why" questions in semantic transmissions. Afterwards, we present corresponding ecosystems, including theories, metrics, datasets and toolkits, on top of which the taxonomy for research directions is presented. Furthermore, we propose to categorize the critical enabling techniques by explicit and implicit reasoning-based methods, and elaborate on how they evolve and contribute to modern content \& channel semantics-empowered communications. Besides reviewing and summarizing the latest efforts in SemCom, we discuss the relations with other communication levels (e.g., reliable and goal-oriented communications) from a holistic and unified viewpoint. Subsequently, in order to facilitate the future developments and industrial applications, we also highlight advanced practical techniques for boosting semantic accuracy, robustness, and large-scale scalability, just to mention a few. Finally, we discuss the technical challenges that shed light on future research opportunities.

While machine learning is traditionally a resource intensive task, embedded systems, autonomous navigation, and the vision of the Internet of Things fuel the interest in resource-efficient approaches. These approaches aim for a carefully chosen trade-off between performance and resource consumption in terms of computation and energy. The development of such approaches is among the major challenges in current machine learning research and key to ensure a smooth transition of machine learning technology from a scientific environment with virtually unlimited computing resources into everyday's applications. In this article, we provide an overview of the current state of the art of machine learning techniques facilitating these real-world requirements. In particular, we focus on deep neural networks (DNNs), the predominant machine learning models of the past decade. We give a comprehensive overview of the vast literature that can be mainly split into three non-mutually exclusive categories: (i) quantized neural networks, (ii) network pruning, and (iii) structural efficiency. These techniques can be applied during training or as post-processing, and they are widely used to reduce the computational demands in terms of memory footprint, inference speed, and energy efficiency. We also briefly discuss different concepts of embedded hardware for DNNs and their compatibility with machine learning techniques as well as potential for energy and latency reduction. We substantiate our discussion with experiments on well-known benchmark datasets using compression techniques (quantization, pruning) for a set of resource-constrained embedded systems, such as CPUs, GPUs and FPGAs. The obtained results highlight the difficulty of finding good trade-offs between resource efficiency and predictive performance.

在本文中，提出了一种新的方法，该方法允许基于神经网络（NN）均衡器的低复杂性发展，以缓解高速相干光学传输系统中的损伤。在这项工作中，我们提供了已应用于馈电和经常性NN设计的各种深层模型压缩方法的全面描述和比较。此外，我们评估了这些策略对每个NN均衡器的性能的影响。考虑量化，重量聚类，修剪和其他用于模型压缩的尖端策略。在这项工作中，我们提出并评估贝叶斯优化辅助压缩，其中选择了压缩的超参数以同时降低复杂性并提高性能。总之，通过使用模拟和实验数据来评估每种压缩方法的复杂性及其性能之间的权衡，以完成分析。通过利用最佳压缩方法，我们表明可以设计基于NN的均衡器，该均衡器比传统的数字背部传播（DBP）均衡器具有更好的性能，并且只有一个步骤。这是通过减少使用加权聚类和修剪算法后在NN均衡器中使用的乘数数量来完成的。此外，我们证明了基于NN的均衡器也可以实现卓越的性能，同时仍然保持与完整的电子色色散补偿块相同的复杂性。我们通过强调开放问题和现有挑战以及未来的研究方向来结束分析。

鉴于无线频谱的有限性和对无线通信最近的技术突破产生的频谱使用不断增加的需求，干扰问题仍在继续持续存在。尽管最近解决干涉问题的进步，但干扰仍然呈现出有效使用频谱的挑战。这部分是由于Wi-Fi的无许可和管理共享乐队使用的升高，长期演进（LTE）未许可（LTE-U），LTE许可辅助访问（LAA），5G NR等机会主义频谱访问解决方案。因此，需要对干扰稳健的有效频谱使用方案的需求从未如此重要。在过去，通过使用避免技术以及非AI缓解方法（例如，自适应滤波器）来解决问题的大多数解决方案。非AI技术的关键缺陷是需要提取或开发信号特征的域专业知识，例如CycrationArity，带宽和干扰信号的调制。最近，研究人员已成功探索了AI / ML的物理（PHY）层技术，尤其是深度学习，可减少或补偿干扰信号，而不是简单地避免它。 ML基于ML的方法的潜在思想是学习来自数据的干扰或干扰特性，从而使需要对抑制干扰的域专业知识进行侧联。在本文中，我们审查了广泛的技术，这些技术已经深入了解抑制干扰。我们为干扰抑制中许多不同类型的深度学习技术提供比较和指导。此外，我们突出了在干扰抑制中成功采用深度学习的挑战和潜在的未来研究方向。

Deep neural networks (DNNs) are currently widely used for many artificial intelligence (AI) applications including computer vision, speech recognition, and robotics. While DNNs deliver state-of-the-art accuracy on many AI tasks, it comes at the cost of high computational complexity. Accordingly, techniques that enable efficient processing of DNNs to improve energy efficiency and throughput without sacrificing application accuracy or increasing hardware cost are critical to the wide deployment of DNNs in AI systems.This article aims to provide a comprehensive tutorial and survey about the recent advances towards the goal of enabling efficient processing of DNNs. Specifically, it will provide an overview of DNNs, discuss various hardware platforms and architectures that support DNNs, and highlight key trends in reducing the computation cost of DNNs either solely via hardware design changes or via joint hardware design and DNN algorithm changes. It will also summarize various development resources that enable researchers and practitioners to quickly get started in this field, and highlight important benchmarking metrics and design considerations that should be used for evaluating the rapidly growing number of DNN hardware designs, optionally including algorithmic co-designs, being proposed in academia and industry.The reader will take away the following concepts from this article: understand the key design considerations for DNNs; be able to evaluate different DNN hardware implementations with benchmarks and comparison metrics; understand the trade-offs between various hardware architectures and platforms; be able to evaluate the utility of various DNN design techniques for efficient processing; and understand recent implementation trends and opportunities.

最近，受到许多领域的成功应用程序的启发，深度学习（DL）的CSI获取技术已获得了学术界和行业的大量研究兴趣。考虑到第五代（5G）新无线电（NR）网络的实际反馈机制，我们提出了针对CSI（AI4CSI）的两个实施方案，基于DL的接收器和端到端设计。根据光谱效率（SE），反馈开销和计算复杂性，在5G NR网络中评估了提出的AI4CSI方案，并与遗产方案进行了比较。为了证明这些方案是否可以在现实生活中使用，在我们的研究中使用了基于建模的基于建模的通道数据和实际测量的通道。当仅将基于DL的CSI采集应用于接收器几乎没有空气接口影响时，它在适度的反馈开销水平下提供了大约25 \％的SE增益。在5G演变过程中，将其部署在当前的5G网络中是可行的。对于基于端到端DL的CSI增强功能，评估还证明了其在SE上的额外性能增长，与基于DL的接收器相比，为6％-26％，与传统CSI方案相比，其33％-58％ 。考虑到其对空气接口设计的巨大影响，它将是第六代（6G）网络的候选技术，其中可以使用人工智能设计的空气界面。

由于其低复杂性和鲁棒性，机器学习（ML）吸引了对物理层设计问题的巨大研究兴趣，例如信道估计。通道估计通过ML需要在数据集上进行模型训练，该数据集通常包括作为输入和信道数据的接收的导频信号作为输出。在以前的作品中，模型培训主要通过集中式学习（CL）进行，其中整个训练数据集从基站（BS）的用户收集。这种方法引入了数据收集的巨大通信开销。在本文中，为了解决这一挑战，我们提出了一种用于频道估计的联邦学习（FL）框架。我们设计在用户的本地数据集上培训的卷积神经网络（CNN），而不将它们发送到BS。我们为常规和RIS（智能反射表面）开发了基于流的信道估计方案，辅助大规模MIMO（多输入多输出）系统，其中单个CNN为两种情况训练了两个不同的数据集。我们评估噪声和量化模型传输的性能，并表明所提出的方法提供大约16倍的开销比CL，同时保持令人满意的性能接近CL。此外，所提出的架构表现出比最先进的ML的估计误差较低。

迄今为止，通信系统主要旨在可靠地交流位序列。这种方法提供了有效的工程设计，这些设计对消息的含义或消息交换所旨在实现的目标不可知。但是，下一代系统可以通过将消息语义和沟通目标折叠到其设计中来丰富。此外，可以使这些系统了解进行交流交流的环境，从而为新颖的设计见解提供途径。本教程总结了迄今为止的努力，从早期改编，语义意识和以任务为导向的通信开始，涵盖了基础，算法和潜在的实现。重点是利用信息理论提供基础的方法，以及学习在语义和任务感知通信中的重要作用。

在多输入的多输出频率划分双工（MIMO-FDD）系统中，用户设备（UE）将下行链路通道状态信息（CSI）发送到基础站以报告链接状态。由于MIMO系统的复杂性，发送此信息产生的高架对系统带宽产生负面影响。尽管在文献中已广泛考虑了这个问题，但先前的工作通常假定理想的反馈渠道。在本文中，我们介绍了PRVNET，这是一种受差异自动编码器（VAE）启发的神经网络体系结构，以压缩CSI矩阵，然后再将其发送回噪声通道条件下的基站。此外，我们提出了一种定制的损失功能，该功能最适合所解决的问题的特殊特征。我们还为学习目标引入了另外的正规化超参数，这对于实现竞争性能至关重要。此外，我们还提供了一种有效的方法，可以使用kl耗电来调整此超参数。实验结果表明，在无噪声反馈通道假设中，提出的模型优于基准模型，包括两个基于深度学习的模型。此外，提议的模型在不同的噪声水平下为加性白色高斯噪声反馈通道实现了出色的性能。

Most semantic communication systems leverage deep learning models to provide end-to-end transmission performance surpassing the established source and channel coding approaches. While, so far, research has mainly focused on architecture and model improvements, but such a model trained over a full dataset and ergodic channel responses is unlikely to be optimal for every test instance. Due to limitations on the model capacity and imperfect optimization and generalization, such learned models will be suboptimal especially when the testing data distribution or channel response is different from that in the training phase, as is likely to be the case in practice. To tackle this, in this paper, we propose a novel semantic communication paradigm by leveraging the deep learning model's overfitting property. Our model can for instance be updated after deployment, which can further lead to substantial gains in terms of the transmission rate-distortion (RD) performance. This new system is named adaptive semantic communication (ASC). In our ASC system, the ingredients of wireless transmitted stream include both the semantic representations of source data and the adapted decoder model parameters. Specifically, we take the overfitting concept to the extreme, proposing a series of ingenious methods to adapt the semantic codec or representations to an individual data or channel state instance. The whole ASC system design is formulated as an optimization problem whose goal is to minimize the loss function that is a tripartite tradeoff among the data rate, model rate, and distortion terms. The experiments (including user study) verify the effectiveness and efficiency of our ASC system. Notably, the substantial gain of our overfitted coding paradigm can catalyze semantic communication upgrading to a new era.

为了实现与频分双工（FDD）模式的大规模多输入多输出（MIMO）系统的高数据速率的可靠通信，接收器处的估计信道状态信息（CSI）需要送回发射机。然而，通过越来越多的天线，反馈开销变得过高。在本文中，提出了一种用于毫米波（MMWAVE）大规模MIMO系统的两个阶段低级（TSLR）CSI反馈方案，以减少基于模型驱动的深度学习的反馈开销。此外，我们通过展开快速迭代收缩阈值算法（Fista）来设计一个名为Fista-Net的深度迭代神经网络，以实现更高效的CSI反馈。此外，基于注意机构，在Fista-Net中设计了收缩阈值网络（ST-Net），其可以自适应地选择阈值。仿真结果表明，所提出的TSLR CSI反馈方案和Fista-Net在各种场景中优于现有的算法。

机器学习的进步为低端互联网节点（例如微控制器）带来了新的机会，将情报带入了情报。传统的机器学习部署具有较高的记忆力，并计算足迹阻碍了其在超资源约束的微控制器上的直接部署。本文强调了为MicroController类设备启用机载机器学习的独特要求。研究人员为资源有限的应用程序使用专门的模型开发工作流程，以确保计算和延迟预算在设备限制之内，同时仍保持所需的性能。我们表征了微控制器类设备的机器学习模型开发的广泛适用的闭环工作流程，并表明几类应用程序采用了它的特定实例。我们通过展示多种用例，将定性和数值见解介绍到模型开发的不同阶段。最后，我们确定了开放的研究挑战和未解决的问题，要求仔细考虑前进。

低成本毫米波（MMWAVE）通信和雷达设备的商业可用性开始提高消费市场中这种技术的渗透，为第五代（5G）的大规模和致密的部署铺平了道路（5G） - 而且以及6G网络。同时，普遍存在MMWAVE访问将使设备定位和无设备的感测，以前所未有的精度，特别是对于Sub-6 GHz商业级设备。本文使用MMWAVE通信和雷达设备在基于设备的定位和无设备感应中进行了现有技术的调查，重点是室内部署。我们首先概述关于MMWAVE信号传播和系统设计的关键概念。然后，我们提供了MMWaves启用的本地化和感应方法和算法的详细说明。我们考虑了在我们的分析中的几个方面，包括每个工作的主要目标，技术和性能，每个研究是否达到了一定程度的实现，并且该硬件平台用于此目的。我们通过讨论消费者级设备的更好算法，密集部署的数据融合方法以及机器学习方法的受过教育应用是有前途，相关和及时的研究方向的结论。