跨域的建议显示了解决数据范围和冷启动问题方面有希望的结果。尽管取得了这样的进展，但现有的方法集中在知识转移的可提供的域可共享信息（重叠的用户或相同的上下文）上，并且在没有此类要求的情况下，它们无法很好地概括。为了解决这些问题，我们建议利用大多数电子商务系统一般的审核文本。我们的模型（命名为SER）使用三个文本分析模块，由单个域歧视器指导，用于分离表示表示。在这里，我们提出了一种新颖的优化策略，可以提高域分解的质量，并使源域的有害信息衰弱。此外，我们将编码网络从单个域扩展到多个域，事实证明，这对于基于审核的推荐系统具有强大的功能。广泛的实验和消融研究表明，与最先进的单域和跨域推荐方法相比，我们的方法是有效，健壮和可扩展的。

传统的推荐系统面临两个长期存在的障碍，即数据稀疏性和冷启动问题，这些问题促进了跨域建议（CDR）的出现和发展。 CDR的核心思想是利用从其他领域收集的信息来减轻一个域中的两个问题。在过去的十年中，许多努力进行了跨域建议。最近，随着深度学习和神经网络的发展，出现了许多方法。但是，关于CDR的系统调查数量有限，尤其是关于最新提出的方法以及他们解决的建议方案和建议任务。在本调查文件中，我们首先提出了跨域建议的两级分类法，该分类法对不同的建议方案和建议任务进行了分类。然后，我们以结构化的方式介绍并总结了不同建议方案下的现有跨域推荐方法。我们还组织了常用的数据集。我们通过提供有关该领域的几个潜在研究方向来结束这项调查。

跨域建议可以帮助缓解传统的连续推荐系统中的数据稀疏问题。在本文中，我们提出了Recguru算法框架，以在顺序推荐中生成包含跨域的用户信息的广义用户表示，即使在两个域中的最小或没有公共用户时也是如此。我们提出了一种自我细心的AutoEncoder来导出潜在用户表示，以及域鉴别器，其旨在预测所产生的潜在表示的原点域。我们提出了一种新的逆势学习方法来训练两个模块，以使从不同域生成的用户嵌入到每个用户的单个全局Gur。学习的Gur捕获了用户的整体偏好和特征，因此可以用于增强行为数据并改进在涉及用户的任何单个域中的推荐。在两个公共交叉域推荐数据集以及从现实世界应用程序收集的大型数据集进行了广泛的实验。结果表明，Recguru提高了性能，优于各种最先进的顺序推荐和跨域推荐方法。收集的数据将被释放以促进未来的研究。

跨域推荐（CDR）可以帮助客户在不同域中找到更多令人满意的项目。现有的CDR模型主要使用普通用户或映射功能作为域之间的桥梁，但在充分利用跨域的额外知识方面的探索非常有限。在本文中，我们建议将CDR的知识图（kg）纳入，这使不同领域中的项目能够共享知识。为此，我们首先从Freebase KG构建了一个新的数据集AmazonKG4CDR和Amazon评论数据的一个子集（两个域对：电影音乐，电影书籍）。这个新的数据集有助于将知识与CDR内部和跨域项目桥接。然后，我们提出了一个新的框架，KG感知的神经集体矩阵分解（KG-NEUCMF），利用KG来丰富项目表示。它首先通过图形卷积自动编码器学习项目嵌入，以从kg中的相邻和高阶邻居中捕获域特异性和域一般知识。然后，我们最大程度地提高了从kg和用户项目矩阵中学到的项目嵌入之间的共同信息，以建立跨域关系以获得更好的CDR。最后，我们对新建的数据集进行了广泛的实验，并证明我们的模型明显优于表现最佳的基线。

对于推荐系统来说，长期存在的数据稀疏性和冷启动构成了棘手和困惑的问题。通过利用来自多个领域的信息来利用信息，已利用跨域建议作为域适应框架有效解决这些具有挑战性的问题。在这项研究中，探索了项目级相关性跨域建议任务，其中两个相关域，即源和目标域包含常见项目，而无需共享有关用户行为的敏感信息，从而避免了泄漏用户隐私。鉴于这种情况，提出了两种基于自动编码器的新型自动编码器的深度学习方法，以供跨域推荐。第一种方法旨在同时学习一对自动编码器，以揭示源和目标域中项目的内在表示，以及一个耦合的映射函数，以建模这些表示形式之间的非线性关系，从而将有益信息从目标域的源。第二种方法是基于新的联合正规化优化问题得出的，该问题采用了两个自动编码器以深层和非线性的方式生成用户和项目局限性因素，同时也学会了数据驱动的功能来映射跨域的项目范围因素。与几个最先进的跨域推荐框架相比，对两个公开基准数据集进行了大量的数值实验，说明了我们提出的方法的出色性能。

虽然在许多域内生成并提供了大量的未标记数据，但对视觉数据的自动理解的需求高于以往任何时候。大多数现有机器学习模型通常依赖于大量标记的训练数据来实现高性能。不幸的是，在现实世界的应用中，不能满足这种要求。标签的数量有限，手动注释数据昂贵且耗时。通常需要将知识从现有标记域传输到新域。但是，模型性能因域之间的差异（域移位或数据集偏差）而劣化。为了克服注释的负担，域适应（DA）旨在在将知识从一个域转移到另一个类似但不同的域中时减轻域移位问题。无监督的DA（UDA）处理标记的源域和未标记的目标域。 UDA的主要目标是减少标记的源数据和未标记的目标数据之间的域差异，并在培训期间在两个域中学习域不变的表示。在本文中，我们首先定义UDA问题。其次，我们从传统方法和基于深度学习的方法中概述了不同类别的UDA的最先进的方法。最后，我们收集常用的基准数据集和UDA最先进方法的报告结果对视觉识别问题。

Transfer learning aims at improving the performance of target learners on target domains by transferring the knowledge contained in different but related source domains. In this way, the dependence on a large number of target domain data can be reduced for constructing target learners. Due to the wide application prospects, transfer learning has become a popular and promising area in machine learning. Although there are already some valuable and impressive surveys on transfer learning, these surveys introduce approaches in a relatively isolated way and lack the recent advances in transfer learning. Due to the rapid expansion of the transfer learning area, it is both necessary and challenging to comprehensively review the relevant studies. This survey attempts to connect and systematize the existing transfer learning researches, as well as to summarize and interpret the mechanisms and the strategies of transfer learning in a comprehensive way, which may help readers have a better understanding of the current research status and ideas. Unlike previous surveys, this survey paper reviews more than forty representative transfer learning approaches, especially homogeneous transfer learning approaches, from the perspectives of data and model. The applications of transfer learning are also briefly introduced. In order to show the performance of different transfer learning models, over twenty representative transfer learning models are used for experiments. The models are performed on three different datasets, i.e., Amazon Reviews, Reuters-21578, and Office-31. And the experimental results demonstrate the importance of selecting appropriate transfer learning models for different applications in practice.

冷启动问题在推荐系统中仍然是一个非常具有挑战性的问题。幸运的是，冷启动用户在辅助源域中的交互可以帮助目标域中的冷启动推荐。如何将用户的偏好从源域转移到目标域，是跨域推荐（CDR）中的关键问题，这是处理冷启动问题的有希望的解决方案。大多数现有方法模型用于传输所有用户的偏好。直观地，由于偏好因用户对用户而异，不同用户的偏好网桥应该是不同的。在这一行中，我们提出了一个名为个性化用户偏好的小说框架，用于跨域推荐（PTUPCDR）。具体地，学习了与用户特征嵌入的元网络，以生成个性化桥接功能以实现每个用户的个性化的偏好传送。要稳定地学习元网络，我们采用了面向任务的优化过程。利用元生成的个性化桥函数，用户在源域中的偏好嵌入可以转换为目标域，并且变换的用户偏好嵌入可以用作目标域中的冷启动用户的初始嵌入。使用大型现实数据集，我们进行广泛的实验，以评估PTUPCDR对冷启动和热启动阶段的有效性。代码已在https://github.com/easezyc/wsdm2022-ptupcdr中提供。

为了开发有效的顺序推荐人，提出了一系列序列表示学习（SRL）方法来模拟历史用户行为。大多数现有的SRL方法都依赖于开发序列模型以更好地捕获用户偏好的明确项目ID。尽管在某种程度上有效，但由于通过明确建模项目ID的限制，这些方法很难转移到新的建议方案。为了解决这个问题，我们提出了一种新颖的通用序列表示方法，名为UNISREC。提出的方法利用项目的文本在不同的建议方案中学习可转移表示形式。为了学习通用项目表示形式，我们设计了一个基于参数美白和Experts的混合物增强的适配器的轻巧项目编码体系结构。为了学习通用序列表示，我们通过抽样多域负面因素介绍了两个对比的预训练任务。借助预训练的通用序列表示模型，我们的方法可以在电感或跨传导设置下以参数有效的方式有效地传输到新的推荐域或平台。在现实世界数据集上进行的广泛实验证明了该方法的有效性。尤其是，我们的方法还导致跨平台环境中的性能提高，显示了所提出的通用SRL方法的强可传递性。代码和预培训模型可在以下网址获得：https：//github.com/rucaibox/unisrec。

无监督域适应的最新进步已经表明，通过提取域不变表示来缓解域分流可以显着改善模型的概括到未标记的数据域。然而，现有方法未能有效保留私有的标签缺失域的表示，这可能会对概括产生不利影响。在本文中，我们提出了一种保留这种表示的方法，使得未标记域的潜在分布可以代表域不变的功能和私有到未标记域的各个特征。特别地，我们证明，在减轻域分歧的同时最大化未标记的域和其潜空间之间的相互信息可以实现这种保存。我们也理论上和经验验证的验证验证，保留私有到未标记的域的表示是重要的，并且是跨域泛化的必要性。我们的方法优于几个公共数据集上的最先进的方法。

随着电子商务行业的爆炸性增长，检测现实世界应用中的在线交易欺诈对电子商务平台的发展越来越重要。用户的顺序行为历史提供有用的信息，以区分从常规支付的欺诈性付款。最近，已经提出了一些方法来解决基于序列的欺诈检测问题。然而，这些方法通常遭受两个问题：预测结果难以解释，并且对行为的内部信息的利用不足。为了解决上述两个问题，我们提出了一个分层可解释的网络（母鸡）来模拟用户的行为序列，这不仅可以提高欺诈检测的性能，还可以使推理过程解释。同时，随着电子商务业务扩展到新域名，例如新的国家或新市场，在欺诈检测系统中建模用户行为的一个主要问题是数据收集的限制，例如，非常少的数据/标签。因此，在本文中，我们进一步提出了一种转移框架来解决跨域欺诈检测问题，其旨在从现有域（源域）的知识传输足够的域（源域），以提高新域中的性能（目标域）。我们所提出的方法是一般的转移框架，不仅可以应用于母鸡而且可以在嵌入和MLP范例中应用各种现有模型。基于90个转移任务实验，我们还表明，我们的转移框架不仅可以促进母鸡的跨域欺诈检测任务，而且对于各种现有模型也是普遍的和可扩展的。

生物医学机器阅读理解（生物医学MRC）旨在理解复杂的生物医学叙事，并协助医疗保健专业人员从中检索信息。现代神经网络的MRC系统的高性能取决于高质量的大规模，人为宣传的培训数据集。在生物医学领域中，创建此类数据集的一个至关重要的挑战是域知识的要求，引起了标记数据的稀缺性以及从标记的通用（源）域转移学习到生物医学（目标）域的需求。然而，由于主题方差，通用和生物医学领域之间的边际分布存在差异。因此，从在通用域上训练的模型到生物医学领域的模型直接转移学会的表示可能会损害模型的性能。我们为生物医学机器阅读理解任务（BioAdapt-MRC）提供了基于对抗性学习的域适应框架，这是一种基于神经网络的方法，可解决一般和生物医学域数据之间边际分布中的差异。 Bioadapt-MRC松弛了生成伪标签的需求，以训练表现出色的生物医学MRC模型。我们通过将生物ADAPT-MRC与三种广泛使用的基准生物医学MRC数据集进行比较，从而广泛评估了生物ADAPT-MRC的性能-Bioasq-7B，BioASQ-8B和BioASQ-9B。我们的结果表明，如果不使用来自生物医学领域的任何合成或人类通知的数据，Bioadapt-MRC可以在这些数据集中实现最先进的性能。可用性：bioadapt-MRC可作为开放源项目免费获得，\ url {https://github.com/mmahbub/bioadapt-mrc}。

跨域冷启动推荐是推荐系统越来越新兴的问题。现有的作品主要专注于解决跨域用户推荐或冷启动内容推荐。但是，当新域在早期发展时，它具有类似于源域的潜在用户，但互动较少。从源域中学习用户的偏好并将其转移到目标域中是至关重要的，特别是在具有有限用户反馈的新到达内容上。为了弥合这一差距，我们提出了一个自训练的跨域用户偏好学习（夫妻）框架，针对具有各种语义标签的冷启动推荐，例如视频的项目或视频类型。更具体地，我们考虑三个级别的偏好，包括用户历史，用户内容和用户组提供可靠的推荐。利用由域感知顺序模型表示的用户历史，将频率编码器应用于用于用户内容偏好学习的底层标记。然后，建议具有正交节点表示的分层存储器树以进一步概括域域的用户组偏好。整个框架以一种对比的方式更新，以先进先出（FIFO）队列获得更具独特的表示。两个数据集的广泛实验展示了用户和内容冷启动情况的夫妇效率。通过部署在线A / B一周测试，我们表明夫妇的点击率（CTR）优于淘宝应用程序的其他基线。现在该方法在线为跨域冷微视频推荐服务。

睡眠分期在诊断和治疗睡眠障碍中非常重要。最近，已经提出了许多数据驱动的深度学习模型，用于自动睡眠分期。他们主要在一个大型公共标签的睡眠数据集上训练该模型，并在较小的主题上对其进行测试。但是，他们通常认为火车和测试数据是从相同的分布中绘制的，这可能在现实世界中不存在。最近已经开发了无监督的域适应性（UDA）来处理此域移位问题。但是，以前用于睡眠分期的UDA方法具有两个主要局限性。首先，他们依靠一个完全共享的模型来对齐，该模型可能会在功能提取过程中丢失特定于域的信息。其次，它们仅在全球范围内将源和目标分布对齐，而无需考虑目标域中的类信息，从而阻碍了测试时模型的分类性能。在这项工作中，我们提出了一个名为Adast的新型对抗性学习框架，以解决未标记的目标域中的域转移问题。首先，我们开发了一个未共享的注意机制，以保留两个领域中的域特异性特征。其次，我们设计了一种迭代自我训练策略，以通过目标域伪标签提高目标域上的分类性能。我们还建议双重分类器，以提高伪标签的鲁棒性和质量。在六个跨域场景上的实验结果验证了我们提出的框架的功效及其优于最先进的UDA方法。源代码可在https://github.com/emadeldeen24/adast上获得。

域适应任务，如跨域情感分类的目标在于利用在目标域源域中现有数据标记和未标记的或标记的几个数据经由减少数据分布之间的偏移，以提高在目标域的性能。现有跨域情绪分类方法需要区分枢转，即，域共享情绪词语，和非枢转时，即，该特定域的情绪也就是说，对于优良的适应性能。在本文中，我们首先设计一个类别关注网络（CAN），然后提出一个名为CAN-CNN集成CAN和卷积神经网络（CNN）模型。在一方面，该模型的问候基点和非关键数据作为统一的类别属性的话，可以自动捕捉他们提高域自适应性能;在另一方面，该模式使得在解释性试图了解转移类别属性词。具体地，我们的模型的优化目标具有三个不同的部分：1）监督分类损失; 2）类别特征权重的分布丢失; 3）的域不变性损失。最后，该模型在三个民情分析数据集进行评估，结果表明，CAN-CNN能优于其他各种基线的方法。

Domain adaptation aims at generalizing a high-performance learner on a target domain via utilizing the knowledge distilled from a source domain which has a different but related data distribution. One solution to domain adaptation is to learn domain invariant feature representations while the learned representations should also be discriminative in prediction. To learn such representations, domain adaptation frameworks usually include a domain invariant representation learning approach to measure and reduce the domain discrepancy, as well as a discriminator for classification. Inspired by Wasserstein GAN, in this paper we propose a novel approach to learn domain invariant feature representations, namely Wasserstein Distance Guided Representation Learning (WD-GRL). WDGRL utilizes a neural network, denoted by the domain critic, to estimate empirical Wasserstein distance between the source and target samples and optimizes the feature extractor network to minimize the estimated Wasserstein distance in an adversarial manner. The theoretical advantages of Wasserstein distance for domain adaptation lie in its gradient property and promising generalization bound. Empirical studies on common sentiment and image classification adaptation datasets demonstrate that our proposed WDGRL outperforms the state-of-the-art domain invariant representation learning approaches.

共享符合跨域顺序推荐（SCSR）是一项新兴而又具有挑战性的任务，在顺序建议中同时考虑共享符号和跨域特征。 SCSR上的现有作品主要基于复发性神经网络（RNN）和图神经网络（GNN），但他们忽略了一个事实，尽管多个用户共享一个帐户，但一次主要由一个用户占用。这一观察结果促使我们通过专注于其最近的行为来学习更准确的用户特定帐户表示。此外，尽管现有的作品降低了较低的权重与无关紧要的相互作用，但它们仍可能稀释域信息并阻碍跨域建议。为了解决上述问题，我们提出了一种基于增强学习的解决方案，即RL-ISN，该解决方案由基本的跨域推荐剂和基于强化的学习域滤波器组成。具体而言，要在“共享”方案中对帐户表示形式进行建模，基本推荐人首先将用户作为潜在用户的混合行为群，然后利用注意力模型在上面进行用户身份识别。为了减少无关域信息的影响，我们将域过滤器作为层次强化学习任务，在该任务中，使用高级任务来决定是否修改整个转移的序列进一步执行任务以确定是否删除其中的每个交互。为了评估解决方案的性能，我们对两个现实世界数据集进行了广泛的实验，并且实验结果证明了与最先进的建议方法相比，我们的RL-ISN方法的优越性。

共享符号跨域顺序推荐（SCSR）任务旨在通过利用多个域中的混合用户行为推荐下一个项目。随着越来越多的用户倾向于在不同的平台上注册并与他人共享访问特定于域的服务，它正在引起极大的研究关注。现有关于SCSR的作品主要依赖于基于复发的神经网络（RNN）模型的采矿顺序模式，这些模型受到以下局限性：1）基于RNN的方法，基于RNN的方法绝大多数目标是发现单用户行为中的顺序依赖性。它们的表现不足以捕获SCSR中多个实体之间的关系。 2）所有现有方法通过潜在空间中的知识转移桥接两个域，并忽略显式的跨域图结构。 3）没有现有研究考虑项目之间的时间间隔信息，这对于表征不同项目和学习判别性表示的顺序建议至关重要。在这项工作中，我们提出了一种新的基于图的解决方案，即TIDA-GCN，以应对上述挑战。具体来说，我们首先将每个域中的用户和项目链接为图。然后，我们设计了一个域感知图形卷积网络，以学习用户特异性节点表示。为了充分说明用户对项目的域特异性偏好，进一步开发了两个有效的注意机制，以选择性地指导消息传递过程。此外，为了进一步增强项目和帐户级的表示学习，我们将时间间隔纳入消息传递中，并为学习项目的交互式特征设计一个帐户意识的自我发项模块。实验证明了我们提出的方法从各个方面的优越性。

在图像分类中，获得足够的标签通常昂贵且耗时。为了解决这个问题，域适应通常提供有吸引力的选择，给出了来自类似性质但不同域的大量标记数据。现有方法主要对准单个结构提取的表示的分布，并且表示可以仅包含部分信息，例如，仅包含部分饱和度，亮度和色调信息。在这一行中，我们提出了多代表性适应，这可以大大提高跨域图像分类的分类精度，并且特别旨在对准由名为Inception Adaption Adationation模块（IAM）提取的多个表示的分布。基于此，我们呈现多色自适应网络（MRAN）来通过多表示对准完成跨域图像分类任务，该任向性可以捕获来自不同方面的信息。此外，我们扩展了最大的平均差异（MMD）来计算适应损耗。我们的方法可以通过扩展具有IAM的大多数前进模型来轻松实现，并且网络可以通过反向传播有效地培训。在三个基准图像数据集上进行的实验证明了备的有效性。代码已在https://github.com/easezyc/deep-transfer -learning上获得。

深度神经网络已经证明了他们可以从数据中自动提取有意义的功能的能力。但是，在监督学习中，特定于用于培训的数据集的信息，但与手头的任务无关，可以在提取的表示中仍然被编码。该剩余信息引入了特定于域的偏差，削弱了泛化性能。在这项工作中，我们建议将信息分成与任务相关的表示及其互补情境表示。我们提出了一种原始方法，结合对抗特征预测器和循环重建，以解开单域监督案例中的这两个表示。然后，我们将该方法适应无监督的域适应问题，包括训练能够在源域和目标域上执行的模型。特别是，尽管没有训练标签，我们的方法促进了目标领域的解剖学。这使得能够将特定于域的特定任务信息隔离为公共表示。任务特定的表示允许有效地将从源域获取的知识转移到目标域。在单一域案中，我们展示了我们关于信息检索任务的陈述的质量以及由锐化的任务特定陈述引起的泛化效益。然后，我们在几个古典域适应基准上验证所提出的方法，并说明了解除域适应的益处。