随着推荐系统变得越来越复杂和复杂，它们通常会缺乏公平和透明度。为建议提供强大而公正的解释，人们越来越关注，因为它可以帮助解决这些问题并提高推荐系统的信任度和信息性。然而，尽管事实是为人类生成了这种解释，这些人类对具有适当情绪的信息做出更强烈反应，但在为建议解释时，人们缺乏对情绪的考虑。发现当前的解释生成模型可以夸大某些情绪，而无需准确捕获基本的语调或含义。在本文中，我们提出了一种基于多头变压器的新方法，称为“情感感知变压器”，以解释推荐（情感者），以产生更健壮，公平和情感增强的解释。为了衡量产生的解释的语言质量和情感公平性，我们采用自动文本指标和人类的看法进行评估。在具有多个评估指标的三个广泛使用基准数据集上进行的实验表明，情感者在文本质量，解释性和对情感分布的公平性方面始终优于现有的最新解释生成模型。 Emoter的实施将作为开源工具包发布，以支持进一步的研究。

最近的模型可以产生流利和语法合成评论，同时准确预测用户评分。生成的评论表达了用户对相关产品的估计意见，通常被视为自然语言“理由”，共同预测的评级。但是，先前的研究发现，现有模型通常会产生重复性，普遍适用和通用的解释，从而导致非信息原理。此外，我们的分析表明，以前的模型生成的内容通常包含事实幻觉。这些问题要求采用新颖的解决方案，这些解决方案可以产生信息丰富的和事实扎根的解释。受到最新使用检索内容的启发，除了生成的参数知识外，我们建议用个性化的检索器增强发电机，在该发现者的启发下，猎犬的输出是增强发电机的外部知识。关于Yelp，TripAdvisor和Amazon Movie评论数据集的实验表明，我们的模型可以产生解释，即更可靠地需要进行现有评论，更多样化，并且由人类评估人员评为更有信息。

现有的解释模型仅生成建议的文本，但仍然难以生产各种内容。在本文中，为了进一步丰富解释，我们提出了一项名为“个性化展示”的新任务，其中我们同时提供文本和视觉信息来解释我们的建议。具体来说，我们首先选择一个个性化图像集，该图与用户对推荐物品的兴趣最相关。然后，自然语言解释将相应地产生我们的选定图像。对于这项新任务，我们从Google Local（即〜maps）收集一个大规模数据集，并构建一个用于生成多模式说明的高质量子集。我们提出了一个个性化的多模式框架，可以通过对比度学习产生多样化和视觉上的解释。实验表明，我们的框架受益于不同方式作为输入，并且与以前的各种评估指标相比，能够产生更多样化和表达的解释。

本文对过去二十年来对自然语言生成（NLG）的研究提供了全面的审查，特别是与数据到文本生成和文本到文本生成深度学习方法有关，以及NLG的新应用技术。该调查旨在（a）给出关于NLG核心任务的最新综合，以及该领域采用的建筑;（b）详细介绍各种NLG任务和数据集，并提请注意NLG评估中的挑战，专注于不同的评估方法及其关系;（c）强调一些未来的强调和相对近期的研究问题，因为NLG和其他人工智能领域的协同作用而增加，例如计算机视觉，文本和计算创造力。

会话推荐系统（CRS）已成为一个新兴的研究主题，试图通过交互式对话进行建议，这些对话通常由发电和建议模块组成。 CRS的先前工作倾向于将更多的外部和领域特定知识纳入项目评论，以提高性能。尽管事实的收集和注释特定于外部领域的信息需要大量的人类努力并脱离了普遍性，但过多的额外知识在它们之间带来了更大的困难。因此，我们建议从上下文中充分发现和提取内部知识。我们将实体级别和上下文级别的表示形式捕获为对建议的共同模拟用户的偏好，在这种情况下，时间吸引的注意力旨在强调实体级表示中最近出现的项目。我们进一步使用预训练的巴特来初始化生成模块，以减轻数据稀缺性并增强上下文建模。除了在流行数据集（REDIAIL）上进行实验外，我们还包括一个多域数据集（OpenDialKg）来显示我们模型的有效性。两个数据集的实验都表明，我们的模型在大多数评估指标上都具有更好的性能，其外部知识较少，并且可以很好地推广到其他领域。对建议和生成任务的其他分析证明了我们在不同情况下模型的有效性。

长期以来，不同的推荐任务通常需要设计特定于任务的架构和培训目标。结果，很难将学习的知识和表示从一个任务转移到另一个任务，从而限制了现有推荐方法的概括能力，例如，几乎无法将顺序推荐模型应用于审核生成方法。为了解决此类问题，考虑到语言几乎可以描述任何内容，语言基础是表示各种问题或任务的有力媒介，我们提出了一种灵活而统一的文本到文本范式，称为“预绘，个性化的提示和预测范式” （P5）为了推荐，该建议在共享框架中统一了各种建议任务。在P5中，将所有数据（例如用户项目交互，用户描述，项目元数据和用户评论）转换为通用格式 - 自然语言序列。来自自然语言的丰富信息有助于P5捕获更深入的语义，以进行个性化和建议。具体而言，P5在预处理过程中以相同的语言建模目标学习不同的任务。因此，它是各种下游建议任务的基础模型，可以轻松地与其他模式集成，并根据提示启用基于指导的建议。 P5将推荐系统从浅层模型到深模型到大型模型，并将彻底改变推荐系统的技术形式，向通用推荐引擎。借助对不同用户的自适应个性化提示，P5能够以零拍或几种方式进行预测，并大大减少了进行广泛微调的必要性。在几个建议基准中，我们进行实验以显示P5的有效性。我们以\ url {https://github.com/jeykigung/p5}发布源代码。

个性化的自然语言生成可解释的建议在证明为什么建议可能与用户的兴趣相匹配的原因中起着关键作用。现有模型通常通过软约束（例如〜方面计划）来控制发电过程。在有希望的同时，这些方法难以正确地生成特定的信息，这阻止了产生的解释内容丰富和多样化。在本文中，我们提出了UCEPIC，这是一个解释生成模型，该模型统一了可控个性化生成的方面计划和词汇约束。具体而言，我们首先通过提出的强大插入过程预先培训非人性化的文本生成器，以便模型能够生成包含词汇约束的句子。然后，我们演示了将方面计划和个性化引用纳入插入过程的方法，以获得个性化的解释。与先前由软限制控制的工作相比，UCEPIC结合了来自钥匙拼的特定信息，然后很大程度上提高了生成的解释的多样性和信息性。对RateBeer和Yelp的广泛实验表明，UCEPIC可以为建议产生高质量和不同的解释。

Controllable Text Generation (CTG) is emerging area in the field of natural language generation (NLG). It is regarded as crucial for the development of advanced text generation technologies that are more natural and better meet the specific constraints in practical applications. In recent years, methods using large-scale pre-trained language models (PLMs), in particular the widely used transformer-based PLMs, have become a new paradigm of NLG, allowing generation of more diverse and fluent text. However, due to the lower level of interpretability of deep neural networks, the controllability of these methods need to be guaranteed. To this end, controllable text generation using transformer-based PLMs has become a rapidly growing yet challenging new research hotspot. A diverse range of approaches have emerged in the recent 3-4 years, targeting different CTG tasks which may require different types of controlled constraints. In this paper, we present a systematic critical review on the common tasks, main approaches and evaluation methods in this area. Finally, we discuss the challenges that the field is facing, and put forward various promising future directions. To the best of our knowledge, this is the first survey paper to summarize CTG techniques from the perspective of PLMs. We hope it can help researchers in related fields to quickly track the academic frontier, providing them with a landscape of the area and a roadmap for future research.

由于推荐基本上是比较（或排名）的过程，良好的解释应该向用户说明为什么一个项目被认为比另一个项目更好，即关于推荐项目的比较解释。理想情况下，在阅读解释之后，用户应达到与系统的相同的项目排名。不幸的是，尚未对这种比较解释支付的研究注意力。在这项工作中，我们开发了提取物和精炼架构，以解释来自推荐系统的一组排名项目之间的相对比较。对于每个推荐的项目，我们首先将一个句子从其相关审核中提取一个句子，最能诉诸于一组参考项的所需比较。然后，该提取的句子通过生成模型相对于目标用户进一步阐述，以更好地解释为什么建议该项目。我们根据BLEU设计一个新的解释质量指标，指导提取和细化组件的端到端培训，避免生成通用内容。对两个大型推荐基准数据集的广泛离线评估和针对一系列最先进的可解释的建议算法的严重用户研究表明了比较解释的必要性和我们解决方案的有效性。

Empathy is a vital factor that contributes to mutual understanding, and joint problem-solving. In recent years, a growing number of studies have recognized the benefits of empathy and started to incorporate empathy in conversational systems. We refer to this topic as empathetic conversational systems. To identify the critical gaps and future opportunities in this topic, this paper examines this rapidly growing field using five review dimensions: (i) conceptual empathy models and frameworks, (ii) adopted empathy-related concepts, (iii) datasets and algorithmic techniques developed, (iv) evaluation strategies, and (v) state-of-the-art approaches. The findings show that most studies have centered on the use of the EMPATHETICDIALOGUES dataset, and the text-based modality dominates research in this field. Studies mainly focused on extracting features from the messages of the users and the conversational systems, with minimal emphasis on user modeling and profiling. Notably, studies that have incorporated emotion causes, external knowledge, and affect matching in the response generation models, have obtained significantly better results. For implementation in diverse real-world settings, we recommend that future studies should address key gaps in areas of detecting and authenticating emotions at the entity level, handling multimodal inputs, displaying more nuanced empathetic behaviors, and encompassing additional dialogue system features.

对话推荐系统（CRS）的注意力日益增长，该系统可作为基于对话和建议的以任务为基础的工具，以提供感兴趣的项目并探索用户偏好。但是，CRS中现有的工作未能向用户明确显示推理逻辑，并且整个CRS仍然是黑匣子。因此，我们提出了一个基于生成对话代理的解释，以解释他们为何采取行动的解释，提出了一个名为“解释建议”（EGCR）的新颖端到端框架。 EGCR结合了用户评论，以增强项目表示并提高整个对话的信息。据我们所知，这是对现实世界数据集上可解释的对话建议的第一个框架。此外，我们在一个基准的对话推荐数据集上评估了EGCR，并比其他最先进的模型在建议准确性和对话质量上获得更好的性能。最后，广泛的实验表明，生成的解释不仅具有高质量和解释性，而且使CRS更加值得信赖。我们将使我们的代码可为CRS社区做出贡献

最近，电子商务平台上的产品问题应答（PQA）引起了越来越幅度的关注，因为它可以作为智能的在线购物助理和改善客户购物体验。它的关键功能，自动回答的产品相关问题的生成，通过旨在在与问题相关的答案时产生内容保存。然而，现有方法忽略了PQA，即个性化的重要特征。提供相同的“完全总结”回答所有客户的回答不足，因为许多客户更愿意通过考虑自己的偏好对产品方面或信息需求的偏好来看待具有定制信息的个性化答案。为了解决这一挑战，我们提出了一种新颖的个性化答复生成方法（页面），具有多视角偏好建模，探讨了历史用户生成的内容，以模拟用户偏好，以在PQA中生成个性化答案。具体而言，我们首先将问题相关的用户历史作为外部知识作为模拟知识级用户偏好。然后我们利用高斯SoftMax分布模型来捕获潜在的方面级别用户偏好。最后，我们通过利用个人用户偏好和动态用户词汇表，开发一个角色感知指针网络以在内容和样式方面生成个性化答案。实验结果对现实世界电子商务QA数据集表明，所提出的方法通过生成信息和定制答案来表明现有方法，并显示电子商务中的答案可以从个性化中受益。

动机，情感和行动是人类活动中相关的基本因素。尽管长期以来一直认为动机和情感是探索人们如何在人类活动中采取行动的核心，但几乎没有研究支持分析人类精神状态与行动之间的关系。我们介绍了第一项研究，该研究研究了基于语言的人类活动中建模动机，情感和行动的生存能力，即逗号（人类活动的认知框架）。在逗号的指导下，我们定义了三个自然语言处理任务（情感理解，动机理解和有条件的动作生成），并通过自动从故事常识中提取样本来建立一个具有挑战性的数据集冰雹。 NLP应用程序的实验结果证明了建模关系的有效性。此外，与现有方法相比，受逗号启发的模型可以更好地揭示动机，情感和行动之间的基本关系。

转移学习已通过深度审慎的语言模型广泛用于自然语言处理，例如来自变形金刚和通用句子编码器的双向编码器表示。尽管取得了巨大的成功，但语言模型应用于小型数据集时会过多地适合，并且很容易忘记与分类器进行微调时。为了解决这个忘记将深入的语言模型从一个域转移到另一个领域的问题，现有的努力探索了微调方法，以减少忘记。我们建议DeepeMotex是一种有效的顺序转移学习方法，以检测文本中的情绪。为了避免忘记问题，通过从Twitter收集的大量情绪标记的数据来仪器进行微调步骤。我们使用策划的Twitter数据集和基准数据集进行了一项实验研究。 DeepeMotex模型在测试数据集上实现多级情绪分类的精度超过91％。我们评估了微调DeepeMotex模型在分类Emoint和刺激基准数据集中的情绪时的性能。这些模型在基准数据集中的73％的实例中正确分类了情绪。所提出的DeepeMotex-Bert模型优于BI-LSTM在基准数据集上的BI-LSTM增长23％。我们还研究了微调数据集的大小对模型准确性的影响。我们的评估结果表明，通过大量情绪标记的数据进行微调提高了最终目标任务模型的鲁棒性和有效性。

良好的善解人意对话系统应首先跟踪并理解用户的情绪，然后以适当的情感回复。但是，目前对此任务的方法要么集中于提高对用户情绪的理解或提出更好的反应策略，而且很少有作品同时考虑这两种工作。我们的工作试图填补这一空缺。受到任务导向对话系统的启发，我们提出了一种具有情感感知对话管理的新颖善解人意的响应生成模型。情绪感知对话管理包含两个部分：（1）情绪状态跟踪保持当前用户的情绪状态，（2）善解人意的对话策略选择预测目标情绪和用户的意图，基于情绪状态跟踪的结果。然后，预测信息用于指导响应的产生。实验结果表明，与自动评估和人类评估下的几个基准相比，动态管理不同的信息可以帮助模型产生更多的移情反应。

连接视觉和语言在生成智能中起着重要作用。因此，已经致力于图像标题的大型研究工作，即用句法和语义有意义的句子描述图像。从2015年开始，该任务通常通过由Visual Encoder组成的管道和文本生成的语言模型来解决任务。在这些年来，两种组件通过对象区域，属性，介绍多模态连接，完全关注方法和伯特早期融合策略的利用而显着发展。但是，无论令人印象深刻的结果，图像标题的研究还没有达到结论性答案。这项工作旨在提供图像标题方法的全面概述，从视觉编码和文本生成到培训策略，数据集和评估度量。在这方面，我们量化地比较了许多相关的最先进的方法来确定架构和培训策略中最有影响力的技术创新。此外，讨论了问题的许多变体及其开放挑战。这项工作的最终目标是作为理解现有文献的工具，并突出显示计算机视觉和自然语言处理的研究领域的未来方向可以找到最佳的协同作用。

多文件摘要（MDS）是信息聚合的有效工具，它从与主题相关文档集群生成信息和简洁的摘要。我们的调查是，首先，系统地概述了最近的基于深度学习的MDS模型。我们提出了一种新的分类学，总结神经网络的设计策略，并进行全面的最先进的概要。我们突出了在现有文献中很少讨论的各种客观函数之间的差异。最后，我们提出了与这个新的和令人兴奋的领域有关的几个方向。

由于知识图表提供的丰富信息，基于路径的可解释的推荐系统的最新进展引起了更大的关注。最现有的可解释的建议仅利用静态知识图表并忽略动态用户项演进，导致不太令人信服和不准确的解释。虽然有一些作品，但意识到建模用户的时间顺序行为可以提高推荐器系统的性能和解释性，其中大多数只关注用户在路径内的顺序交互或独立和单独的推荐机制。在本文中，我们提出了一种新颖的时间元路径指导可解释的推荐利用加强学习（TMER-RL），它利用了连续项目之间的加强项 - 项目路径建模，其注意机制在动态知识图上顺序模拟动态用户项演进用于解释的建议。与使用繁重的经常性神经网络模拟时间信息的现有作品相比，我们提出了简单但有效的神经网络，以捕获用户的历史项目功能和基于路径的上下文，以表征下一个购买的项目。与最近的强大基线相比，两个真实数据集的TMMER广泛评估显示了最先进的表现。

文本样式传输是自然语言生成中的重要任务，旨在控制生成的文本中的某些属性，例如礼貌，情感，幽默和许多其他特性。它在自然语言处理领域拥有悠久的历史，最近由于深神经模型带来的有希望的性能而重大关注。在本文中，我们对神经文本转移的研究进行了系统调查，自2017年首次神经文本转移工作以来跨越100多个代表文章。我们讨论了任务制定，现有数据集和子任务，评估，以及丰富的方法在存在并行和非平行数据存在下。我们还提供关于这项任务未来发展的各种重要主题的讨论。我们的策据纸张列表在https://github.com/zhijing-jin/text_style_transfer_survey

使用个性化解释来支持建议，以增加信任和感知质量。但是，为了实际获取更好的建议，需要一种用户通过与解释进行交互来修改推荐标准的手段。我们介绍了一种新颖的技术，使用方面标记，学会从审查文本生成关于建议的个性化解释，并且我们表明人类用户明显更喜欢通过最先进技术产生的解释这些解释。我们的工作最重要的创新是它允许用户通过批评文本解释来对推荐作出反应：删除（对称添加）它们不喜欢的某些方面或不再相关（对称地是感兴趣的）。系统根据批评更新其用户模型和产生的建议。这是基于一种具有文本解释的单一和多步批判的新型无监督批评方法。两个现实世界数据集的实验表明，我们的系统是第一个在适应多步批评中表达的偏好方面实现良好性能的实验。