由于方面级别的情感标签是昂贵且富有劳动力的，因此提出了零击方面的情感分类，以学习适用于新域的分类器，而无需使用任何带注释的方面级别数据。相比之下，更容易访问具有评分的文档级别的情感数据。在这项工作中，我们仅使用文档级评论来实现零击方面的情感分类。我们的关键直觉是，文档的情感表示由该文档的所有方面的情感表示组成。基于此，我们提出了AF-DSC方法，以在评论中明确建模此类情感组成。 AF-DSC首先学习所有潜在方面的情感表示形式，然后将方面级别的情感汇总到文档级的情感上，以执行文档级别的情感分类。通过这种方式，我们将其作为文档级别分类器的副产品获得方面级别的分类器。方面情感分类基准的实验结果证明了在文档级别分类中明确利用情感组成的有效性。我们的模型只有30k培训数据的表现优于先前的工作，利用数百万个数据。

Aspect Based Sentiment Analysis is a dominant research area with potential applications in social media analytics, business, finance, and health. Prior works in this area are primarily based on supervised methods, with a few techniques using weak supervision limited to predicting a single aspect category per review sentence. In this paper, we present an extremely weakly supervised multi-label Aspect Category Sentiment Analysis framework which does not use any labelled data. We only rely on a single word per class as an initial indicative information. We further propose an automatic word selection technique to choose these seed categories and sentiment words. We explore unsupervised language model post-training to improve the overall performance, and propose a multi-label generator model to generate multiple aspect category-sentiment pairs per review sentence. Experiments conducted on four benchmark datasets showcase our method to outperform other weakly supervised baselines by a significant margin.

As an important fine-grained sentiment analysis problem, aspect-based sentiment analysis (ABSA), aiming to analyze and understand people's opinions at the aspect level, has been attracting considerable interest in the last decade. To handle ABSA in different scenarios, various tasks are introduced for analyzing different sentiment elements and their relations, including the aspect term, aspect category, opinion term, and sentiment polarity. Unlike early ABSA works focusing on a single sentiment element, many compound ABSA tasks involving multiple elements have been studied in recent years for capturing more complete aspect-level sentiment information. However, a systematic review of various ABSA tasks and their corresponding solutions is still lacking, which we aim to fill in this survey. More specifically, we provide a new taxonomy for ABSA which organizes existing studies from the axes of concerned sentiment elements, with an emphasis on recent advances of compound ABSA tasks. From the perspective of solutions, we summarize the utilization of pre-trained language models for ABSA, which improved the performance of ABSA to a new stage. Besides, techniques for building more practical ABSA systems in cross-domain/lingual scenarios are discussed. Finally, we review some emerging topics and discuss some open challenges to outlook potential future directions of ABSA.

立场检测任务旨在对给定文件和主题的立场进行分类。由于该主题可以隐含在文档中，并且在零摄影设置的培训数据中看不见，因此我们建议通过使用情感和常识知识来提高立场检测模型的可传递性，这在先前的研究中很少考虑。我们的模型包括一个图形自动编码器模块，以获取常识性知识和带有情感和常识的立场检测模块。实验结果表明，我们的模型优于零射击和少量基准数据集（VAST）上的最新方法。同时，消融研究证明了我们模型中每个模块的重要性。对情感，常识和立场之间关系的分析表明了情感和常识的有效性。

Aspect-based sentiment analysis (ABSA) aims at extracting opinionated aspect terms in review texts and determining their sentiment polarities, which is widely studied in both academia and industry. As a fine-grained classification task, the annotation cost is extremely high. Domain adaptation is a popular solution to alleviate the data deficiency issue in new domains by transferring common knowledge across domains. Most cross-domain ABSA studies are based on structure correspondence learning (SCL), and use pivot features to construct auxiliary tasks for narrowing down the gap between domains. However, their pivot-based auxiliary tasks can only transfer knowledge of aspect terms but not sentiment, limiting the performance of existing models. In this work, we propose a novel Syntax-guided Domain Adaptation Model, named SDAM, for more effective cross-domain ABSA. SDAM exploits syntactic structure similarities for building pseudo training instances, during which aspect terms of target domain are explicitly related to sentiment polarities. Besides, we propose a syntax-based BERT mask language model for further capturing domain-invariant features. Finally, to alleviate the sentiment inconsistency issue in multi-gram aspect terms, we introduce a span-based joint aspect term and sentiment analysis module into the cross-domain End2End ABSA. Experiments on five benchmark datasets show that our model consistently outperforms the state-of-the-art baselines with respect to Micro-F1 metric for the cross-domain End2End ABSA task.

基于方面的情绪分析（ABSA）主要涉及三个子任务：方面术语提取，意见术语提取和方面思维分类，其通常以单独的或联合方式处理。然而，以前的方法并没有很好地利用三个子任务之间的互动关系，并不完全利用易于使用的文档级标记的域/情绪知识，这限制了他们的性能。为解决这些问题，我们提出了一种用于端到端ABSA的新型迭代多知识转移网络（IMKTN）。首先，通过ABSA子组织之间的交互式相关性，我们的IMKTN通过利用精心设计的路由算法将来自三个子任务中的任意两个子组织中的任意两个子组织中的任务特定知识传输到另一个，即任何两个这三个子组织将有助于第三个子任务。对于另一个，我们的IMKTN无疑将文档级知识，即特定于域和情绪相关的知识传输到方面级别子特派团，以进一步提高相应的性能。三个基准数据集的实验结果证明了我们方法的有效性和优越性。

Language model pre-training has proven to be useful in learning universal language representations. As a state-of-the-art language model pre-training model, BERT (Bidirectional Encoder Representations from Transformers) has achieved amazing results in many language understanding tasks. In this paper, we conduct exhaustive experiments to investigate different fine-tuning methods of BERT on text classification task and provide a general solution for BERT fine-tuning. Finally, the proposed solution obtains new state-of-the-art results on eight widely-studied text classification datasets. 1

基于方面的情绪分析旨在确定产品评论中特定方面的情感极性。我们注意到，大约30％的评论不包含明显的观点词，但仍然可以传达清晰的人类感知情绪取向，称为隐含情绪。然而，最近的基于神经网络的方法几乎没有关注隐性情绪，这一审查有所关注。为了克服这个问题，我们通过域名语言资源检索的大规模情绪注释的Corpora采用监督对比培训。通过将隐式情感表达式的表示对准与具有相同情绪标签的人，预培训过程可以更好地捕获隐含和明确的情绪方向，以便在评论中的方面。实验结果表明，我们的方法在Semeval2014基准上实现了最先进的性能，综合分析验证了其对学习隐含情绪的有效性。

多模式的细粒情感分析最近由于其广泛的应用而引起了人们的关注。但是，现有的多模式细颗粒情感数据集最关注注释文本中的细粒元素，但忽略图像中的元素，这导致视觉内容中的细粒度元素没有得到应有的全部关注。在本文中，我们提出了一个新的数据集，即多模式方面类别情感分析（MACSA）数据集，其中包含超过21k的文本图像对。该数据集为文本和视觉内容提供细粒度的注释，并首先将方面类别用作枢轴，以对齐两种模态之间的细粒元素。基于我们的数据集，我们提出了多模式ACSA任务和基于多模式的对齐模型（MGAM），该模型（MGAM）采用了细粒度的跨模式融合方法。实验结果表明，我们的方法可以促进基线比较，以实现该语料库的未来研究。我们将使数据集和代码公开可用。

大型预训练的语言模型（PLM）的最新进展导致了自然语言理解（NLU）任务的令人印象深刻的增长，并具有特定于任务的微调。但是，直接调整PLM在很大程度上依赖大量的标记实例，这些实例通常很难获得。迅速对PLM的调整已被证明对各种少数次任务很有价值。现有的作品研究基于迅速的NLU任务的基于及时的调整，主要集中于用语言器来得出正确的标签单词或生成及时的模板，以从PLM中启发语义。此外，还对常规数据增强方法进行了验证，可用于少量射击任务。但是，目前几乎没有针对基于及时的调整范式设计的数据增强方法。因此，我们研究了迅速的少数射击学习者的新数据增强问题。由于标签语义对于迅速的调整至关重要，因此我们提出了一种新颖的标签引导数据增强方法促进DA，该方法利用了丰富的标签语义信息以进行数据增强。很少的文本分类任务的广泛实验结果表明，我们提出的框架通过有效利用标签语义和数据扩展来实现自然语言理解来实现卓越的性能。

基于方面的情绪分析（ABSA）是一种文本分析方法，其定义了与特定目标相关的某些方面的意见的极性。 ABSA的大部分研究都是英文，阿拉伯语有少量的工作。最先前的阿拉伯语研究依赖于深度学习模型，主要依赖于独立于上下文的单词嵌入（例如，e.g.word2vec），其中每个单词都有一个独立于其上下文的固定表示。本文探讨了从预先培训的语言模型（如BERT）的上下文嵌入的建模功能，例如BERT，以及在阿拉伯语方面情感极度分类任务中使用句子对输入。特别是，我们开发一个简单但有效的基于伯特的神经基线来处理这项任务。根据三种不同阿拉伯语数据集的实验结果，我们的BERT架构与简单的线性分类层超出了最先进的作品。在Arabic Hotel评论数据库中实现了89.51％的准确性，73％的人类注册书评论数据集和阿拉伯新闻数据集的85.73％。

方面情绪三重态提取（Aste）旨在识别目标，他们的情感极化和意见解释句子的情绪。 Aste可以自然地分为3个原子子组织，即目标检测，意见检测和情绪分类。我们认为针对目标 - 意见对的合适的子任务组合，组成特征提取，以及子任务之间的互动将是成功的关键。然而，由于缺陷的子任务制定，子最优特征表示或缺少子任务相互作用，在“一对多”或“多对一”的情况下可能导致不存在的情绪三体，或导出不存在的情绪三元组。在本文中，我们将Aste划分为目标 - 意见联合检测和情绪分类子任务，这与人类认知符合，并且相应地利用序列编码器和表编码器来处理它们。表编码器在令牌对等级提取情绪，从而可以容易地捕获目标和意见之间的组成特征。要在子任务之间建立显式交互，我们利用表格表示来指导序列编码，并将序列功能注入到表编码器中。实验表明，我们的模型在六个受欢迎的ASTE数据集中优于最先进的方法。

文本情绪分析（也称为意见挖掘）是对实体表达的人们观点，评估，态度和情感的计算的研究。文本情绪分析可以分为文本级别的情感分析，森林级别的情感分析和方面级别的情感分析。基于方面的情感分析（ABSA）是情感分析领域中的精细任务，该任务旨在预测各个方面的极性。训练前神经模型的研究显着改善了许多自然语言处理任务的性能。近年来，培训模型（PTM）已在ABSA中应用。因此，有一个问题，即PTM是否包含ABSA的足够的句法信息。在本文中，我们探讨了最近的Deberta模型（解码增强的BERT，并引起注意），以解决基于方面的情感分析问题。 Deberta是一种基于Transformer的神经语言模型，它使用自我监督的学习来预先培训大量原始文本语料库。基于局部环境重点（LCF）机制，通过整合Deberta模型，我们为基于方面的情感分析的多任务学习模型。该实验导致了Semeval-2014最常用的笔记本电脑和餐厅数据集，而ACL Twitter数据集则表明，具有Deberta的LCF机制具有显着改善。

[目的]要理解句子的含义，人类可以专注于句子中的重要单词，这反映了我们的眼睛在不同的凝视时间或时间保持在每个单词上。因此，一些研究利用眼睛跟踪值来优化深度学习模型中的注意力机制。但是这些研究缺乏解释这种方法的合理性。需要探索注意力机制是否具有人类阅读的这一特征。 [设计/方法/方法]我们进行了有关情感分类任务的实验。首先，我们从两个开源的眼睛追踪语料库中获得了令人眼前一亮的值，以描述人类阅读的特征。然后，从情感分类模型中学到了每个句子的机器注意值。最后，进行了比较以分析机器注意值和眼睛跟踪值。 [发现]通过实验，我们发现注意机制可以集中在重要词，例如形容词，副词和情感词，这些单词对于判断情感分类任务的句子情感很有价值。它具有人类阅读的特征，重点是阅读时的句子中的重要单词。由于注意力机制的学习不足，有些单词被错误地集中了。眼睛跟踪值可以帮助注意机制纠正此错误并改善模型性能。 [原创性/价值]我们的研究不仅为使用眼睛追踪值的研究提供了合理的解释来优化注意力机制，而且还为注意力机制的解释性提供了新的灵感。

基于方面的情感分析（ABSA）旨在预测对给定方面表达的情感极性（SC）或提取意见跨度（OE）。 ABSA的先前工作主要依赖于相当复杂的特定方面特征诱导。最近，审计的语言模型（PLM），例如伯特（Bert）已被用作上下文建模层，以简化特征感应结构并实现最新性能。但是，这种基于PLM的上下文建模可能不是特定于方面的。因此，一个关键问题的探索还不足：如何通过PLM更好地建模特定方面的上下文？为了回答这个问题，我们试图以非侵入性的方式通过PLM增强特定方面的上下文建模。我们提出了三个特定于方面的输入转换，即伴侣，方面提示和方面标记。通过这些转变，可以实现非侵入性方面的PLM，以促进PLM，以便更多地关注句子中特定方面的环境。此外，我们为ABSA（ADVABSA）制定了对抗性基准，以查看特定于方面的建模如何影响模型的鲁棒性。 SC和OE的标准和对抗性基准的广泛实验结果证明了该方法的有效性和鲁棒性，从而在OE上产生了新的最新性能和SC上的竞争性能。

方面情绪三重态提取（ASTE）旨在从句子中提取三胞胎，包括目标实体，相关情感极性，以及合理化极性的意见跨度。现有方法缺乏目标 - 意见对之间的构建相关性，并忽略不同情绪三联体之间的相互干扰。为了解决这些问题，我们利用了两阶段框架来增强目标和意见之间的相关性：在阶段，通过序列标记提取目标和意见;然后，我们附加了一组名为可感知对的人工标签，其指示特定目标意义元组的跨度，输入句子以获得更接近相关的目标意见对表示。同时，我们通过限制令牌的注意力领域来降低三态层之间的负干扰。最后，根据可感知对的表示来识别极性。我们对四个数据集进行实验，实验结果表明了我们模型的有效性。

尽管在情感分析方面取得了巨大的成功，但现有的神经模型在隐式情感分析中挣扎。这可能是由于它们可能会锁定虚假的相关性（例如，“捷径”，例如，仅关注明确的情感词），从而破坏了学习模型的有效性和鲁棒性。在这项工作中，我们提出了一种使用仪器变量（ISAIV）的因果干预模型，用于隐式情感分析。我们首先从因果角度审查情感分析，并分析此任务中存在的混杂因素。然后，我们引入了一个仪器变量，以消除混杂的因果效应，从而在句子和情感之间提取纯粹的因果效应。我们将所提出的ISAIV模型与几个强大的基线进行比较，同时是一般的隐式情感分析和基于方面的隐式情感分析任务。结果表明我们模型的巨大优势以及隐性情感推理的功效。

预先接受的语言模型实现了最先进的导致各种自然语言处理（NLP）任务。 GPT-3表明，缩放预先训练的语言模型可以进一步利用它们的巨大潜力。最近提出了一个名为Ernie 3.0的统一框架，以预先培训大型知识增强型号，并培训了具有10亿参数的模型。 Ernie 3.0在各种NLP任务上表现出最先进的模型。为了探讨缩放的表现，我们培养了百卢比的3.0泰坦参数型号，在PaddlePaddle平台上有高达260亿参数的泰坦。此外，我们设计了一种自我监督的对抗性损失和可控语言建模损失，以使ERNIE 3.0 TITAN产生可信和可控的文本。为了减少计算开销和碳排放，我们向Ernie 3.0泰坦提出了一个在线蒸馏框架，教师模型将同时教授学生和培训。埃塞尼3.0泰坦是迄今为止最大的中国密集预训练模型。经验结果表明，Ernie 3.0泰坦在68个NLP数据集中优于最先进的模型。

基于方面的情绪分析（ABSA）任务由三个典型的子特点组成：术语术语提取，意见术语提取和情感极性分类。这三个子组织通常是共同执行的，以节省资源并减少管道中的错误传播。但是，大多数现有联合模型只关注编码器共享的福利在子任务之间共享，但忽略差异。因此，我们提出了一个关节ABSA模型，它不仅享有编码器共享的好处，而且还专注于提高模型效率的差异。详细地，我们介绍了双编码器设计，其中一对编码器特别侧重于候选方识对分类，并且原始编码器对序列标记进行注意。经验结果表明，我们的拟议模型显示了鲁棒性，并显着优于前一个基准数据集的先前最先进。

几乎没有命名的实体识别（NER）对于在有限的资源领域中标记的实体标记至关重要，因此近年来受到了适当的关注。现有的几声方法主要在域内设置下进行评估。相比之下，对于这些固有的忠实模型如何使用一些标记的域内示例在跨域NER中执行的方式知之甚少。本文提出了一种两步以理性为中心的数据增强方法，以提高模型的泛化能力。几个数据集中的结果表明，与先前的最新方法相比，我们的模型无形方法可显着提高跨域NER任务的性能，包括反事实数据增强和及时调用方法。我们的代码可在\ url {https://github.com/lifan-yuan/factmix}上获得。