[目的]要理解句子的含义，人类可以专注于句子中的重要单词，这反映了我们的眼睛在不同的凝视时间或时间保持在每个单词上。因此，一些研究利用眼睛跟踪值来优化深度学习模型中的注意力机制。但是这些研究缺乏解释这种方法的合理性。需要探索注意力机制是否具有人类阅读的这一特征。 [设计/方法/方法]我们进行了有关情感分类任务的实验。首先，我们从两个开源的眼睛追踪语料库中获得了令人眼前一亮的值，以描述人类阅读的特征。然后，从情感分类模型中学到了每个句子的机器注意值。最后，进行了比较以分析机器注意值和眼睛跟踪值。 [发现]通过实验，我们发现注意机制可以集中在重要词，例如形容词，副词和情感词，这些单词对于判断情感分类任务的句子情感很有价值。它具有人类阅读的特征，重点是阅读时的句子中的重要单词。由于注意力机制的学习不足，有些单词被错误地集中了。眼睛跟踪值可以帮助注意机制纠正此错误并改善模型性能。 [原创性/价值]我们的研究不仅为使用眼睛追踪值的研究提供了合理的解释来优化注意力机制，而且还为注意力机制的解释性提供了新的灵感。

认知处理信号可用于改善自然语言处理（NLP）任务。但是，目前尚不清楚这些信号如何与语言信息相关。在神经语言学中，人类语言处理和语言特征之间的桥接通常通过具有高度控制的刺激的单可变控制实验，广泛研究。这些方法不仅损害了自然读数的真实性，而且耗时且昂贵。在本文中，我们提出了一种数据驱动方法来研究认知处理信号与语言特征之间的关系。具体而言，我们提出了一种统一的注意力框架，它由嵌入，注意，编码和预测层组成，以选择性地将认知处理信号映射到语言特征。我们将映射过程定义为桥接任务，并为词汇，句法和语义特征开发12个桥接任务。所提出的框架仅需要在自然读数下记录的认知处理信号作为输入，并且可用于检测具有单个认知数据集的广泛的语言特征。实验结果的观察结果与以前的神经科学结果共鸣。除此之外，我们的实验还揭示了许多有趣的发现，例如语境上跟踪特征与句子时态之间的相关性。

Future work sentences (FWS) are the particular sentences in academic papers that contain the author's description of their proposed follow-up research direction. This paper presents methods to automatically extract FWS from academic papers and classify them according to the different future directions embodied in the paper's content. FWS recognition methods will enable subsequent researchers to locate future work sentences more accurately and quickly and reduce the time and cost of acquiring the corpus. The current work on automatic identification of future work sentences is relatively small, and the existing research cannot accurately identify FWS from academic papers, and thus cannot conduct data mining on a large scale. Furthermore, there are many aspects to the content of future work, and the subdivision of the content is conducive to the analysis of specific development directions. In this paper, Nature Language Processing (NLP) is used as a case study, and FWS are extracted from academic papers and classified into different types. We manually build an annotated corpus with six different types of FWS. Then, automatic recognition and classification of FWS are implemented using machine learning models, and the performance of these models is compared based on the evaluation metrics. The results show that the Bernoulli Bayesian model has the best performance in the automatic recognition task, with the Macro F1 reaching 90.73%, and the SCIBERT model has the best performance in the automatic classification task, with the weighted average F1 reaching 72.63%. Finally, we extract keywords from FWS and gain a deep understanding of the key content described in FWS, and we also demonstrate that content determination in FWS will be reflected in the subsequent research work by measuring the similarity between future work sentences and the abstracts.

文本情绪分析（也称为意见挖掘）是对实体表达的人们观点，评估，态度和情感的计算的研究。文本情绪分析可以分为文本级别的情感分析，森林级别的情感分析和方面级别的情感分析。基于方面的情感分析（ABSA）是情感分析领域中的精细任务，该任务旨在预测各个方面的极性。训练前神经模型的研究显着改善了许多自然语言处理任务的性能。近年来，培训模型（PTM）已在ABSA中应用。因此，有一个问题，即PTM是否包含ABSA的足够的句法信息。在本文中，我们探讨了最近的Deberta模型（解码增强的BERT，并引起注意），以解决基于方面的情感分析问题。 Deberta是一种基于Transformer的神经语言模型，它使用自我监督的学习来预先培训大量原始文本语料库。基于局部环境重点（LCF）机制，通过整合Deberta模型，我们为基于方面的情感分析的多任务学习模型。该实验导致了Semeval-2014最常用的笔记本电脑和餐厅数据集，而ACL Twitter数据集则表明，具有Deberta的LCF机制具有显着改善。

随着互联网技术的发展，信息超载现象变得越来越明显。用户需要花费大量时间来获取所需的信息。但是，汇总文档信息的关键词非常有助于用户快速获取和理解文档。对于学术资源，大多数现有研究通过标题和摘要提取关键纸张。我们发现引用中的标题信息还包含作者分配的密钥次。因此，本文使用参考信息并应用两种典型的无监督的提取方法（TF * IDF和Textrank），两个代表传统监督学习算法（NA \“IVE贝叶斯和条件随机场）和监督的深度学习模型（Bilstm- CRF），分析参考信息对关键症提取的具体性能。从扩大源文本的角度来提高关键术识别的质量。实验结果表明，参考信息可以提高精度，召回和F1自动关键肾上腺瓶在一定程度上提取。这表明了参考信息关于学术论文的关键症提取的有用性，并为以下关于自动关键正萃取的研究提供了新的想法。

情绪分析的主要方法是基于规则的方法和MA-CHINE学习，特别是具有伯特架构的跨前架构的深神经网络模型，包括伯特。神经网络模型在情感分析任务中的性能优于基于规则的方法的性能。由于深度神经网络模型的可辨运性差，这种情况的原因仍不明确。理解两种方法之间的基本差异的主要键之一是在神经网络模型中考虑情绪词典的分析。为此，我们研究了俄语rubert模型的注意力矩阵。我们在情感文本语料库上进行微调rubert，并比较注意力和中性词典的注意力分布。事实证明，与中性的相比，平均而言，各种模型Var-IANTS的3/4的头部统计上会更加关注情绪词典。

基于方面的情感分析（ABSA）涉及审查句子对给定方面的情感极性的识别。 RNN，LSTM和GRU等深度学习顺序模型是推断情感极性的当前最新方法。这些方法可以很好地捕获评论句子的单词之间的上下文关系。但是，这些方法在捕获长期依赖性方面微不足道。注意机制仅专注于句子的最关键部分，从而发挥着重要作用。在ABSA的情况下，方面位置起着至关重要的作用。在确定对该方面的情绪的同时，近乎方面的单词会做出更多的贡献。因此，我们提出了一种使用依赖解析树捕获基于位置信息的方法，并有助于注意机制。使用这种类型的位置信息通过简单的基于单词距离的位置增强了深度学习模型的性能。我们对Semeval'14数据集进行了实验，以证明基于ABSA的基于ABS的依赖关系的效果。

目的本文的目的是探讨哪些学术文章裁判的结构将更加关注，具体内容裁判的重点是哪些特定内容，以及中国的分布是否与引用有关。设计/方法/方法首先，利用节标题和分层注意网络模型（HAN）的特征单词来识别学术文章结构。其次，根据PRC中规则提取的位置信息在不同结构中的分布。第三，分析通过卡方检验和TF-IDF在不同结构中提取的PRC特征单词的分布。最后，使用四种相关分析方法来分析PRC在不同结构中的分布是否与引用相关。发现在材料和方法和结果部分中分布的PRC计数远远超过了引言和讨论的结构，这表明裁判员更多地关注材料，方法和结果。中国在不同结构中的特征单词的分布显然是不同的，这可以反映裁判员关注的内容。中国在不同结构中的分布与引用之间没有相关性。由于裁判员写同行评审报告的差异，研究的局限性/含义，用于提取位置信息的规则不能涵盖所有中国的所有中国。原创性/价值本文在不同的学术文章结构中发现了中国分布的一种模式，证明了长期的经验理解。它还提供了对学术文章写作的见解：研究人员应确保方法的科学性和撰写学术文章的结果的可靠性，以获得裁判的高度认可。

There is growing interest in incorporating eye-tracking data and other implicit measures of human language processing into natural language processing (NLP) pipelines. The data from human language processing contain unique insight into human linguistic understanding that could be exploited by language models. However, many unanswered questions remain about the nature of this data and how it can best be utilized in downstream NLP tasks. In this paper, we present eyeStyliency, an eye-tracking dataset for human processing of stylistic text (e.g., politeness). We develop a variety of methods to derive style saliency scores over text using the collected eye dataset. We further investigate how this saliency data compares to both human annotation methods and model-based interpretability metrics. We find that while eye-tracking data is unique, it also intersects with both human annotations and model-based importance scores, providing a possible bridge between human- and machine-based perspectives. In downstream few-shot learning tasks, adding salient words to prompts generally improved style classification, with eye-tracking-based and annotation-based salient words achieving the highest accuracy.

基于方面的情绪分析（ABSA）是一种文本分析方法，其定义了与特定目标相关的某些方面的意见的极性。 ABSA的大部分研究都是英文，阿拉伯语有少量的工作。最先前的阿拉伯语研究依赖于深度学习模型，主要依赖于独立于上下文的单词嵌入（例如，e.g.word2vec），其中每个单词都有一个独立于其上下文的固定表示。本文探讨了从预先培训的语言模型（如BERT）的上下文嵌入的建模功能，例如BERT，以及在阿拉伯语方面情感极度分类任务中使用句子对输入。特别是，我们开发一个简单但有效的基于伯特的神经基线来处理这项任务。根据三种不同阿拉伯语数据集的实验结果，我们的BERT架构与简单的线性分类层超出了最先进的作品。在Arabic Hotel评论数据库中实现了89.51％的准确性，73％的人类注册书评论数据集和阿拉伯新闻数据集的85.73％。

随着文献资源的丰富，研究人员面临着信息爆炸和知识过载的不断增长的问题。为了帮助学者检索文学并成功获得知识，澄清学术文学中内容的语义结构已成为基本的研究问题。在识别学术文章中章节的结构功能的研究中，只有几项研究使用了深度学习模型，并探索了特征输入的优化。这限制了研究任务深度学习模型的应用，优化潜力。本文将ACL会议的文章作为语料库。我们采用传统的机器学习模型和深度学习模型，基于各种特征输入构建分类器。实验结果表明，（1）与章节内容相比，章节标题更有利于识别学术文章的结构功能。 （2）相对位置是建立传统模型的有价值的功能。 （3）受到（2）的启发，本文进一步将上下文信息引入深度学习模型，取得了显着的结果。同时，我们的模型在包含200个采样的非训练样本的开放式测试中显示出良好的迁移能力。近五年我们还基于表演模型的最佳实践，并对整体语料库进行了时间序列分析，近五年注释了ACL主要会议文件。这项工作通过多个比较实验探索并总结了此任务的实际功能和模型，并为相关文本分类任务提供了参考。最后，我们表示当前模型的局限性和缺点以及进一步优化的方向。

作为世界上第四大语言家庭，Dravidian语言已成为自然语言处理（NLP）的研究热点。虽然Dravidian语言包含大量语言，但有相对较少的公众可用资源。此外，文本分类任务是自然语言处理的基本任务，如何将其与Dravidian语言中的多种语言相结合，仍然是Dravidian自然语言处理的主要困难。因此，为了解决这些问题，我们为Dravidian语言提出了一个多语言文本分类框架。一方面，该框架使用Labse预先训练的模型作为基础模型。针对多任务学习中文本信息偏见的问题，我们建议使用MLM策略选择语言特定的单词，并使用对抗训练来扰乱它们。另一方面，鉴于模型无法识别和利用语言之间的相关性的问题，我们进一步提出了一种特定于语言的表示模块，以丰富模型的语义信息。实验结果表明，我们提出的框架在多语言文本分类任务中具有重要性能，每个策略实现某些改进。

Although attention mechanisms have become fundamental components of deep learning models, they are vulnerable to perturbations, which may degrade the prediction performance and model interpretability. Adversarial training (AT) for attention mechanisms has successfully reduced such drawbacks by considering adversarial perturbations. However, this technique requires label information, and thus, its use is limited to supervised settings. In this study, we explore the concept of incorporating virtual AT (VAT) into the attention mechanisms, by which adversarial perturbations can be computed even from unlabeled data. To realize this approach, we propose two general training techniques, namely VAT for attention mechanisms (Attention VAT) and "interpretable" VAT for attention mechanisms (Attention iVAT), which extend AT for attention mechanisms to a semi-supervised setting. In particular, Attention iVAT focuses on the differences in attention; thus, it can efficiently learn clearer attention and improve model interpretability, even with unlabeled data. Empirical experiments based on six public datasets revealed that our techniques provide better prediction performance than conventional AT-based as well as VAT-based techniques, and stronger agreement with evidence that is provided by humans in detecting important words in sentences. Moreover, our proposal offers these advantages without needing to add the careful selection of unlabeled data. That is, even if the model using our VAT-based technique is trained on unlabeled data from a source other than the target task, both the prediction performance and model interpretability can be improved.

苏黎世认知语言处理语料库（Zuco）提供了来自两种读取范例，正常读取和特定任务读数的眼跟踪和脑电图信号。我们分析了机器学习方法是否能够使用眼睛跟踪和EEG功能对这两个任务进行分类。我们使用聚合的句子级别功能以及细粒度的单词级别来实现模型。我们在主题内和交叉对象评估方案中测试模型。所有模型都在Zuco 1.0和Zuco 2.0数据子集上进行测试，其特征在于不同的记录程序，因此允许不同的概括水平。最后，我们提供了一系列的控制实验，以更详细地分析结果。

Deep Learning and Machine Learning based models have become extremely popular in text processing and information retrieval. However, the non-linear structures present inside the networks make these models largely inscrutable. A significant body of research has focused on increasing the transparency of these models. This article provides a broad overview of research on the explainability and interpretability of natural language processing and information retrieval methods. More specifically, we survey approaches that have been applied to explain word embeddings, sequence modeling, attention modules, transformers, BERT, and document ranking. The concluding section suggests some possible directions for future research on this topic.

凝视行为已被用作收集认知信息多年的一种方式。在本文中，我们讨论了凝视行为在解决自然语言处理（NLP）中解决不同任务的情况，而无需在测试时间录制它。这是因为凝视行为的收集是一种昂贵的任务，无论是时间和金钱。因此，在本文中，我们专注于对减轻在运行时录制凝视行为的需要的研究。我们还提到了多种语言的不同眼踪语言，目前可用，可用于自然语言处理。我们通过在领域教育中讨论应用程序来结束我们的论文 - 以及学习凝视行为如何有助于解决复杂词识别和自动论文分级的任务。

在本文中，我们对亚马逊的产品评论和彻底分析模型解释性进行了句子级别情绪分析。对于情感分析任务，我们使用Bilstm模型与注意机制。对于对解释性的研究，我们认为单句子的注意力分布和主要方面术语的注意力。该模型的准确性高达0.96。我们发现，这些方面术语具有比句子中的感伤词相同或更具更多的注意力。

基于神经网络的嵌入一直是创建文本的向量表示以捕获词汇和语义相似性和差异的主流方法。通常，现有的编码方法将标点符号视为微不足道的信息；因此，通常将它们视为预定义的令牌/单词或在预处理阶段消除。但是，标点符号可能在句子的语义中发挥重要作用，例如“让我们吃\ hl {，}奶奶”和“让我们吃奶奶”。我们假设标点符号表示模型将影响下游任务的性能。因此，我们提出了一种模型 - 不足的方法，该方法同时结合了句法和上下文信息，以提高情感分类任务的性能。我们通过对公开可用数据集进行实验来证实我们的发现，并提供案例研究，我们的模型就句子中的标点符号生成了表示。

由于方面级别的情感标签是昂贵且富有劳动力的，因此提出了零击方面的情感分类，以学习适用于新域的分类器，而无需使用任何带注释的方面级别数据。相比之下，更容易访问具有评分的文档级别的情感数据。在这项工作中，我们仅使用文档级评论来实现零击方面的情感分类。我们的关键直觉是，文档的情感表示由该文档的所有方面的情感表示组成。基于此，我们提出了AF-DSC方法，以在评论中明确建模此类情感组成。 AF-DSC首先学习所有潜在方面的情感表示形式，然后将方面级别的情感汇总到文档级的情感上，以执行文档级别的情感分类。通过这种方式，我们将其作为文档级别分类器的副产品获得方面级别的分类器。方面情感分类基准的实验结果证明了在文档级别分类中明确利用情感组成的有效性。我们的模型只有30k培训数据的表现优于先前的工作，利用数百万个数据。

讽刺可以被定义为说或写讽刺与一个人真正想表达的相反，通常是为了侮辱，刺激或娱乐某人。由于文本数据中讽刺性的性质晦涩难懂，因此检测到情感分析研究社区的困难和非常感兴趣。尽管讽刺检测的研究跨越了十多年，但最近已经取得了一些重大进步，包括在多模式环境中采用了无监督的预训练的预训练的变压器，并整合了环境以识别讽刺。在这项研究中，我们旨在简要概述英语计算讽刺研究的最新进步和趋势。我们描述了与讽刺有关的相关数据集，方法，趋势，问题，挑战和任务，这些数据集，趋势，问题，挑战和任务是无法检测到的。我们的研究提供了讽刺数据集，讽刺特征及其提取方法以及各种方法的性能分析，这些表可以帮助相关领域的研究人员了解当前的讽刺检测中最新实践。