事件参数提取（EAE）在句子级别进行了很好的研究，但在文档级别进行了探索。在本文中，我们研究以捕获实际上分布在文档中的句子的事件论点。先前的工作主要假设对丰富的文档监督的完全访问，而忽略了该论点监督在文档中受到限制的事实。为了填补这一空白，我们基于最大的文档级事件提取数据集DOCEE提出了几个示波的文档级事件参数提取基准。我们首先定义了新问题，并通过新颖的N-Way-D-Doc采样而不是传统的NWay-K-shot策略来重建语料库。然后，我们将高级文档级神经模型调整为几个弹出设置，以在内部和跨域设置下提供基线结果。由于参数提取取决于多个句子的上下文，并且学习过程仅限于很少的示例，因此我们发现该任务在实质上较低的性能中非常具有挑战性。考虑到很少有Docae与低资源制度下的实际使用密切相关，我们希望这种基准能够朝着这一方向发展进行更多的研究。我们的数据和代码将在线提供。

我们提出了弗雷多（Fredo），几张文档级别的关系提取（FSDLRE）基准。与基于句子级别的关系提取语料库建立的现有基准相反，我们认为文档级的语料库提供了更多的现实主义，尤其是关于无原始的（nota）分布。因此，我们建议一组FSDLRE任务，并基于两个现有的监督学习数据集（DOCRED和SCIERC）构建基准测试。我们将最先进的句子级方法MNAV调整为文档级别，并进一步开发它以改善域的适应性。我们发现FSDLRE是一个充满挑战的环境，具有有趣的新特征，例如从支持集中进行nota实例的能力。数据，代码和训练的模型可在线获得（https://github.com/nicpopovic/fredo）。

从新闻文章中提取事件的信息论点是信息提取的一个具有挑战性的问题，这需要对每个文档的全球上下文理解。尽管有关文档级提取的最新工作已经超越了单句子，并提高了端到端模型的跨句子推理能力，但它们仍然受到某些输入序列长度约束的限制，通常忽略事件之间的全局上下文。为了解决此问题，我们通过构建文档存储器存储来记录上下文事件信息，并利用它隐含，明确地帮助解码以后事件的参数，从而引入了一个新的基于全局神经生成的框架，以用于文档级事件参数提取提取文档级别的事件参数提取。经验结果表明，我们的框架的表现要优于先验方法，并且使用约束的解码设计对对抗注释的示例更为强大。 （我们的代码和资源可在https://github.com/xinyadu/memory_docie上获得研究目的。）

Metric-based meta-learning is one of the de facto standards in few-shot learning. It composes of representation learning and metrics calculation designs. Previous works construct class representations in different ways, varying from mean output embedding to covariance and distributions. However, using embeddings in space lacks expressivity and cannot capture class information robustly, while statistical complex modeling poses difficulty to metric designs. In this work, we use tensor fields (``areas'') to model classes from the geometrical perspective for few-shot learning. We present a simple and effective method, dubbed hypersphere prototypes (HyperProto), where class information is represented by hyperspheres with dynamic sizes with two sets of learnable parameters: the hypersphere's center and the radius. Extending from points to areas, hyperspheres are much more expressive than embeddings. Moreover, it is more convenient to perform metric-based classification with hypersphere prototypes than statistical modeling, as we only need to calculate the distance from a data point to the surface of the hypersphere. Following this idea, we also develop two variants of prototypes under other measurements. Extensive experiments and analysis on few-shot learning tasks across NLP and CV and comparison with 20+ competitive baselines demonstrate the effectiveness of our approach.

在文档级事件提取（DEE）任务中，事件参数始终散布在句子（串行问题）中，并且多个事件可能存在于一个文档（多事件问题）中。在本文中，我们认为事件参数的关系信息对于解决上述两个问题具有重要意义，并提出了一个新的DEE框架，该框架可以对关系依赖关系进行建模，称为关系授权的文档级事件提取（REDEE）。更具体地说，该框架具有一种新颖的量身定制的变压器，称为关系增强的注意变形金刚（RAAT）。 RAAT可扩展以捕获多尺度和多启动参数关系。为了进一步利用关系信息，我们介绍了一个单独的事件关系预测任务，并采用多任务学习方法来显式增强事件提取性能。广泛的实验证明了该方法的有效性，该方法可以在两个公共数据集上实现最新性能。我们的代码可在https：// github上找到。 com/tencentyouturesearch/raat。

The widely studied task of Natural Language Inference (NLI) requires a system to recognize whether one piece of text is textually entailed by another, i.e. whether the entirety of its meaning can be inferred from the other. In current NLI datasets and models, textual entailment relations are typically defined on the sentence- or paragraph-level. However, even a simple sentence often contains multiple propositions, i.e. distinct units of meaning conveyed by the sentence. As these propositions can carry different truth values in the context of a given premise, we argue for the need to recognize the textual entailment relation of each proposition in a sentence individually. We propose PropSegmEnt, a corpus of over 35K propositions annotated by expert human raters. Our dataset structure resembles the tasks of (1) segmenting sentences within a document to the set of propositions, and (2) classifying the entailment relation of each proposition with respect to a different yet topically-aligned document, i.e. documents describing the same event or entity. We establish strong baselines for the segmentation and entailment tasks. Through case studies on summary hallucination detection and document-level NLI, we demonstrate that our conceptual framework is potentially useful for understanding and explaining the compositionality of NLI labels.

Event extraction (EE) is the task of identifying interested event mentions from text. Conventional efforts mainly focus on the supervised setting. However, these supervised models cannot generalize to event types out of the pre-defined ontology. To fill this gap, many efforts have been devoted to the zero-shot EE problem. This paper follows the trend of modeling event-type semantics but moves one step further. We argue that using the static embedding of the event type name might not be enough because a single word could be ambiguous, and we need a sentence to define the type semantics accurately. To model the definition semantics, we use two separate transformer models to project the contextualized event mentions and corresponding definitions into the same embedding space and then minimize their embedding distance via contrastive learning. On top of that, we also propose a warming phase to help the model learn the minor difference between similar definitions. We name our approach Zero-shot Event extraction with Definition (ZED). Experiments on the MAVEN dataset show that our model significantly outperforms all previous zero-shot EE methods with fast inference speed due to the disjoint design. Further experiments also show that ZED can be easily applied to the few-shot setting when the annotation is available and consistently outperforms baseline supervised methods.

We propose P4E, an identify-and-localize event detection framework that integrates the best of few-shot prompting and structured prediction. Our framework decomposes event detection into an identification task and a localization task. For the identification task, which we formulate as multi-label classification, we leverage cloze-based prompting to align our objective with the pre-training task of language models, allowing our model to quickly adapt to new event types. We then employ an event type-agnostic sequence labeling model to localize the event trigger conditioned on the identification output. This heterogeneous model design allows P4E to quickly learn new event types without sacrificing the ability to make structured predictions. Our experiments demonstrate the effectiveness of our proposed design, and P4E shows superior performance for few-shot event detection on benchmark datasets FewEvent and MAVEN and comparable performance to SOTA for fully-supervised event detection on ACE.

随着信息技术的快速发展，在线平台已经产生了巨大的文本资源。作为一种特定形式的信息提取（即），事件提取（EE）由于其自动从人类语言提取事件的能力而增加了普及。但是，事件提取有限的文献调查。现有审查工作要么花费很多努力，用于描述各种方法的细节或专注于特定领域。本研究提供了全面概述了最先进的事件提取方法及其从文本的应用程序，包括闭域和开放式事件提取。这项调查的特点是它提供了适度复杂性的概要，避免涉及特定方法的太多细节。本研究侧重于讨论代表作品的常见角色，应用领域，优势和缺点，忽略各个方法的特殊性。最后，我们总结了常见问题，当前解决方案和未来的研究方向。我们希望这项工作能够帮助研究人员和从业者获得最近的事件提取的快速概述。

从文本中获取结构事件知识的事件提取（EE）可以分为两个子任务：事件类型分类和元素提取（即在不同的角色模式下识别触发器和参数）。由于不同的事件类型始终拥有独特的提取模式（即角色模式），因此EE先前的工作通常遵循孤立的学习范式，对不同的事件类型独立执行元素提取。它忽略了事件类型和参数角色之间有意义的关联，导致频繁类型/角色的性能相对较差。本文提出了一个新型的EE任务神经关联框架。给定文档，它首先通过构造文档级别的图形来执行类型分类，以关联不同类型的句子节点，并采用图形注意网络来学习句子嵌入。然后，通过构建一个通用参数角色模式来实现元素提取，并具有参数遗传机制，以增强提取元素的角色偏好。因此，我们的模型考虑了EE期间的类型和角色关联，从而使它们之间的隐式信息共享。实验结果表明，我们的方法始终优于两个子任务中大多数最新的EE方法。特别是，对于具有较少培训数据的类型/角色，该性能优于现有方法。

关系提取（RE）是指在输入文本中提取关系三元组。现有的基于神经工作的系统在很大程度上依赖于手动标记的培训数据，但是仍然有很多域中不存在足够的标记数据。受到基于距离的几弹性实体识别方法的启发，我们根据序列标记的关节提取方法提出了几个弹出任务的定义，并为任务提出了一些弹出框架。此外，我们将两个实际的序列标记模型应用于我们的框架（称为少数Tplinker和几杆Bitt），并在从公共数据集构建的两个少量RE任务上实现了可靠的结果。

Few-shot named entity recognition (NER) targets generalizing to unseen labels and/or domains with few labeled examples. Existing metric learning methods compute token-level similarities between query and support sets, but are not able to fully incorporate label semantics into modeling. To address this issue, we propose a simple method to largely improve metric learning for NER: 1) multiple prompt schemas are designed to enhance label semantics; 2) we propose a novel architecture to effectively combine multiple prompt-based representations. Empirically, our method achieves new state-of-the-art (SOTA) results under 16 of the 18 considered settings, substantially outperforming the previous SOTA by an average of 8.84% and a maximum of 34.51% in relative gains of micro F1. Our code is available at https://github.com/AChen-qaq/ProML.

当前的因果文本挖掘数据集在目标，数据覆盖率和注释方案中有所不同。这些不一致的努力阻止了建模能力和模型性能的公平比较。很少有数据集包含因果跨度注释，这是端到端因果提取所需的。因此，我们提出了Unicausal，这是跨三个任务的因果文本开采的统一基准：因果序列分类，因果效应跨度检测和因果对分类。我们合并了六个高质量人类注销语料库的注释和对齐注释，分别为每个任务分别为58,720、12,144和69,165个示例。由于因果关系的定义可以是主观的，因此我们的框架旨在允许研究人员处理某些或所有数据集和任务。作为初始基准，我们将BERT预培训模型调整为我们的任务并生成基线得分。对于序列分类，我们获得了70.10％的二进制F1得分，跨度检测获得了52.42％的宏F1得分，对成对分类获得了84.68％的二进制F1得分。

事件提取（EE）是信息提取的重要任务，该任务旨在从非结构化文本中提取结构化事件信息。大多数先前的工作都专注于提取平坦的事件，同时忽略重叠或嵌套的事件。多个重叠和嵌套EE的模型包括几个连续的阶段来提取事件触发器和参数，这些阶段患有错误传播。因此，我们设计了一种简单而有效的标记方案和模型，以将EE作为单词关系识别，称为oneee。触发器或参数单词之间的关系在一个阶段同时识别出并行网格标记，从而产生非常快的事件提取速度。该模型配备了自适应事件融合模块，以生成事件感知表示表示和距离感知的预测指标，以整合单词关系识别的相对距离信息，从经验上证明这是有效的机制。对3个重叠和嵌套的EE基准测试的实验，即少数FC，GENIA11和GENIA13，表明Oneee实现了最新的（SOTA）结果。此外，ONEEE的推理速度比相同条件下的基线的推理速度快，并且由于它支持平行推断，因此可以进一步改善。

事件提取，旨在自动获取文档结构信息的技术，在许多领域中吸引了越来越多的关注。大多数现有工作通过将令牌视为不同的角色，令牌级多标签分类框架讨论此问题，同时忽略文档的编写方式。写作风格是一个特殊的内容，用于组织文件，它是相对固定在具有特殊领域的文档中（例如，财务，医疗文件等）。我们认为写作风格包含重要的线索来判断令牌的角色，这种模式的无知可能导致现有工作的性能下降。为此，我们将文档中的写作风格模拟作为参数角色的分布，即角色排名分配，并提出了一种基于角色排名分布的监督机制的事件提取模型，通过监督培训过程来捕获这种模式事件提取任务。我们将模型与在几个真实世界数据集上的最先进的方法进行比较。经验结果表明，我们的方法优于捕获模式的其他替代品。这验证了写入风格包含可以提高事件提取任务性能的有价值的信息。

几个名称的实体识别（NER）使我们能够使用很少的标记示例为新域构建一个NER系统。但是，该任务的现有原型网络具有大致估计的标签依赖性和紧密分布的原型，因此经常导致错误分类。为了解决上述问题，我们提出了EP-NET，这是一个实体级原型网络，通过分散分布的原型增强。EP-NET构建实体级原型，并认为文本跨度为候选实体，因此它不再需要标签依赖性。此外，EP-NET从头开始训练原型，以分散分配它们，并使用空间投影将跨度与嵌入空间中的原型对齐。两项评估任务和少量网络设置的实验结果表明，EP-NET在整体性能方面始终优于先前的强大模型。广泛的分析进一步验证了EP-NET的有效性。

自然语言理解的关系提取使得创新和鼓励新颖的商业概念成为可能，并促进新的数字化决策过程。目前的方法允许提取与固定数量的实体的关系作为属性。提取与任意数量的属性的关系需要复杂的系统和昂贵的关系触发注释来帮助这些系统。我们将多属性关系提取（MARE）引入具有两种方法的假设问题，促进从业务用例到数据注释的显式映射。避免精细的注释约束简化了关系提取方法的应用。评估将我们的模型与当前最先进的事件提取和二进制关系提取方法进行了比较。与普通多属性关系的提取相比，我们的方法表现出改进。

我们提出了一个新的框架，在增强的自然语言（TANL）之间的翻译，解决了许多结构化预测语言任务，包括联合实体和关系提取，嵌套命名实体识别，关系分类，语义角色标记，事件提取，COREREFED分辨率和对话状态追踪。通过培训特定于特定于任务的鉴别分类器来说，我们将其作为一种在增强的自然语言之间的翻译任务，而不是通过培训问题，而不是解决问题，而是可以轻松提取任务相关信息。我们的方法可以匹配或优于所有任务的特定于任务特定模型，特别是在联合实体和关系提取（Conll04，Ade，NYT和ACE2005数据集）上实现了新的最先进的结果，与关系分类（偶尔和默示）和语义角色标签（Conll-2005和Conll-2012）。我们在使用相同的架构和超参数的同时为所有任务使用相同的架构和超级参数，甚至在培训单个模型时同时解决所有任务（多任务学习）。最后，我们表明，由于更好地利用标签语义，我们的框架也可以显着提高低资源制度的性能。

自论证挖掘领域成立以来，在法律话语中识别，分类和分析的论点一直是研究的重要领域。但是，自然语言处理（NLP）研究人员的模型模型与法院决策中的注释论点与法律专家理解和分析法律论证的方式之间存在重大差异。尽管计算方法通常将论点简化为通用的前提和主张，但法律研究中的论点通常表现出丰富的类型，对于获得一般法律的特定案例和应用很重要。我们解决了这个问题，并做出了一些实质性的贡献，以推动该领域的前进。首先，我们在欧洲人权法院（ECHR）诉讼中为法律论点设计了新的注释计划，该计划深深植根于法律论证研究的理论和实践中。其次，我们编译和注释了373项法院判决（230万令牌和15K注释的论点跨度）的大量语料库。最后，我们训练一个论证挖掘模型，该模型胜过法律NLP领域中最先进的模型，并提供了彻底的基于专家的评估。所有数据集和源代码均可在https://github.com/trusthlt/mining-legal-arguments的开放lincenses下获得。

事件检测任务可以帮助人们快速从复杂文本中确定域。它还可以为自然语言处理的下游任务提供强大的支持。存在仅基于大量数据实现固定型学习。当扩展到新课程时，通常需要保留原始数据并重新训练模型。事件检测任务可以终身学习新类，但是大多数现有方法都需要保留大量原始数据或面临灾难性的问题忘记。除此之外，由于缺乏实用性数据，很难获得足够的数据进行模型培训。要解决上述问题，我们在事件检测的领域定义了一项新任务，这是很少的增量事件检测。此任务要求在学习新事件类型的情况下，该模型应保留以前的类型，并且输入有限。我们根据几个event重新创建和发布基准数据集，以少数数量的事件检测任务。我们发布的数据集比该新任务中的其他数据集更合适。此外，我们提出了两种基准方法，即IFSED-K和IFSED-KP，可以以不同的方式解决任务。实验结果表明，我们的方法具有更高的F1分数，并且比基线更稳定。