本体对齐是应用于各种领域的重要研究问题，例如数据集成，数据传输，数据准备等。最先进的（SOTA）本体对准系统通常使用具有手工规则或域的天真域相关方法 - 具体的架构，使它们不可能和效率低下。在这项工作中，我们提出了一种基于深入的学习的模型，它使用了一种新的双重注意机制来计算概念的上下文化表示，这反过来依用于发现对齐。通过这样做，不仅是我们的方法能够利用在本体中编码的句法和语义信息，它也是通过设计，灵活和可扩展到不同的域，其努力最小。我们在来自不同领域和语言的四个不同数据集中评估我们的模型，并通过这些结果以及详细的消融研究来确定其优势。使用的代码和数据集可在https://github.com/remorax/vealigh中获得。

实体对齐（EA）在学术界和工业中都引起了广泛的关注，该行业旨在寻求具有不同知识图（KGS）相同含义的实体。 KGS中的实体之间存在实质性的多步关系路径，表明实体的语义关系。但是，现有方法很少考虑路径信息，因为并非所有自然路径都促进EA判断。在本文中，我们提出了一个更有效的实体对齐框架RPR-RHGT，该框架集成了关系和路径结构信息以及KGS中的异质信息。令人印象深刻的是，开发了一种初始可靠的路径推理算法来生成有利于EA任务的路径，从KGS的关系结构中，这是文献中第一个成功使用无限制路径信息的算法。此外，为了有效地捕获实体社区中的异质特征，设计的异质图变压器旨在建模KGS的关系和路径结构。在三个著名数据集上进行的广泛实验表明，RPR-RHGT的表现明显优于11种最佳方法，超过了命中率@1的最佳性能基线最高8.62％。我们还表现出比基线在训练集的不同比率和更难数据集的基线上更好的性能。

知识库及其以知识图（kg）形式的表示自然是不完整的。由于科学和工业应用已广泛采用，因此对完成信息的解决方案的需求很高。最近的一些作品通过学习实体和关系的嵌入来应对这一挑战，然后雇用它们来预测实体之间的新关系。尽管它们加重了，但大多数方法仅着眼于学习嵌入的当地邻居。结果，他们可能无法通过忽视长期依赖性和实体语义的传播来捕获KGS的上下文信息。在此手稿中，我们提出{\ ae} MP（来自多种模式的注意力嵌入），这是一种通过以下方式学习上下文化表示的新颖模型：实体的本地语义，同时着眼于邻里的各个方面； （ii）通过利用道路及其之间的关系来捕获语义上下文。我们的经验发现吸引了人们对注意力机制如何改善实体的上下文表示以及结合实体和语义路径环境如何改善实体的一般表示和关系预测的见解。几个大知识图基准的实验结果表明，{\ ae} MP的表现要优于最先进的关系预测方法。

知识图（kg）对齐 - 指识别不同kgs中同一件事的实体的任务 - 被认为是KG构造领域中最重要的操作之一。然而，现有的对齐技术通常假设输入kgs是完整的并且同性的，这是由于域，大小和稀疏性的现实世界异质性而不是真实。在这项工作中，我们解决了与代表学习对齐不完整的KG对齐的问题。我们的KG嵌入式框架利用了两个特征频道：基于传输型和基于接近的。前者通过翻译路径捕获实体之间的一致性约束，而后者通过注意引导关系感知图形神经网络捕获KG的邻域结构。两个特征频道共同学习以在输入kgs之间交换重要特征，同时强制在同一嵌入空间中强制输入kg的输出表示。此外，我们开发了缺失的链接检测器，该探测器发现并恢复培训过程中输入kgs中的缺失链接，这有助于减轻不完整性问题，从而提高学习象征的兼容性。然后将嵌入的熔合融合以生成对准结果，并且高置信匹配节点对被更新为预先调整的监控数据以逐渐改善嵌入。经验结果表明，我们的型号比SOTA更准确，而且对不同级别的不完整性较高，高达15.2 \％。我们还证明了KGS之间交换的知识有助于揭示知识图表（A.K.A.知识完成）的看不见的事实，结果比SOTA知识图形完成技术高3.5 \％。

识别跨语言抄袭是挑战性的，特别是对于遥远的语言对和感知翻译。我们介绍了这项任务的新型多语言检索模型跨语言本体论（CL \ nobreakdash-osa）。 CL-OSA表示从开放知识图Wikidata获得的实体向量的文档。反对其他方法，Cl \ nobreakdash-osa不需要计算昂贵的机器翻译，也不需要使用可比较或平行语料库进行预培训。它可靠地歧义同音异义和缩放，以允许其应用于Web级文档集合。我们展示了CL-OSA优于从五个大局部多样化的测试语料中检索候选文档的最先进的方法，包括日语英语等遥控语言对。为了识别在角色级别的跨语言抄袭，CL-OSA主要改善了感觉识别翻译的检测。对于这些挑战性案例，CL-OSA在良好的Plagdet得分方面的表现超过了最佳竞争对手的比例超过两种。我们研究的代码和数据公开可用。

自动化本体策划是知识工程中的至关重要的任务。通过机器学习技术（例如语义嵌入）的预测是一个有希望的方向，但相关研究仍然是初步的。在本文中，我们提出了一个名为Bertsubs的类集合预测方法，该方法使用预训练的语言模型BERT来计算类标签和自定义输入模板的上下文嵌入，以结合周围类的上下文。对两个大型现实世界的评估表明，其性能比最先进的表现更好。

实体对齐是将知识图（KGS）与多个源集成的重要步骤。以前的实体对齐尝试已经探索了不同的kg结构，例如基于邻域和基于路径的上下文，以学习实体嵌入物，但它们受到捕获多上下文特征的限制。此外，大多数方法直接利用嵌入相似性以确定实体对齐，而不考虑实体和关系之间的全局互动。在这项工作中，我们提出了一个明智的多上下文实体对齐（IMEA）模型来解决这些问题。特别是，我们引入变压器以灵活地捕获关系，路径和邻域背景，并根据嵌入相似度和关系/实体功能设计整体推理以估计对齐概率。从整体推理获得的对准证据通过所提出的软标签编辑进一步注入变压器，以通知嵌入学习。与现有的最先进的实体对准方法相比，若干基准数据集上的实验结果证明了IMEA模型的优越性。

网络安全漏洞信息通常由多个渠道记录，包括政府漏洞存储库，个人维护的漏洞收集平台或漏洞披露的电子邮件列表和论坛。从不同渠道整合脆弱性信息可以使全面的威胁评估和快速部署到各种安全机制。但是，当今实体一致性技术的局限性阻碍了自动收集此类信息的努力。在我们的研究中，我们注释了第一个网络安全域实体对齐数据集并揭示安全实体的独特特征。基于这些观察结果，我们提出了第一个网络安全实体对准模型CEAM，该模型CAM，该模型为基于GNN的实体比对配备了两种机制：不对称的掩盖聚集和分区的注意力。网络安全域实体比对数据集的实验结果表明，CEAM明显优于最先进的实体比对方法。

我们根据生态毒理学风险评估中使用的主要数据来源创建了知识图表。我们已经将这种知识图表应用于风险评估中的重要任务，即化学效果预测。我们已经评估了在该预测任务的各种几何，分解和卷积模型中嵌入模型的九个知识图形嵌入模型。我们表明，使用知识图形嵌入可以提高与神经网络的效果预测的准确性。此外，我们已经实现了一种微调架构，它将知识图形嵌入到效果预测任务中，并导致更好的性能。最后，我们评估知识图形嵌入模型的某些特征，以阐明各个模型性能。

Wikidata是一个经常更新，社区驱动和多语言知识图形。因此，Wikidata是实体联系的一个有吸引力的基础，这是最近发表论文的增加显而易见的。该调查侧重于四个主题：（1）存在哪些Wikidata实体链接数据集，它们是多么广泛使用，它们是如何构建的？ （2）对实体联系数据集的设计进行Wikidata的特点，如果是的话，怎么样？ （3）当前实体链接方法如何利用Wikidata的特定特征？ （4）现有实体链接方法未开发哪种Wikidata特征？本次调查显示，当前的Wikidata特定实体链接数据集在其他知识图表中的方案中的注释方案中没有不同。因此，没有提升多语言和时间依赖数据集的可能性，是自然适合维基帽的数据集。此外，我们表明大多数实体链接方法使用Wikidata以与任何其他知识图相同的方式，因为任何其他知识图都缺少了利用Wikidata特定特征来提高质量的机会。几乎所有方法都使用标签等特定属性，有时是描述，而是忽略超关系结构等特征。因此，例如，通过包括超关系图嵌入或类型信息，仍有改进的余地。许多方法还包括来自维基百科的信息，这些信息很容易与Wikidata组合并提供有价值的文本信息，Wikidata缺乏。

网络世界中的信息安全是令人关切的主要原因，攻击表面的数量显着增加。网络上可用的漏洞，攻击，控件和建议的现有信息提供了代表知识并执行安全分析以减轻一些问题的机会。代表本体形式的安全知识有助于异常检测，威胁情报，推理和相关攻击的相关性归因等。这需要动态和自动丰富信息安全本体。然而，基于自然语言处理和ML模型的现有本体富集算法具有语文提取词，短语和句子的上下文提取问题。这激励了对遍历文本中的依赖路径的顺序深度学习架构的需求，并提取嵌入漏洞，威胁，控件，产品和其他安全相关概念和来自学习的路径表示的实例。在所提出的方法中，部署了在大型DBPedia数据集和Wikipedia语料库上培训的双向LSTMS与Universal Stank编码器一起培训，以丰富基于ISO 27001的信息安全本体。该模型在高性能计算（HPC）环境上进行培训并测试，以处理Wiki文本维度。当从本体论和网页实例的敲除概念测试以验证稳健性时，该方法产生了超过80％的测试精度。

Knowledge graphs (KG) have served as the key component of various natural language processing applications. Commonsense knowledge graphs (CKG) are a special type of KG, where entities and relations are composed of free-form text. However, previous works in KG completion and CKG completion suffer from long-tail relations and newly-added relations which do not have many know triples for training. In light of this, few-shot KG completion (FKGC), which requires the strengths of graph representation learning and few-shot learning, has been proposed to challenge the problem of limited annotated data. In this paper, we comprehensively survey previous attempts on such tasks in the form of a series of methods and applications. Specifically, we first introduce FKGC challenges, commonly used KGs, and CKGs. Then we systematically categorize and summarize existing works in terms of the type of KGs and the methods. Finally, we present applications of FKGC models on prediction tasks in different areas and share our thoughts on future research directions of FKGC.

自动问题应答（QA）系统的目的是以时间有效的方式向用户查询提供答案。通常在数据库（或知识库）或通常被称为语料库的文件集合中找到答案。在过去的几十年里，收购知识的扩散，因此生物医学领域的新科学文章一直是指数增长。因此，即使对于领域专家，也难以跟踪域中的所有信息。随着商业搜索引擎的改进，用户可以在某些情况下键入其查询并获得最相关的一小组文档，以及在某些情况下从文档中的相关片段。但是，手动查找所需信息或答案可能仍然令人疑惑和耗时。这需要开发高效的QA系统，该系统旨在为用户提供精确和精确的答案提供了生物医学领域的自然语言问题。在本文中，我们介绍了用于开发普通域QA系统的基本方法，然后彻底调查生物医学QA系统的不同方面，包括使用结构化数据库和文本集合的基准数据集和几种提出的方​​法。我们还探讨了当前系统的局限性，并探索潜在的途径以获得进一步的进步。

Entity alignment is to find identical entities in different knowledge graphs (KGs) that refer to the same real-world object. Embedding-based entity alignment techniques have been drawing a lot of attention recently because they can help solve the issue of symbolic heterogeneity in different KGs. However, in this paper, we show that the progress made in the past was due to biased and unchallenging evaluation. We highlight two major flaws in existing datasets that favor embedding-based entity alignment techniques, i.e., the isomorphic graph structures in relation triples and the weak heterogeneity in attribute triples. Towards a critical evaluation of embedding-based entity alignment methods, we construct a new dataset with heterogeneous relations and attributes based on event-centric KGs. We conduct extensive experiments to evaluate existing popular methods, and find that they fail to achieve promising performance. As a new approach to this difficult problem, we propose a time-aware literal encoder for entity alignment. The dataset and source code are publicly available to foster future research. Our work calls for more effective and practical embedding-based solutions to entity alignment.

事实证明，信息提取方法可有效从结构化或非结构化数据中提取三重。以（头部实体，关系，尾部实体）形式组织这样的三元组的组织称为知识图（kgs）。当前的大多数知识图都是不完整的。为了在下游任务中使用kgs，希望预测kgs中缺少链接。最近，通过将实体和关系嵌入到低维的矢量空间中，旨在根据先前访问的三元组来预测三元组，从而对KGS表示不同的方法。根据如何独立或依赖对三元组进行处理，我们将知识图完成的任务分为传统和图形神经网络表示学习，并更详细地讨论它们。在传统的方法中，每个三重三倍将独立处理，并在基于GNN的方法中进行处理，三倍也考虑了他们的当地社区。查看全文

实体对齐是知识图（kg）集成中的基本且至关重要的技术。多年来，对实体一致性的研究一直存在于KG是静态的假设，该假设忽略了现实世界KG的生长本质。随着KG的成长，先前的一致性结果面临需要重新审视的，而新实体对齐等待被发现。在本文中，我们建议并深入研究现实但未开发的设置，称为持续实体对齐。为了避免在新实体和三元组来时对整个KGS进行整个模型，我们为此任务提供了一种持续的对齐方法。它基于实体邻接，重建实体的表示，使其能够使用其现有邻居快速而有归纳的新实体生成嵌入。它选择并重播部分预先对准的实体对，仅训练一部分KG，同时提取可信赖的知识对准知识增强。由于不可避免地要包含与以前的作品不同的不可匹配的实体，因此所提出的方法采用双向最近的邻居匹配来找到新的实体对齐并更新旧的对齐。此外，我们还通过模拟多语言dbpedia的增长来构建新数据集。广泛的实验表明，我们的持续比对方法比基于再培训或归纳学习的基准更有效。

交叉语言信息检索（CLIR）旨在将以与用户查询不同的语言编写的文档进行排序。不同语言之间的内在差距是CLIR的基本挑战。在本文中，由于多种语言的实体的足够信息，我们将多语言知识图（kg）引入CLIR任务。它被视为“银弹”，同时在查询和文档之间进行显式对齐，并扩大查询的表示。我们提出了一个名为CLIR的模型，为我们的任务提供了分层知识增强（加息）。所提出的模型用多语言BERT编码查询，文档和kg中的文本信息，并在具有分层信息融合机制中将kg信息包含在查询文件匹配过程中。特别是，徒步旅行首先将kg中的实体及其社区集成到具有知识级融合的查询表示中，然后将来自源语言的知识结合起来进一步减轻语言级融合的语言间隙。最后，实验结果表明，徒步旅行达到了最先进的竞争对手的大量改进。

大型公共知识图，例如Wikidata，包含数千万实体的数十亿个陈述，从而激发了各种用例以利用此类知识图。但是，实践表明，Wikidata中仍然缺少适合用户需求的许多相关信息，而当前的链接开放数据（LOD）工具不适合丰富像Wikidata这样的大图。在本文中，我们研究了从LOD云中用结构化数据源丰富Wikidata的潜力。我们提出了一个新颖的工作流程，其中包括差距检测，源选择，模式对齐和语义验证。我们用两个互补的LOD来源评估了我们的富集方法：一个嘈杂的源，具有广泛的覆盖范围，DBPEDIA和一个手动策划的来源，对艺术领域，Getty的关注狭窄。我们的实验表明，我们的工作流程可以通过高质量的外部LOD来源来丰富Wikidata。财产一致性和数据质量是关键挑战，而实体对齐和源选择是由现有的Wikidata机制良好支持的。我们提供代码和数据以支持未来的工作。

Relational machine learning studies methods for the statistical analysis of relational, or graph-structured, data. In this paper, we provide a review of how such statistical models can be "trained" on large knowledge graphs, and then used to predict new facts about the world (which is equivalent to predicting new edges in the graph). In particular, we discuss two fundamentally different kinds of statistical relational models, both of which can scale to massive datasets. The first is based on latent feature models such as tensor factorization and multiway neural networks. The second is based on mining observable patterns in the graph. We also show how to combine these latent and observable models to get improved modeling power at decreased computational cost. Finally, we discuss how such statistical models of graphs can be combined with text-based information extraction methods for automatically constructing knowledge graphs from the Web. To this end, we also discuss Google's Knowledge Vault project as an example of such combination.

实体对齐是知识图融合中的至关重要任务。但是，大多数实体对准方法都有可伸缩性问题。最近的方法通过将大型公斤分成小块来解决这个问题，以嵌入和对齐学习。但是，这种分区和学习过程导致结构和对齐过度损失过多。因此，在这项工作中，我们提出了一种可扩展的基于GNN的实体对准方法，以从三个角度降低结构和对齐损失。首先，我们提出一种基于中心性的子图生成算法，以回顾一些具有不同子图之间桥梁的地标实体。其次，我们介绍了自我监督的实体重建，以从不完整的邻里子图中恢复实体表示形式，并设计了跨纸笔负面抽样，以在对齐学习中纳入其他子图中的实体。第三，在推理过程中，我们合并子图的嵌入，以制作一个单个空间进行对齐搜索。基准开放数据集和提议的大型DBPEDIA1M数据集的实验结果验证了我们方法的有效性。