关于现实生活知识图（KGS）的多跳上推理是一个高度挑战的问题，因为传统的子图匹配方法无法处理噪音和缺失信息。为了解决这个问题，最近已经引入了一种有希望的方法，该方法基于将逻辑查询和kgs共同嵌入到一个低维空间中以识别答案实体。但是，现有的提案忽略了KGS中固有可用的关键语义知识，例如类型信息。为了利用类型信息，我们提出了一种新颖的类型感知消息传递（TEMP）模型，该模型可以增强查询中的实体和关系表示形式，并同时改善概括，演绎和归纳推理。值得注意的是，Temp是一种插件模型，可以轻松地将其纳入现有的基于嵌入的模型中以提高其性能。在三个现实世界数据集上进行了广泛的实验证明了温度的有效性。

推理是计算机的基本问题，并且在人工智能中深入研究。在本文中，我们专门针对回答知识图（KGS）的多跳逻辑查询。这是一项复杂的任务，因为在实际情况下，图形往往很大且不完整。以前的大多数作品都无法创建模型，这些模型接受了完整的一阶逻辑（fol）查询，其中包括负查询，并且只能处理有限的查询结构集。此外，大多数方法都呈现只能执行其制作的逻辑操作的逻辑运算符。我们介绍了一组模型，这些模型使用神经网络来创建单点矢量嵌入以回答查询。神经网络的多功能性允许该框架处理连词（$ \ wedge $），脱节（$ \ vee $）和否定（$ \ neg $）运算符的框架查询。我们通过对众所周知的基准数据集进行了广泛的实验，通过实验证明了模型的性能。除了拥有更多多功能运营商外，模型还获得了10 \％的相对增加，而基于单点矢量嵌入的最佳性能状态和比原始方法的相对增加了30 \％。

In knowledge graph completion (KGC), predicting triples involving emerging entities and/or relations, which are unseen when the KG embeddings are learned, has become a critical challenge. Subgraph reasoning with message passing is a promising and popular solution. Some recent methods have achieved good performance, but they (i) usually can only predict triples involving unseen entities alone, failing to address more realistic fully inductive situations with both unseen entities and unseen relations, and (ii) often conduct message passing over the entities with the relation patterns not fully utilized. In this study, we propose a new method named RMPI which uses a novel Relational Message Passing network for fully Inductive KGC. It passes messages directly between relations to make full use of the relation patterns for subgraph reasoning with new techniques on graph transformation, graph pruning, relation-aware neighborhood attention, addressing empty subgraphs, etc., and can utilize the relation semantics defined in the ontological schema of KG. Extensive evaluation on multiple benchmarks has shown the effectiveness of techniques involved in RMPI and its better performance compared with the existing methods that support fully inductive KGC. RMPI is also comparable to the state-of-the-art partially inductive KGC methods with very promising results achieved. Our codes and data are available at https://github.com/zjukg/RMPI.

查询嵌入（QE） - 旨在嵌入实体和一阶逻辑（FOL）查询在低维空间中 - 在知识图表中的多跳推理中显示出强大的功率。最近，嵌入实体和具有几何形状的查询成为有希望的方向，因为几何形状可以自然地代表它们之间的答案和逻辑关系。然而，现有的基于几何的模型难以建模否定查询，这显着限制了它们的适用性。为了解决这一挑战，我们提出了一种新型查询嵌入模型，即锥形嵌入式（锥形），即锥形嵌入式（锥形），它是可以处理所有的基于几何的QE模型，包括所有FOL操作，包括结合，分离和否定。具体而言，锥形代表实体和查询作为二维锥体的笛卡尔产品，其中锥体的交叉和联合自然地模拟了结合和分离操作。通过进一步注意到，锥体的补充仍然存在锥体，我们在嵌入空间中设计几何补充运算符进行否定操作。实验表明，锥体在基准数据集上显着优于现有的现有技术。

当前的最佳性能模型用于知识图推理（KGR）将几何学对象或概率分布引入嵌入实体，并将一阶逻辑（fol）查询引入低维矢量空间。它们可以总结为中心尺寸框架（点/框/锥，β/高斯分布等）。但是，它们具有有限的逻辑推理能力。而且很难概括到各种功能，因为中心和大小是一对一的约束，无法具有多个中心或尺寸。为了应对这些挑战，我们相反提出了一个名为“特征逻辑嵌入框架Flex”的新颖的KGR框架，这是第一个KGR框架，它不仅可以真正处理所有运营，包括连词，析取，否定，否定等等，而且还支持各种操作特征空间。具体而言，特征逻辑框架的逻辑部分是基于向量逻辑的，它自然地对所有FOL操作进行了建模。实验表明，FLEX在基准数据集上明显优于现有的最新方法。

在大规模不完整的知识图（kgs）上回答复杂的一阶逻辑（fol）查询是一项重要但挑战性的任务。最近的进步将逻辑查询和KG实体嵌入了相同的空间，并通过密集的相似性搜索进行查询。但是，先前研究中设计的大多数逻辑运算符不满足经典逻辑的公理系统，从而限制了其性能。此外，这些逻辑运算符被参数化，因此需要许多复杂的查询作为训练数据，在大多数现实世界中，这些数据通常很难收集甚至无法访问。因此，我们提出了Fuzzqe，这是一种基于模糊逻辑的逻辑查询嵌入框架，用于回答KGS上的查询。 Fuzzqe遵循模糊逻辑以原则性和无学习的方式定义逻辑运算符，在这种方式中，只有实体和关系嵌入才需要学习。 Fuzzqe可以从标记为训练的复杂逻辑查询中进一步受益。在两个基准数据集上进行的广泛实验表明，与最先进的方法相比，Fuzzqe在回答FOL查询方面提供了明显更好的性能。此外，只有KG链接预测训练的Fuzzqe可以实现与经过额外复杂查询数据训练的人的可比性能。

回答有关知识图（KG）的复杂查询是一项重要但具有挑战性的任务，因为在推理过程中存在KG不完整问题和级联错误。最近的查询嵌入（QE）方法将实体和关系嵌入kg中，并将一阶逻辑（fol）查询纳入一个低维空间，从而通过密集的相似性搜索来回答查询。但是，以前的作品主要集中在目标答案上，忽略了中间实体的实用性，这对于缓解逻辑查询答案中的级联错误问题至关重要。此外，这些方法通常是用自己的几何或分配嵌入设计的，以处理逻辑运算符，例如联合，交叉路口和否定，并牺牲了基本操作员的准确性 - 投影，他们无法吸收其他嵌入方法，以使其吸收其他嵌入方法楷模。在这项工作中，我们提出了一个神经和象征性的纠缠框架（ENESY），以进行复杂的查询答案，这使神经和象征性推理可以相互增强以减轻级联错误和kg不完整。 Enesy中的投影操作员可以是具有链接预测能力的任何嵌入方法，并且其他FOL操作员无需参数处理。随着神经和象征性推理的结果，合奏中的Enesy答案查询。 Enesy在几个基准上实现了SOTA性能，尤其是在培训模型的设置中，仅具有链接预测任务。

Formulating and answering logical queries is a standard communication interface for knowledge graphs (KGs). Alleviating the notorious incompleteness of real-world KGs, neural methods achieved impressive results in link prediction and complex query answering tasks by learning representations of entities, relations, and queries. Still, most existing query answering methods rely on transductive entity embeddings and cannot generalize to KGs containing new entities without retraining the entity embeddings. In this work, we study the inductive query answering task where inference is performed on a graph containing new entities with queries over both seen and unseen entities. To this end, we devise two mechanisms leveraging inductive node and relational structure representations powered by graph neural networks (GNNs). Experimentally, we show that inductive models are able to perform logical reasoning at inference time over unseen nodes generalizing to graphs up to 500% larger than training ones. Exploring the efficiency--effectiveness trade-off, we find the inductive relational structure representation method generally achieves higher performance, while the inductive node representation method is able to answer complex queries in the inference-only regime without any training on queries and scales to graphs of millions of nodes. Code is available at https://github.com/DeepGraphLearning/InductiveQE.

多跳跃逻辑推理是在知识图（KGS）上学习领域的一个已建立问题。它涵盖了单跳连接预测以及其他更复杂的逻辑查询类型。现有的算法仅在经典的三重基图上运行，而现代KG经常采用超相关的建模范式。在此范式中，键入的边缘可能具有几对键值对，称为限定符，可为事实提供细粒度的环境。在查询中，此上下文修改了关系的含义，通常会减少答案集。经常在现实世界中的应用程序中观察到超相关的查询，并且现有的近似查询答案方法无法使用预选赛对。在这项工作中，我们弥合了这一差距，并将多跳的推理问题扩展到了超级关系的KG，允许解决这一新类型的复杂查询。在图形神经网络和查询嵌入技术的最新进展之下，我们研究了如何嵌入和回答超相关的连词查询。除此之外，我们还提出了一种回答此类查询并在我们的实验中证明的方法，即预选赛可以改善对各种查询模式的查询回答。

近年来，人们对少量知识图（FKGC）的兴趣日益增加，该图表旨在推断出关于该关系的一些参考三元组，从而推断出不见了的查询三倍。现有FKGC方法的主要重点在于学习关系表示，可以反映查询和参考三元组共享的共同信息。为此，这些方法从头部和尾部实体的直接邻居中学习实体对表示，然后汇总参考实体对的表示。但是，只有从直接邻居那里学到的实体对代表可能具有较低的表现力，当参与实体稀疏直接邻居或与其他实体共享一个共同的当地社区。此外，仅仅对头部和尾部实体的语义信息进行建模不足以准确推断其关系信息，尤其是当它们具有多个关系时。为了解决这些问题，我们提出了一个特定于关系的上下文学习（RSCL）框架，该框架利用了三元组的图形上下文，以学习全球和本地关系特定的表示形式，以使其几乎没有相关关系。具体而言，我们首先提取每个三倍的图形上下文，这可以提供长期实体关系依赖性。为了编码提取的图形上下文，我们提出了一个分层注意网络，以捕获三元组的上下文信息并突出显示实体的有价值的本地邻里信息。最后，我们设计了一个混合注意聚合器，以评估全球和本地级别的查询三元组的可能性。两个公共数据集的实验结果表明，RSCL的表现优于最先进的FKGC方法。

在知识图上回答复杂的一阶逻辑（FOL）查询是多跳推理的基本任务。传统的符号方法穿越完整的知识图来提取答案，从而为每个步骤提供良好的解释。最近的神经方法学习复杂查询的几何嵌入。这些方法可以推广到不完整的知识图，但是它们的推理过程很难解释。在本文中，我们提出了图形神经网络查询执行器（GNN-QE），这是一种神经符号模型，享有两全其美的优势。 GNN-QE将复杂的数据分解为模糊集的关系预测和逻辑操作，这为中间变量提供了解释性。为了理解丢失的链接，GNN-QE从知识图完成中调整了图神经网络以执行关系预测，并使用产品模糊逻辑对逻辑操作进行建模。 3个数据集的实验表明，GNN-QE在回答FOL查询时显着改善了先前的最新模型。同时，GNN-QE可以在没有明确监督的情况下预测答案的数量，并为中间变量提供可视化。

知识图（kg）嵌入是一种主流方法，用于推理不完整的kg。但是，受其固有浅层和静态体系结构的限制，它们几乎无法处理对复杂逻辑查询的不断上升，这些查询包括逻辑运算符，估算的边缘，多个源实体和未知的中间实体。在这项工作中，我们通过掩盖的预训练和微调策略介绍了知识图变压器（kgtransformer）。我们设计了一种kg三重变换方法，以使变压器能够处理kg，这是通过稀疏（MOE）稀疏激活的混合物进一步增强的。然后，我们将复杂的逻辑查询作为掩盖预测提出，并引入了两阶段掩盖的预训练策略，以提高可转移性和概括性。在两个基准上进行的广泛实验表明，KGTRANSFORMER可以始终超过基于KG的基准和九个内域和室外推理任务的高级编码。此外，KGTRANSFORMER可以通过提供解释给定答案的完整推理路径来解释性。

知识图（kgs）在许多应用程序中越来越重要的基础架构，同时患有不完整问题。 KG完成任务（KGC）自动根据不完整的KG预测缺失的事实。但是，现有方法在现实情况下表现不佳。一方面，他们的性能将巨大的降解，而kg的稀疏性越来越大。另一方面，预测的推理过程是一个不可信的黑匣子。本文提出了一个稀疏kgc的新型可解释模型，将高阶推理组合到图形卷积网络中，即HOGRN。它不仅可以提高减轻信息不足问题的概括能力，而且还可以在保持模型的有效性和效率的同时提供可解释性。有两个主要组件无缝集成以进行关节优化。首先，高阶推理成分通过捕获关系之间的内源性相关性来学习高质量的关系表示。这可以反映逻辑规则，以证明更广泛的事实是合理的。其次，更新组件的实体利用无重量的图形卷积网络（GCN）有效地模拟具有可解释性的KG结构。与常规方法不同，我们在没有其他参数的情况下在关系空间中进行实体聚合和基于设计组成的注意。轻巧的设计使HOGRN更适合稀疏设置。为了进行评估，我们进行了广泛的实验 - HOGRN对几个稀疏KG的结果表现出了令人印象深刻的改善（平均为9％的MRR增益）。进一步的消融和案例研究证明了主要成分的有效性。我们的代码将在接受后发布。

实体对齐（EA）在学术界和工业中都引起了广泛的关注，该行业旨在寻求具有不同知识图（KGS）相同含义的实体。 KGS中的实体之间存在实质性的多步关系路径，表明实体的语义关系。但是，现有方法很少考虑路径信息，因为并非所有自然路径都促进EA判断。在本文中，我们提出了一个更有效的实体对齐框架RPR-RHGT，该框架集成了关系和路径结构信息以及KGS中的异质信息。令人印象深刻的是，开发了一种初始可靠的路径推理算法来生成有利于EA任务的路径，从KGS的关系结构中，这是文献中第一个成功使用无限制路径信息的算法。此外，为了有效地捕获实体社区中的异质特征，设计的异质图变压器旨在建模KGS的关系和路径结构。在三个著名数据集上进行的广泛实验表明，RPR-RHGT的表现明显优于11种最佳方法，超过了命中率@1的最佳性能基线最高8.62％。我们还表现出比基线在训练集的不同比率和更难数据集的基线上更好的性能。

知识图形嵌入（KGE）旨在学习实体和关系的陈述。大多数KGE模型取得了巨大的成功，特别是在外推情景中。具体地，考虑到看不见的三倍（H，R，T），培训的模型仍然可以正确地预测（H，R，Δ）或H（Δ，r，t），这种外推能力令人印象深刻。但是，大多数现有的KGE工作侧重于设计精致三重建模功能，主要告诉我们如何衡量观察三元的合理性，但是对为什么可以推断到未看见数据的原因有限的解释，以及什么是重要因素帮助Kge外推。因此，在这项工作中，我们试图研究kge外推两个问题：1。凯格如何推断出看看的数据？ 2.如何设计KGE模型，具有更好的外推能力？对于问题1，我们首先分别讨论外推和关系，实体和三级的影响因素，提出了三种语义证据（SES），可以从列车集中观察，并为推断提供重要的语义信息。然后我们通过对几种典型KGE方法的广泛实验验证SES的有效性。对于问题2，为了更好地利用三个级别的SE，我们提出了一种新的基于GNN的KGE模型，称为语义证据意识图形神经网络（SE-GNN）。在SE-GNN中，每个级别的SE由相应的邻居图案明确地建模，并且通过多层聚合充分合并，这有助于获得更多外推知识表示。最后，通过对FB15K-237和WN18RR数据集的广泛实验，我们认为SE-GNN在知识图表完成任务上实现了最先进的性能，并执行更好的外推能力。

知识图表（kgs）以头部关系的形式捕获知识 - 尾部三元组，是许多AI系统中的重要组成部分。 KGS上有两个重要的推理任务：（1）单跳知识图完成，涉及预测公斤中的各个环节; （2），多跳推理，目标是预测哪个kg实体满足给定的逻辑查询。基于嵌入的方法通过首先计算每个实体和关系的嵌入来解决两个任务，然后使用它们形成预测。但是，现有可扩展的KG嵌入框架仅支持单跳知识图完成，并且不能应用于更具挑战性的多跳推理任务。在这里，我们呈现可扩展的多跳推理（SMORE），这是KGS中单跳和多跳推理的第一个总框架。使用单机略微闪烁可以在FreeBase KG（86米实体，338M边缘）中执行多跳推理，比以前考虑的KGs大1,500倍。粉刷运行时性能的关键是一种新的双向抑制采样，实现了在线培训数据生成的复杂性的平方根降低。此外，SMORE利用异步调度，基于CPU的数据采样，基于GPU的嵌入计算和频繁CPU - GPU IO。 Smore通过2.2倍提高了82倍的吞吐量（即，训练速度），以最小的GPU存储器要求（2GB用于训练86M节点FreeBase上的400微米嵌入），并达到与GPU的数量接近线性加速。此外，在更简单的单跳知识图形完成任务中，Smore实现了对单个GPU和多GPU设置的最先进框架的可比或更好的运行时间性能。

知识图的归纳链路预测旨在预测未见实体之间的缺失联系，而那些未在训练阶段显示的实体。大多数以前的作品都学习实体的特定实体嵌入，这些实体无法处理看不见的实体。最近的几种方法利用封闭子图来获得归纳能力。但是，所有这些作品仅在没有完整的邻近关系的情况下考虑子图的封闭部分，这导致了忽略部分邻近关系的问题，并且很难处理稀疏的子图。为了解决这个问题，我们提出了SNRI子图邻近关系Infomax，它足够从两个方面利用完整的相邻关系：节点特征的相邻关系特征和稀疏子图的相邻关系路径。为了进一步以全球方式建模邻近关系，我们对知识图进行创新的相互信息（MI）最大化。实验表明，SNRI在归纳链路预测任务上的大幅度优于现有的最新方法，并验证以全局方式探索完整的邻近关系的有效性，以表征节点特征和在稀疏子分类上的理由。

知识图表（KGS）是真实世界事实的结构化表示，是融合人类知识的智能数据库，可以帮助机器模仿人类问题的方法。然而，由于快速迭代的性质以及数据的不完整，KGs通常是巨大的，并且在公斤上有不可避免的事实。对于知识图链接的预测是针对基于现有的知识推理来完成缺少事实的任务。广泛研究了两个主要的研究流：一个学习可以捕获潜在模式的实体和关系的低维嵌入，以及通过采矿逻辑规则的良好解释性。不幸的是，以前的研究很少关注异质的KG。在本文中，我们提出了一种将基于嵌入的学习和逻辑规则挖掘结合的模型，以推断在KG上。具体地，我们研究了从节点程度的角度涉及各种类型的实体和关系的异构kg中的缺失链接的问题。在实验中，我们证明了我们的DegreEmbed模型优于对现实世界的数据集的国家的最先进的方法。同时，我们模型开采的规则具有高质量和可解释性。

Answering complex logical queries on incomplete knowledge graphs is a challenging task, and has been widely studied. Embedding-based methods require training on complex queries, and cannot generalize well to out-of-distribution query structures. Recent work frames this task as an end-to-end optimization problem, and it only requires a pretrained link predictor. However, due to the exponentially large combinatorial search space, the optimal solution can only be approximated, limiting the final accuracy. In this work, we propose QTO (Query Tree Optimization) that can efficiently find the exact optimal solution. QTO finds the optimal solution by a forward-backward propagation on the tree-like computation graph, i.e., query tree. In particular, QTO utilizes the independence encoded in the query tree to reduce the search space, where only local computations are involved during the optimization procedure. Experiments on 3 datasets show that QTO obtains state-of-the-art performance on complex query answering, outperforming previous best results by an average of 22%. Moreover, QTO can interpret the intermediate solutions for each of the one-hop atoms in the query with over 90% accuracy.

在知识图上回答自然语言问题（KGQA）仍然是通过多跳推理理解复杂问题的巨大挑战。以前的努力通常利用与实体相关的文本语料库或知识图（kg）嵌入作为辅助信息来促进答案选择。但是，实体之间隐含的富裕语义远未得到很好的探索。本文提议通过利用关系路径的混合语义来改善多跳kgqa。具体而言，我们基于新颖的旋转和规模的实体链接链接预测框架，集成了关系路径的明确文本信息和隐式kg结构特征。在三个KGQA数据集上进行的广泛实验证明了我们方法的优势，尤其是在多跳场景中。进一步的调查证实了我们方法在问题和关系路径之间的系统协调，以识别答案实体。