通过嵌入式表示知识图（KGE）近年来一直是研究热点。现实知识图主要与时间相关，而大多数现有的KGE算法忽略了时间信息。一些现有方法直接或间接编码时间信息，忽略时间戳分布的平衡，这大大限制了时间知识图完成的性能（KGC）。在本文中，基于直接编码时间信息框架提出了一种时间KGC方法，并且给定的时间片被视为用于平衡时间戳分布的最优选的粒度。大量关于从现实世界提取的时间知识图形数据集的实验证明了我们方法的有效性。

知识图（kg）完成是一项重要任务，它极大地使许多领域的知识发现受益（例如生物医学研究）。近年来，学习kg嵌入以执行此任务的嵌入引起了很大的关注。尽管KG嵌入方法成功，但它们主要使用负抽样，从而增加了计算复杂性以及由于封闭的世界假设而引起的偏见预测。为了克服这些局限性，我们提出了\ textbf {kg-nsf}，这是一个基于嵌入向量的互相关矩阵学习kg嵌入的无负抽样框架。结果表明，所提出的方法在收敛速度更快的同时，将可比较的链接预测性能与基于阴性采样的方法达到了可比性的预测性能。

Covid-19上的知识图（KGS）已建立在加速Covid-19的研究过程中。然而，KGs总是不完整，特别是新建造的Covid-19公斤。链路预测任务旨在预测（e，r，t）或（h，r，e）的丢失实体，其中H和t是某些实体，E是需要预测的实体，R是关系。这项任务还有可能解决Covid-19相关的KGS的不完全问题。虽然已经提出了各种知识图形嵌入（KGE）方法的链路预测任务，但这些现有方法遭受了使用单个评分函数的限制，这不能捕获Covid-19 Kgs的丰富特征。在这项工作中，我们提出了利用多个评分函数来提取来自现有三元组的更多特征的MDistmult模型。我们在CCKS2020 Covid-19抗病毒药物知识图（CADKG）上采用实验。实验结果表明，我们的MDistmult在CADKG数据集上的链路预测任务中实现了最先进的性能

知识图（kgs）将世界知识建模为结构三元组是不可避免的。多模式知识图（MMKGS）仍然存在此类问题。因此，知识图完成（KGC）对于预测现有KG中缺失的三元组至关重要。至于现有的KGC方法，基于嵌入的方法依靠手动设计来利用多模式信息，而基于芬太尼的方法在链接预​​测中并不优于基于嵌入的方法。为了解决这些问题，我们提出了一个Visualbert增强知识图完成模型（简称VBKGC）。 VBKGC可以为实体捕获深层融合的多模式信息，并将其集成到KGC模型中。此外，我们通过设计一种称为Twins Twins负抽样的新的负抽样策略来实现KGC模型的共同设计和负抽样。双胞胎阴性采样适用于多模式场景，可以对齐实体的不同嵌入。我们进行了广泛的实验，以显示VBKGC在链接预测任务上的出色表现，并进一步探索VBKGC。

知识图表（kg）的表示学习模型已被证明是有效地编码结构信息并在kgs上进行推理。在本文中，我们提出了一种用于知识图表表示学习的新型预训练 - 然后微调框架，其中kg模型首先用三重分类任务预先培训，然后在特定的下游任务上进行判别微调作为实体类型预测和实体对齐。借鉴典型的预训练语言模型学习深层语境化词表示的一般思想，我们提出了学习预先训练的kg表示与目标三重编码的结构和上下文三元组。实验结果表明，微调SCOP不仅优于下游任务组合的基线的结果，而且还避免了特定于特定的特定模型设计和参数培训。

学术知识图（KGS）提供了代表科学出版物编码的知识的丰富的结构化信息来源。随着出版的科学文学的庞大，包括描述科学概念的过多的非均匀实体和关系，这些公斤本质上是不完整的。我们呈现Exbert，一种利用预先训练的变压器语言模型来执行学术知识图形完成的方法。我们将知识图形的三元组模型为文本并执行三重分类（即，属于KG或不属于KG）。评估表明，在三重分类，链路预测和关系预测的任务中，Exbert在三个学术kg完成数据集中表现出其他基线。此外，我们将两个学术数据集作为研究界的资源，从公共公共公报和在线资源中收集。

链接预测的任务旨在解决由于难以从现实世界中收集事实而引起的不完整知识的问题。基于GCN的模型由于其复杂性而广泛应用于解决链接预测问题，但基于GCN的模型在结构和培训过程中遇到了两个问题。 1）GCN层的转化方法在基于GCN的知识表示模型中变得越来越复杂； 2）由于知识图收集过程的不完整，标记为负样本中有许多未收集的真实事实。因此，本文研究了相邻节点的信息聚合系数（自我注意）的特征，并重新设计了GAT结构的自我注意力。同时，受到人类思维习惯的启发，我们在预训练的模型上设计了一种半监督的自训练方法。基准数据集FB15K-237和WN18RR上的实验结果表明，我们提出的自我发项机制和半监督的自我训练方法可以有效地提高链接预测任务的性能。例如，如果您查看FB15K-237，则建议的方法将@1的命中率提高了约30％。

知识图（KGS）代表作为三元组的事实已被广泛采用在许多应用中。 LIGHT预测和规则感应等推理任务对于KG的开发很重要。已经提出了知识图形嵌入式（KGES）将kg的实体和kg与持续向量空间的关系进行了建议，以获得这些推理任务，并被证明是有效和强大的。但在实际应用中申请和部署KGE的合理性和可行性尚未探索。在本文中，我们讨论并报告我们在真实域应用程序中部署KGE的经验：电子商务。我们首先为电子商务KG系统提供三个重要的探索者：1）注意推理，推理几个目标关系更为关注而不是全部; 2）解释，提供预测的解释，帮助用户和业务运营商理解为什么预测; 3）可转让规则，生成可重用的规则，以加速将千克部署到新系统。虽然非现有KGE可以满足所有这些DesiderATA，但我们提出了一种新颖的一种，可说明的知识图表注意网络，通过建模三元组之间的相关性而不是纯粹依赖于其头实体，关系和尾部实体嵌入来预测。它可以自动选择预测的注意力三倍，并同时记录它们的贡献，从该解释可以很容易地提供，可以有效地生产可转移规则。我们经验表明，我们的方法能够在我们的电子商务应用程序中满足所有三个DesiderATA，并从实际域应用程序中倾斜于数据集的典型基线。

链路预测是预测知识图的实体之间缺失关系的任务。最近的链路预测工作已经尝试通过在神经网络架构中使用更多层来提供增加链路预测精度的模型。在本文中，我们提出了一种精炼知识图的新方法，从而可以使用相对快速的翻译模型更准确地执行链路预测操作。翻译链接预测模型，如Transe，Transh，Transd，而不是深度学习方法的复杂性较小。我们的方法使用知识图中的关系和实体的层次结构将实体信息作为辅助节点添加到图形中，并将它们连接到包含在其层级中的该信息的节点。我们的实验表明，我们的方法可以显着提高H @ 10的翻译链路预测方法的性能，MRR，MRR。

Knowledge graph embedding (KGE), which maps entities and relations in a knowledge graph into continuous vector spaces, has achieved great success in predicting missing links in knowledge graphs. However, knowledge graphs often contain incomplete triples that are difficult to inductively infer by KGEs. To address this challenge, we resort to analogical inference and propose a novel and general self-supervised framework AnKGE to enhance KGE models with analogical inference capability. We propose an analogical object retriever that retrieves appropriate analogical objects from entity-level, relation-level, and triple-level. And in AnKGE, we train an analogy function for each level of analogical inference with the original element embedding from a well-trained KGE model as input, which outputs the analogical object embedding. In order to combine inductive inference capability from the original KGE model and analogical inference capability enhanced by AnKGE, we interpolate the analogy score with the base model score and introduce the adaptive weights in the score function for prediction. Through extensive experiments on FB15k-237 and WN18RR datasets, we show that AnKGE achieves competitive results on link prediction task and well performs analogical inference.

近年来，人们对少量知识图（FKGC）的兴趣日益增加，该图表旨在推断出关于该关系的一些参考三元组，从而推断出不见了的查询三倍。现有FKGC方法的主要重点在于学习关系表示，可以反映查询和参考三元组共享的共同信息。为此，这些方法从头部和尾部实体的直接邻居中学习实体对表示，然后汇总参考实体对的表示。但是，只有从直接邻居那里学到的实体对代表可能具有较低的表现力，当参与实体稀疏直接邻居或与其他实体共享一个共同的当地社区。此外，仅仅对头部和尾部实体的语义信息进行建模不足以准确推断其关系信息，尤其是当它们具有多个关系时。为了解决这些问题，我们提出了一个特定于关系的上下文学习（RSCL）框架，该框架利用了三元组的图形上下文，以学习全球和本地关系特定的表示形式，以使其几乎没有相关关系。具体而言，我们首先提取每个三倍的图形上下文，这可以提供长期实体关系依赖性。为了编码提取的图形上下文，我们提出了一个分层注意网络，以捕获三元组的上下文信息并突出显示实体的有价值的本地邻里信息。最后，我们设计了一个混合注意聚合器，以评估全球和本地级别的查询三元组的可能性。两个公共数据集的实验结果表明，RSCL的表现优于最先进的FKGC方法。

The ability of knowledge graphs to represent complex relationships at scale has led to their adoption for various needs including knowledge representation, question-answering, fraud detection, and recommendation systems. Knowledge graphs are often incomplete in the information they represent, necessitating the need for knowledge graph completion tasks, such as link and relation prediction. Pre-trained and fine-tuned language models have shown promise in these tasks although these models ignore the intrinsic information encoded in the knowledge graph, namely the entity and relation types. In this work, we propose the Knowledge Graph Language Model (KGLM) architecture, where we introduce a new entity/relation embedding layer that learns to differentiate distinctive entity and relation types, therefore allowing the model to learn the structure of the knowledge graph. In this work, we show that further pre-training the language models with this additional embedding layer using the triples extracted from the knowledge graph, followed by the standard fine-tuning phase sets a new state-of-the-art performance for the link prediction task on the benchmark datasets.

如今，知识图（KGS）一直在AI相关的应用中发挥关键作用。尽管尺寸大，但现有的公斤远非完全和全面。为了不断丰富KG，通常使用自动知识结构和更新机制，这不可避免地带来充足的噪音。然而，大多数现有知识图形嵌入（KGE）方法假设KGS中的所有三重事实都是正确的，并且在不考虑噪声和知识冲突的情况下将实体和关系投入到低维空间。这将导致kgs的低质量和不可靠的表示。为此，本文提出了一般的多任务加固学习框架，这可以大大缓解嘈杂的数据问题。在我们的框架中，我们利用强化学习来选择高质量的知识三分石，同时过滤出嘈杂的。此外，为了充分利用语义类似的关系之间的相关性，在具有多任务学习的集体方式中训练了类似关系的三重选择过程。此外，我们扩展了流行的KGE Models Transe，Distmult，与所提出的框架耦合和旋转。最后，实验验证表明，我们的方法能够增强现有的KGE模型，可以在嘈杂的情景中提供更强大的KGS表示。

我们介绍了一个名为Nuge的新型嵌入式模型，旨在将实体和关系之间的共同发生整合到图形神经网络中，以改善知识图形完成（即，链接预测）。鉴于知识图形，Nuge将单个图形构建，考虑实体和关系作为单个节点。然后，Nuge基于实体和关系的共同发生来计算节点之间的边缘的权重。接下来，Nuge提出双季型图形神经网络（DualQGNN），并利用DualQGNN更新实体和关系节点的向量表示。然后采用分数函数来产生三重分数。综合实验结果表明，NOGE在三个新的和困难的基准数据集Codex上获得最先进的结果，用于知识图形完成。

知识图（KG）嵌入旨在学习连续矢量空间中kg的实体和关系的潜在表示。一个经验观察是，与相同关系相关的头部（尾巴）实体通常具有相似的语义属性 - 特别是它们通常属于同一类别 - 无论他们在kg中彼此之间有多远。也就是说，他们具有全球语义相似性。但是，许多现有方法基于本地信息得出了kg嵌入，这些信息无法有效地捕获实体之间的这种全球语义相似性。为了应对这一挑战，我们提出了一种新颖的方法，该方法引入了一组称为\ textit {\ textbf {关系原型实体}}的虚拟节点，以表示由相同关系连接的头和尾部实体的原型。通过强制实体的嵌入靠近其相关的原型的嵌入，我们的方法可以有效地鼓励实体的全球语义相似性（可以在kg中很远 - 通过相同的关系相连。实体一致性和KG完成任务的实验表明，我们的方法显着优于最近的最新方法。

知识图嵌入模型已成为机器学习的重要领域。这些模型在知识图中提供了实体和关系的潜在表示，然后可以在下游机器学习任务（例如链接预测）中使用。这些模型的学习过程可以通过对比正面和负三元组来执行。虽然所有千克的三元组都被认为是正的，但负三元三联通常不容易获得。因此，获得的采样方法的选择在知识图嵌入模型的性能和有效性中起着至关重要的作用。当前的大多数方法从基础知识图中实体的随机分布中获取负面样本，这些样本通常还包括毫无意义的三元组。其他已知方法使用对抗技术或生成神经网络，从而降低了过程的效率。在本文中，我们提出了一种方法，以产生有关实体的可用互补知识的信息负面样本。特别是，预训练的语言模型用于通过利用实体之间的距离来形成邻里群集，以通过其文本信息获得符号实体的表示。我们的全面评估证明了拟议方法在基准知识图上具有链接预测任务的文本信息的有效性。

翻译，旋转和缩放是图像处理中三个常用的几何操作操作。此外，其中一些成功用于开发有效的知识图嵌入（KGE）模型，例如transe和旋转。受协同作用的启发，我们通过利用这项工作中的所有三项操作提出了一个新的KGE模型。由于翻译，旋转和缩放操作被级联形成一个复合的操作，因此新模型被命名为复合。通过在小组理论的框架中铸造复合物，我们表明，基于得分功能的KGE模型是复合的特殊情况。Compounde将简单的基于距离的关系扩展到与关系有关的化合物操作上的头部和/或尾部实体。为了证明化合物的有效性，我们对三个流行的KG完成数据集进行了实验。实验结果表明，复合者始终达到了现状的性能。

知识图嵌入（KGE）方法已从广泛的AI社区（包括自然语言处理（NLP））中引起了极大的关注，用于文本生成，分类和上下文诱导。用少数维度嵌入大量的相互关系，需要在认知和计算方面进行适当的建模。最近，开发了有关自然语言的认知和计算方面的许多目标功能。其中包括最新的线性方法，双线性，具有歧管的内核，投影 - 空间和类似推断。但是，这种模型的主要挑战在于它们的损失函数，将关系嵌入的维度与相应的实体维度相关联。当错误估计对应物时，这导致对实体之间相应关系的预测不准确。 Bordes等人发表的Proje Kge由于计算复杂性低和模型改进的高潜力，在所有翻译和双线性相互作用的同时，在捕获实体非线性的同时，都改善了这项工作。基准知识图（KGS）（例如FB15K和WN18）的实验结果表明，所提出的方法使用线性和双线性方法以及其他最新功能的方法在实体预测任务中的最新模型优于最先进的模型。另外，为该模型提出了平行处理结构，以提高大型kg的可伸缩性。还解释了不同自适应聚类和新提出的抽样方法的影响，这被证明可以有效提高知识图完成的准确性。

学习知识图的嵌入对人工智能至关重要，可以使各种下游应用受益，例如推荐和问题回答。近年来，已经提出了许多研究努力，以嵌入知识图形。然而，最先前的知识图形嵌入方法忽略不同三元组中的相关实体和实体关系耦合之间的语义相似性，因为它们与评分函数分别优化每个三倍。为了解决这个问题，我们提出了一个简单但有效的对比学习框架，用于知识图形嵌入，可以缩短不同三元组中相关实体和实体关系耦合的语义距离，从而提高知识图形嵌入的表现力。我们在三个标准知识图形基准上评估我们提出的方法。值得注意的是，我们的方法可以产生一些新的最先进的结果，在WN18RR数据集中实现51.2％的MRR，46.8％HITS @ 1，59.1％的MRR，51.8％在YAGO3-10数据集中击打@ 1 。

链路预测在知识图中起着重要作用，这是许多人工智能任务的重要资源，但它通常受不完整的限制。在本文中，我们提出了知识图表BERT for Link预测，名为LP-BERT，其中包含两个培训阶段：多任务预训练和知识图微调。预训练策略不仅使用掩码语言模型（MLM）来学习上下文语料库的知识，还引入掩模实体模型（MEM）和掩模关系模型（MRM），其可以通过预测语义来学习三元组的关系信息基于实体和关系元素。结构化三维关系信息可以转换为非结构化语义信息，可以将其与上下文语料库信息一起集成到培训模型中。在微调阶段，灵感来自对比学习，我们在样本批量中进行三样式的负面取样，这大大增加了负采样的比例，同时保持训练时间几乎不变。此外，我们提出了一种基于Triples的逆关系的数据增强方法，以进一步增加样本分集。我们在WN18RR和UMLS数据集上实现最先进的结果，特别是HITS @ 10指示器从WN18RR数据集上的先前最先进的结果提高了5 \％。