知识图形嵌入（KGE）是一个流行的kg推理和具有更高尺寸的训练桶的方法，通常优先于它们具有更好的推理能力。然而，高维kges对存储和计算资源构成了巨大挑战，并且不适合资源限制或时间约束应用，这更快和更便宜的推理是必要的。为了解决这个问题，我们提出了Dualde，一种知识蒸馏方法，从预先训练的高维老师KGE建立低维学生KGE。 Dualde考虑教师和学生之间的双重影响。在Dualde中，我们提出了一种软标签评估机制，可自适应地将不同的软标签和硬标签重量分配给不同的三元组，以及改善学生接受教师的两级蒸馏方法。我们的双式足够一般，可以应用于各种桶。实验结果表明，我们的方法可以成功将高维kge的嵌入参数减少7次 - 15次，并将推理速度提高2次 - 6次 - 保持高性能。我们还通过消融研究证明我们的软标签评估机制和两级蒸馏方法的有效性。

知识图形嵌入（KGE）由于其在自动知识图（kg）完成和知识驱动的任务中的潜力而引起了很大的关注。然而，最近的KGE模型遭受了高训练成本和大存储空间，因此限制了他们在现实世界应用中的实用性。为了解决这一挑战，根据对比学习领域的最新发现，我们提出了一种名为硬度感知的低维嵌入（HALE）的新型KGE训练框架。除了传统的负面采样而不是传统的负面采样，我们基于查询采样设计一个新的损失功能，可以平衡两个重要的培训目标，对齐和均匀性。此外，我们分析了近期低维双曲模型的硬度感知，并提出了一种轻量级硬度感知激活机制，可以帮助KGE模型关注硬实例并加速收敛。实验结果表明，在有限的训练时间，HALE可以有效地提高KGE模型在五个常用的数据集中的性能和训练速度。在训练后，训练的模型可以在几分钟后获得高预测精度，与低维度和高维条件的最先进模型相比，竞争力。

知识图完成（KGC）旨在发现知识图（KGS）中实体之间的缺失关系。大多数先前的KGC工作都集中在实体和关系的学习表现上。然而，通常需要更高维度的嵌入空间才能获得更好的推理能力，这会导致更大的模型大小，并阻碍对现实世界中的问题的适用性（例如，大规模kgs或移动/边缘计算）。在这项工作中提出了一种称为GreenKGC的轻型模块化的KGC解决方案，以解决此问题。 GreenKGC由三个模块组成：1）表示学习，2）特征修剪和3）决策学习。在模块1中，我们利用现有的KG嵌入模型来学习实体和关系的高维表示。在模块2中，KG分为几个关系组，然后分为一个特征修剪过程，以找到每个关系组的最判别特征。最后，将分类器分配给每个关系组，以应对模块3中KGC任务的低维三功能原始的高维嵌入型号尺寸较小。此外，我们对两个三重分类数据集进行了实验，以证明相同的方法可以推广到更多任务。

知识图（kgs）将世界知识建模为结构三元组是不可避免的。多模式知识图（MMKGS）仍然存在此类问题。因此，知识图完成（KGC）对于预测现有KG中缺失的三元组至关重要。至于现有的KGC方法，基于嵌入的方法依靠手动设计来利用多模式信息，而基于芬太尼的方法在链接预​​测中并不优于基于嵌入的方法。为了解决这些问题，我们提出了一个Visualbert增强知识图完成模型（简称VBKGC）。 VBKGC可以为实体捕获深层融合的多模式信息，并将其集成到KGC模型中。此外，我们通过设计一种称为Twins Twins负抽样的新的负抽样策略来实现KGC模型的共同设计和负抽样。双胞胎阴性采样适用于多模式场景，可以对齐实体的不同嵌入。我们进行了广泛的实验，以显示VBKGC在链接预测任务上的出色表现，并进一步探索VBKGC。

知识图表（kg）的表示学习模型已被证明是有效地编码结构信息并在kgs上进行推理。在本文中，我们提出了一种用于知识图表表示学习的新型预训练 - 然后微调框架，其中kg模型首先用三重分类任务预先培训，然后在特定的下游任务上进行判别微调作为实体类型预测和实体对齐。借鉴典型的预训练语言模型学习深层语境化词表示的一般思想，我们提出了学习预先训练的kg表示与目标三重编码的结构和上下文三元组。实验结果表明，微调SCOP不仅优于下游任务组合的基线的结果，而且还避免了特定于特定的特定模型设计和参数培训。

知识图（KGS）代表作为三元组的事实已被广泛采用在许多应用中。 LIGHT预测和规则感应等推理任务对于KG的开发很重要。已经提出了知识图形嵌入式（KGES）将kg的实体和kg与持续向量空间的关系进行了建议，以获得这些推理任务，并被证明是有效和强大的。但在实际应用中申请和部署KGE的合理性和可行性尚未探索。在本文中，我们讨论并报告我们在真实域应用程序中部署KGE的经验：电子商务。我们首先为电子商务KG系统提供三个重要的探索者：1）注意推理，推理几个目标关系更为关注而不是全部; 2）解释，提供预测的解释，帮助用户和业务运营商理解为什么预测; 3）可转让规则，生成可重用的规则，以加速将千克部署到新系统。虽然非现有KGE可以满足所有这些DesiderATA，但我们提出了一种新颖的一种，可说明的知识图表注意网络，通过建模三元组之间的相关性而不是纯粹依赖于其头实体，关系和尾部实体嵌入来预测。它可以自动选择预测的注意力三倍，并同时记录它们的贡献，从该解释可以很容易地提供，可以有效地生产可转移规则。我们经验表明，我们的方法能够在我们的电子商务应用程序中满足所有三个DesiderATA，并从实际域应用程序中倾斜于数据集的典型基线。

在多种方式知识蒸馏研究的背景下，现有方法主要集中在唯一的学习教师最终产出问题。因此，教师网络与学生网络之间存在深处。有必要强制学生网络来学习教师网络的模态关系信息。为了有效利用从教师转移到学生的知识，采用了一种新的模型关系蒸馏范式，通过建模不同的模态之间的关系信息，即学习教师模级克矩阵。

尽管配备的远景和语言预处理（VLP）在过去两年中取得了显着的进展，但它遭受了重大缺点：VLP型号不断增加的尺寸限制了其部署到现实世界的搜索场景（高潜伏期是不可接受的）。为了减轻此问题，我们提出了一种新颖的插件动态对比度蒸馏（DCD）框架，以压缩ITR任务的大型VLP模型。从技术上讲，我们面临以下两个挑战：1）由于GPU内存有限，在处理交叉模式融合功能期间优化了太多的负样本，因此很难直接应用于跨模式任务，因此很难直接应用于跨模式任务。 。 2）从不同的硬样品中静态优化学生网络的效率效率低下，这些样本对蒸馏学习和学生网络优化具有不同的影响。我们试图从两点克服这些挑战。首先，为了实现多模式对比度学习并平衡培训成本和效果，我们建议使用教师网络估算学生的困难样本，使学生吸收了预培训的老师的强大知识，并掌握知识来自硬样品。其次，要从硬样品对学习动态，我们提出动态蒸馏以动态学习不同困难的样本，从更好地平衡知识和学生的自学能力的困难的角度。我们成功地将我们提出的DCD策略应用于两个最先进的视觉语言预处理模型，即vilt和仪表。关于MS-Coco和FlickR30K基准测试的广泛实验显示了我们DCD框架的有效性和效率。令人鼓舞的是，与现有的ITR型号相比，我们可以至少加快推断至少129美元的$ \ times $。

Covid-19上的知识图（KGS）已建立在加速Covid-19的研究过程中。然而，KGs总是不完整，特别是新建造的Covid-19公斤。链路预测任务旨在预测（e，r，t）或（h，r，e）的丢失实体，其中H和t是某些实体，E是需要预测的实体，R是关系。这项任务还有可能解决Covid-19相关的KGS的不完全问题。虽然已经提出了各种知识图形嵌入（KGE）方法的链路预测任务，但这些现有方法遭受了使用单个评分函数的限制，这不能捕获Covid-19 Kgs的丰富特征。在这项工作中，我们提出了利用多个评分函数来提取来自现有三元组的更多特征的MDistmult模型。我们在CCKS2020 Covid-19抗病毒药物知识图（CADKG）上采用实验。实验结果表明，我们的MDistmult在CADKG数据集上的链路预测任务中实现了最先进的性能

Knowledge graph embedding (KGE), which maps entities and relations in a knowledge graph into continuous vector spaces, has achieved great success in predicting missing links in knowledge graphs. However, knowledge graphs often contain incomplete triples that are difficult to inductively infer by KGEs. To address this challenge, we resort to analogical inference and propose a novel and general self-supervised framework AnKGE to enhance KGE models with analogical inference capability. We propose an analogical object retriever that retrieves appropriate analogical objects from entity-level, relation-level, and triple-level. And in AnKGE, we train an analogy function for each level of analogical inference with the original element embedding from a well-trained KGE model as input, which outputs the analogical object embedding. In order to combine inductive inference capability from the original KGE model and analogical inference capability enhanced by AnKGE, we interpolate the analogy score with the base model score and introduce the adaptive weights in the score function for prediction. Through extensive experiments on FB15k-237 and WN18RR datasets, we show that AnKGE achieves competitive results on link prediction task and well performs analogical inference.

如今，知识图（KGS）一直在AI相关的应用中发挥关键作用。尽管尺寸大，但现有的公斤远非完全和全面。为了不断丰富KG，通常使用自动知识结构和更新机制，这不可避免地带来充足的噪音。然而，大多数现有知识图形嵌入（KGE）方法假设KGS中的所有三重事实都是正确的，并且在不考虑噪声和知识冲突的情况下将实体和关系投入到低维空间。这将导致kgs的低质量和不可靠的表示。为此，本文提出了一般的多任务加固学习框架，这可以大大缓解嘈杂的数据问题。在我们的框架中，我们利用强化学习来选择高质量的知识三分石，同时过滤出嘈杂的。此外，为了充分利用语义类似的关系之间的相关性，在具有多任务学习的集体方式中训练了类似关系的三重选择过程。此外，我们扩展了流行的KGE Models Transe，Distmult，与所提出的框架耦合和旋转。最后，实验验证表明，我们的方法能够增强现有的KGE模型，可以在嘈杂的情景中提供更强大的KGS表示。

In recent years, Siamese network based trackers have significantly advanced the state-of-the-art in real-time tracking. Despite their success, Siamese trackers tend to suffer from high memory costs, which restrict their applicability to mobile devices with tight memory budgets. To address this issue, we propose a distilled Siamese tracking framework to learn small, fast and accurate trackers (students), which capture critical knowledge from large Siamese trackers (teachers) by a teacher-students knowledge distillation model. This model is intuitively inspired by the one teacher vs. multiple students learning method typically employed in schools. In particular, our model contains a single teacher-student distillation module and a student-student knowledge sharing mechanism. The former is designed using a tracking-specific distillation strategy to transfer knowledge from a teacher to students. The latter is utilized for mutual learning between students to enable in-depth knowledge understanding. Extensive empirical evaluations on several popular Siamese trackers demonstrate the generality and effectiveness of our framework. Moreover, the results on five tracking benchmarks show that the proposed distilled trackers achieve compression rates of up to 18$\times$ and frame-rates of $265$ FPS, while obtaining comparable tracking accuracy compared to base models.

文档级关系提取（RE）旨在确定整个文档中实体之间的关系。它需要复杂的推理能力来综合各种知识，例如核心和常识。大规模知识图（kgs）包含大量现实世界事实，并可以为文档级别提供宝贵的知识。在本文中，我们提出了一个实体知识注入框架，以增强当前的文档级RE模型。具体而言，我们将核心蒸馏引入注入核心知识，并具有更一般的核心推理能力。我们还采用代表对帐来注入事实知识，并将kg表示形式汇总到统一空间中。两个基准数据集的实验验证了我们实体知识注入框架的概括，并对多个文档级RE模型的一致改进。

翻译，旋转和缩放是图像处理中三个常用的几何操作操作。此外，其中一些成功用于开发有效的知识图嵌入（KGE）模型，例如transe和旋转。受协同作用的启发，我们通过利用这项工作中的所有三项操作提出了一个新的KGE模型。由于翻译，旋转和缩放操作被级联形成一个复合的操作，因此新模型被命名为复合。通过在小组理论的框架中铸造复合物，我们表明，基于得分功能的KGE模型是复合的特殊情况。Compounde将简单的基于距离的关系扩展到与关系有关的化合物操作上的头部和/或尾部实体。为了证明化合物的有效性，我们对三个流行的KG完成数据集进行了实验。实验结果表明，复合者始终达到了现状的性能。

学术知识图（KGS）提供了代表科学出版物编码的知识的丰富的结构化信息来源。随着出版的科学文学的庞大，包括描述科学概念的过多的非均匀实体和关系，这些公斤本质上是不完整的。我们呈现Exbert，一种利用预先训练的变压器语言模型来执行学术知识图形完成的方法。我们将知识图形的三元组模型为文本并执行三重分类（即，属于KG或不属于KG）。评估表明，在三重分类，链路预测和关系预测的任务中，Exbert在三个学术kg完成数据集中表现出其他基线。此外，我们将两个学术数据集作为研究界的资源，从公共公共公报和在线资源中收集。

最初引入了知识蒸馏，以利用来自单一教师模型的额外监督为学生模型培训。为了提高学生表现，最近的一些变体试图利用多个教师利用不同的知识来源。然而，现有研究主要通过对多种教师预测的平均或将它们与其他无标签策略相结合，将知识集成在多种来源中，可能在可能存在低质量的教师预测存在中误导学生。为了解决这个问题，我们提出了信心感知的多教师知识蒸馏（CA-MKD），该知识蒸馏（CA-MKD）在地面真理标签的帮助下，适用于每个教师预测的样本明智的可靠性，与那些接近单热的教师预测标签分配了大量的重量。此外，CA-MKD包含中间层，以进一步提高学生表现。广泛的实验表明，我们的CA-MKD始终如一地优于各种教师学生架构的所有最先进的方法。

为了减轻从头开始构建知识图（kg）的挑战，更一般的任务是使用开放式语料库中的三元组丰富一个kg，那里获得的三元组包含嘈杂的实体和关系。在保持知识代表的质量的同时，以新收获的三元组丰富一个公园，这是一项挑战。本文建议使用从附加语料库中收集的信息来完善kg的系统。为此，我们将任务制定为两个耦合子任务，即加入事件提取（JEE）和知识图融合（KGF）。然后，我们提出了一个协作知识图融合框架，以允许我们的子任务以交替的方式相互协助。更具体地说，探险家执行了由地面注释和主管提供的现有KG监督的JEE。然后，主管评估了探险家提取的三元组，并用高度排名的人来丰富KG。为了实施此评估，我们进一步提出了一种翻译的关系一致性评分机制，以对齐并将提取的三元组对齐为先前的kg。实验验证了这种合作既可以提高JEE和KGF的表现。

通过嵌入式表示知识图（KGE）近年来一直是研究热点。现实知识图主要与时间相关，而大多数现有的KGE算法忽略了时间信息。一些现有方法直接或间接编码时间信息，忽略时间戳分布的平衡，这大大限制了时间知识图完成的性能（KGC）。在本文中，基于直接编码时间信息框架提出了一种时间KGC方法，并且给定的时间片被视为用于平衡时间戳分布的最优选的粒度。大量关于从现实世界提取的时间知识图形数据集的实验证明了我们方法的有效性。

近年来，人们对少量知识图（FKGC）的兴趣日益增加，该图表旨在推断出关于该关系的一些参考三元组，从而推断出不见了的查询三倍。现有FKGC方法的主要重点在于学习关系表示，可以反映查询和参考三元组共享的共同信息。为此，这些方法从头部和尾部实体的直接邻居中学习实体对表示，然后汇总参考实体对的表示。但是，只有从直接邻居那里学到的实体对代表可能具有较低的表现力，当参与实体稀疏直接邻居或与其他实体共享一个共同的当地社区。此外，仅仅对头部和尾部实体的语义信息进行建模不足以准确推断其关系信息，尤其是当它们具有多个关系时。为了解决这些问题，我们提出了一个特定于关系的上下文学习（RSCL）框架，该框架利用了三元组的图形上下文，以学习全球和本地关系特定的表示形式，以使其几乎没有相关关系。具体而言，我们首先提取每个三倍的图形上下文，这可以提供长期实体关系依赖性。为了编码提取的图形上下文，我们提出了一个分层注意网络，以捕获三元组的上下文信息并突出显示实体的有价值的本地邻里信息。最后，我们设计了一个混合注意聚合器，以评估全球和本地级别的查询三元组的可能性。两个公共数据集的实验结果表明，RSCL的表现优于最先进的FKGC方法。

知识图嵌入（KGE）方法已从广泛的AI社区（包括自然语言处理（NLP））中引起了极大的关注，用于文本生成，分类和上下文诱导。用少数维度嵌入大量的相互关系，需要在认知和计算方面进行适当的建模。最近，开发了有关自然语言的认知和计算方面的许多目标功能。其中包括最新的线性方法，双线性，具有歧管的内核，投影 - 空间和类似推断。但是，这种模型的主要挑战在于它们的损失函数，将关系嵌入的维度与相应的实体维度相关联。当错误估计对应物时，这导致对实体之间相应关系的预测不准确。 Bordes等人发表的Proje Kge由于计算复杂性低和模型改进的高潜力，在所有翻译和双线性相互作用的同时，在捕获实体非线性的同时，都改善了这项工作。基准知识图（KGS）（例如FB15K和WN18）的实验结果表明，所提出的方法使用线性和双线性方法以及其他最新功能的方法在实体预测任务中的最新模型优于最先进的模型。另外，为该模型提出了平行处理结构，以提高大型kg的可伸缩性。还解释了不同自适应聚类和新提出的抽样方法的影响，这被证明可以有效提高知识图完成的准确性。