Existing knowledge graph (KG) embedding models have primarily focused on static KGs. However, real-world KGs do not remain static, but rather evolve and grow in tandem with the development of KG applications. Consequently, new facts and previously unseen entities and relations continually emerge, necessitating an embedding model that can quickly learn and transfer new knowledge through growth. Motivated by this, we delve into an expanding field of KG embedding in this paper, i.e., lifelong KG embedding. We consider knowledge transfer and retention of the learning on growing snapshots of a KG without having to learn embeddings from scratch. The proposed model includes a masked KG autoencoder for embedding learning and update, with an embedding transfer strategy to inject the learned knowledge into the new entity and relation embeddings, and an embedding regularization method to avoid catastrophic forgetting. To investigate the impacts of different aspects of KG growth, we construct four datasets to evaluate the performance of lifelong KG embedding. Experimental results show that the proposed model outperforms the state-of-the-art inductive and lifelong embedding baselines.
translated by 谷歌翻译
同时传输和反射可重构的智能表面(星际摩托车)是一种有前途的被动装置,通过同时传输和反映入射信号,从而有助于全空间覆盖。作为无线通信的新范式,如何分析星际轮胎的覆盖范围和能力性能变得至关重要,但具有挑战性。为了解决星际辅助网络中的覆盖范围和容量优化(CCO)问题,提出了多目标近端策略优化(MO-PPO)算法来处理长期利益,而不是传统优化算法。为了在每个目标之间取得平衡,MO-PPO算法提供了一组最佳解决方案,以形成Pareto前部(PF),其中PF上的任何解决方案都被视为最佳结果。此外,研究了为了提高MO-PPO算法的性能,两种更新策略,即基于动作值的更新策略(AVU)和基于损失功能的更新策略(LFUS)。对于AVU,改进的点是整合覆盖范围和容量的动作值,然后更新损失函数。对于LFU,改进的点仅是为覆盖范围和容量损失函数分配动态权重,而权重在每个更新时由最小值求解器计算出来。数值结果表明,调查的更新策略在不同情况下的固定权重优化算法优于MO优化算法,其中包括不同数量的样品网格,星轮的数量,星轮中的元素数量和大小星际船。此外,星际辅助网络比没有星际轮胎的传统无线网络获得更好的性能。此外,具有相同的带宽,毫米波能够提供比低6 GHz更高的容量,但覆盖率较小。
translated by 谷歌翻译
多年来,旨在从已知事实中推断出新结论的知识图(KGS)的推理主要集中在静态KG上。现实生活中知识的不断增长提出了使能够扩大KGS的归纳推理能力的必要性。现有的归纳工作假设新实体都在批处理中一次出现,这过度简化了新实体不断出现的实际情况。这项研究探讨了一个更现实,更具挑战性的环境,新实体分为多批次。我们提出了一个基于步行的归纳推理模型来解决新环境。具体而言,具有自适应关系聚合的图形卷积网络旨在使用其邻近关系编码和更新实体。为了捕捉不同的邻居的重要性,我们在聚合过程中采用了一种查询反馈注意机制。此外,为了减轻新实体的稀疏链接问题,我们提出了一种链接增强策略,以将可信赖的事实添加到KGS中。我们构建了三个新数据集,用于模拟此多批次出现方案。实验结果表明,我们所提出的模型优于基于最先进的基于嵌入的,基于步行的基于步行和基于规则的模型。
translated by 谷歌翻译
产品描述生成是一项具有挑战性且探索不足的任务。大多数这样的工作都采用一组产品属性,因为输入然后在单个通行证中从头开始生成描述。但是,在面对用户在约束描述时的动态愿望时,这种广泛的范式可能会受到限制,例如根据先前版本删除或添加用户指定属性的内容。为了应对这一挑战,我们在描述生成中探索了一种新的草稿编辑方式,从而导致了电子商务中提议的新任务控制文本编辑。更具体地说,我们允许系统从用户接收命令(删除或添加),然后通过基于上一个版本灵活修改内容来生成描述。通过修改以前的版本而不是从头开始,满足新需求更容易,更实用。此外,我们设计了一种数据增强方法,以纠正此任务中的低资源挑战,其中包含一种基于模型的基于规则的策略,以模仿人类的编辑。为了遵循这项新任务,我们介绍了一个人为编写的命令编辑数据集,称为e-cedits和一个新的指标“属性编辑”。我们的实验结果表明,在自动和人类评估中,使用新的数据增强方法在更大程度上优于基准。
translated by 谷歌翻译
实体对齐是知识图(kg)集成中的基本且至关重要的技术。多年来,对实体一致性的研究一直存在于KG是静态的假设,该假设忽略了现实世界KG的生长本质。随着KG的成长,先前的一致性结果面临需要重新审视的,而新实体对齐等待被发现。在本文中,我们建议并深入研究现实但未开发的设置,称为持续实体对齐。为了避免在新实体和三元组来时对整个KGS进行整个模型,我们为此任务提供了一种持续的对齐方法。它基于实体邻接,重建实体的表示,使其能够使用其现有邻居快速而有归纳的新实体生成嵌入。它选择并重播部分预先对准的实体对,仅训练一部分KG,同时提取可信赖的知识对准知识增强。由于不可避免地要包含与以前的作品不同的不可匹配的实体,因此所提出的方法采用双向最近的邻居匹配来找到新的实体对齐并更新旧的对齐。此外,我们还通过模拟多语言dbpedia的增长来构建新数据集。广泛的实验表明,我们的持续比对方法比基于再培训或归纳学习的基准更有效。
translated by 谷歌翻译
本文介绍了我们对第四次情感行为分析(ABAW)竞争的多任务学习(MTL)挑战的提交。基于视觉功能表示,我们利用三种类型的时间编码器来捕获视频中的时间上下文信息,包括基于变压器的编码器,基于LSTM的编码器和基于GRU的编码器。使用时间上下文感知表示,我们采用多任务框架来预测图像的价,唤醒,表达和AU值。此外,将平滑处理用于完善初始价和唤醒预测,并使用模型集成策略来结合不同模型设置的多个结果。我们的系统在MTL挑战验证数据集上实现了$ 1.742 $的性能。
translated by 谷歌翻译
关键信息提取(KIE)旨在从形式式文档(例如发票)中提取结构化信息(例如,键值对),这迈出了迈向智能文档理解的重要一步。以前的方法通常通过序列标记来处理KIE,这面临处理非扁平序列的困难,尤其是对于表文本混合文档。这些方法还遇到了预定每种文档的固定标签以及标签不平衡问题的麻烦。在这项工作中,我们假设光学特征识别(OCR)已应用于输入文档,并将KIE任务重新制定为在给定目标字段的二维(2D)空间中的区域预测问题。在此新设置之后,我们开发了一个名为“基于区域的文档理解(RDU)”的新型KIE模型,该模型将文本内容和文档的相应坐标作为输入,并试图通过定位类似边界盒的区域来预测结果。我们的RDU首先应用了配备软布局注意力掩蔽和偏置机制的布局感知的BERT,以将布局信息纳入表示形式。然后,通过代表模块启发的区域提案模块从表示形式生成候选区域的列表,该模块灵感来自广泛应用于对象检测的计算机视觉模型。最后,采用区域分类模块和区域选择模块来判断提出的区域是否有效,并分别从所有提出的区域中选择具有最大概率的区域。对四种形式样式文档的实验表明,我们提出的方法可以取得令人印象深刻的结果。此外,我们的RDU模型可以通过不同的文档类型进行培训,这对低资源文档特别有用。
translated by 谷歌翻译
DETR方法中引入的查询机制正在改变对象检测的范例,最近有许多基于查询的方法获得了强对象检测性能。但是,当前基于查询的检测管道遇到了以下两个问题。首先,需要多阶段解码器来优化随机初始化的对象查询,从而产生较大的计算负担。其次,训练后的查询是固定的,导致不满意的概括能力。为了纠正上述问题,我们在较快的R-CNN框架中提出了通过查询生成网络预测的特征对象查询,并开发了一个功能性的查询R-CNN。可可数据集的广泛实验表明,我们的特征查询R-CNN获得了所有R-CNN探测器的最佳速度准确性权衡,包括最近的最新稀疏R-CNN检测器。该代码可在\ url {https://github.com/hustvl/featurized-queryrcnn}中获得。
translated by 谷歌翻译
最近几天,流媒体技术极大地促进了直播领域的发展。由于直播记录的长度过多,因此提取突出显示细分市场至关重要,以有效地生殖和重新分布。尽管事实证明,有很多方法可以有效地检测其他模式,但直播处理中存在的挑战,例如极端持续时间,大主题转移,无关紧要的信息等等,因此严重阻碍了这些这些的适应性和兼容性方法。在本文中,我们制定了一个新的任务直播突出显示检测,讨论和分析上面列出的困难,并提出了一种新的建筑抗议,以解决此问题。具体而言,我们首先将原始数据编码为多个视图,并对其时间关系进行建模,以捕获层次注意机制中的线索。之后,我们尝试将突出显示剪辑的检测转换为搜索最佳决策序列的搜索,并使用完全集成的表示形式来预测动态编程机制中的最终结果。此外,我们构建了一个完全注重的数据集Anthighlight,以实例化此任务并评估模型的性能。广泛的实验表明我们提出的方法的有效性和有效性。
translated by 谷歌翻译
提出了一种新型可重构智能表面辅助的多机器人网络,其中多个移动机器人通过非正交多重访问(NOMA)提供了多个移动机器人(AP)。目的是通过共同优化机器人的轨迹和NOMA解码顺序,RIS的相移系数以及AP的功率分配,从而最大化多机器人系统的整个轨迹的总和率机器人的位置和每个机器人的服务质量(QoS)。为了解决这个问题,提出了一个集成的机器学习(ML)方案,该方案结合了长期记忆(LSTM) - 自动进取的集成移动平均线(ARIMA)模型和Duel Duel Double Deep Q-network(D $^{3} $ QN)算法。对于机器人的初始和最终位置预测,LSTM-ARIMA能够克服非平稳和非线性数据序列的梯度销售问题。为了共同确定相移矩阵和机器人的轨迹,调用D $^{3} $ qn用于解决动作值高估的问题。基于提议的方案,每个机器人都基于整个轨迹的最大总和率持有全局最佳轨迹,该轨迹揭示了机器人为整个轨迹设计追求长期福利。数值结果表明:1)LSTM-ARIMA模型提供了高精度预测模型; 2)提出的d $^{3} $ qn算法可以实现快速平均收敛; 3)具有较高分辨率位的RI提供的轨迹比率比低分辨率比特更大; 4)与RIS AID的正交对应物相比,RIS-NOMA网络的网络性能卓越。
translated by 谷歌翻译