Video-language pre-training has advanced the performance of various downstream video-language tasks. However, most previous methods directly inherit or adapt typical image-language pre-training paradigms to video-language pre-training, thus not fully exploiting the unique characteristic of video, i.e., temporal. In this paper, we propose a Hierarchical Temporal-Aware video-language pre-training framework, HiTeA, with two novel pre-training tasks for modeling cross-modal alignment between moments and texts as well as the temporal relations of video-text pairs. Specifically, we propose a cross-modal moment exploration task to explore moments in videos, which results in detailed video moment representation. Besides, the inherent temporal relations are captured by aligning video-text pairs as a whole in different time resolutions with multi-modal temporal relation exploration task. Furthermore, we introduce the shuffling test to evaluate the temporal reliance of datasets and video-language pre-training models. We achieve state-of-the-art results on 15 well-established video-language understanding and generation tasks, especially on temporal-oriented datasets (e.g., SSv2-Template and SSv2-Label) with 8.6% and 11.1% improvement respectively. HiTeA also demonstrates strong generalization ability when directly transferred to downstream tasks in a zero-shot manner. Models and demo will be available on ModelScope.

Visual anomaly detection plays a crucial role in not only manufacturing inspection to find defects of products during manufacturing processes, but also maintenance inspection to keep equipment in optimum working condition particularly outdoors. Due to the scarcity of the defective samples, unsupervised anomaly detection has attracted great attention in recent years. However, existing datasets for unsupervised anomaly detection are biased towards manufacturing inspection, not considering maintenance inspection which is usually conducted under outdoor uncontrolled environment such as varying camera viewpoints, messy background and degradation of object surface after long-term working. We focus on outdoor maintenance inspection and contribute a comprehensive Maintenance Inspection Anomaly Detection (MIAD) dataset which contains more than 100K high-resolution color images in various outdoor industrial scenarios. This dataset is generated by a 3D graphics software and covers both surface and logical anomalies with pixel-precise ground truth. Extensive evaluations of representative algorithms for unsupervised anomaly detection are conducted, and we expect MIAD and corresponding experimental results can inspire research community in outdoor unsupervised anomaly detection tasks. Worthwhile and related future work can be spawned from our new dataset.

隐式神经表示显示了3D场景重建的有希望的潜力。最近的工作将其应用于自主3D重建，通过学习信息获得图路径计划的信息增益。有效，信息增益的计算很昂贵，并且与使用体积表示相比，使用隐式表示为3D点进行碰撞检查要慢得多。在本文中，我们建议1）利用神经网络作为信息增益场的隐式函数近似器，以及2）将隐式细粒表示与粗量表示形式结合起来，以提高效率。随着效率的提高，我们提出了基于基于图的计划者的新型信息路径计划。我们的方法表明，与具有隐性和明确表示的自主重建相比，重建质量和计划效率的显着提高。我们将该方法部署在真正的无人机上，结果表明我们的方法可以计划信息意见并以高质量重建场景。

自我训练在半监督学习中表现出巨大的潜力。它的核心思想是使用在标记数据上学习的模型来生成未标记样本的伪标签，然后自我教学。为了获得有效的监督，主动尝试通常会采用动量老师进行伪标签的预测，但要观察确认偏见问题，在这种情况下，错误的预测可能会提供错误的监督信号并在培训过程中积累。这种缺点的主要原因是，现行的自我训练框架充当以前的知识指导当前状态，因为老师仅与过去的学生更新。为了减轻这个问题，我们提出了一种新颖的自我训练策略，该策略使模型可以从未来学习。具体而言，在每个培训步骤中，我们都会首先优化学生（即，在不将其应用于模型权重的情况下缓存梯度），然后用虚拟未来的学生更新老师，最后要求老师为伪标记生产伪标签目前的学生作为指导。这样，我们设法提高了伪标签的质量，从而提高了性能。我们还通过深入（FST-D）和广泛（FST-W）窥视未来，开发了我们未来自我训练（FST）框架的两个变体。将无监督的域自适应语义分割和半监督语义分割的任务作为实例，我们在广泛的环境下实验表明了我们方法的有效性和优越性。代码将公开可用。

在各种图形相关的任务中出现了计算两个图之间的距离/相似性的图形相似性测量。最近的基于学习的方法缺乏可解释性，因为它们直接将两个图之间的交互信息转换为一个隐藏的向量，然后将其映射到相似性。为了解决这个问题，这项研究提出了图形相似性学习的端到端更容易解释的范式，并通过最大的常见子图推理（INFMC）命名相似性计算。我们对INFMCS的关键见解是相似性评分与最大公共子图（MCS）之间的牢固相关性。我们隐含地推断MC获得标准化的MCS大小，其监督信息仅在训练过程中的相似性得分。为了捕获更多的全局信息，我们还使用图形卷积层堆叠一些香草变压器编码层，并提出一种新颖的置换不变的节点位置编码。整个模型非常简单却有效。全面的实验表明，INFMC始终优于用于图形分类和回归任务的最先进基线。消融实验验证了提出的计算范式和其他组件的有效性。同样，结果的可视化和统计数据揭示了INFMC的解释性。

由于推断，数据表示和重建属性，变异自动编码器（VAE）已成功地用于连续学习分类任务。但是，它们具有与持续学习过程中学到的类和数据库相对应的规格生成图像的能力（CL）尚不清楚，而灾难性遗忘仍然是一个重大挑战。在本文中，我们首先通过开发一个将CL作为动态最佳传输问题制定的新理论框架来分析VAE的遗忘行为。该框架证明了与数据可能性相似的范围，而无需任务信息，并解释了在培训过程中如何丢失先验知识。然后，我们提出了一种新颖的记忆缓冲方法，即在线合作记忆（OCM）框架，该框架由短期内存（STM）组成，该框架不断存储最近的样本以为模型提供未来的信息，以及长期记忆（ LTM）旨在保留各种样本。拟议的OCM根据信息多样性选择标准将某些样本从STM转移到LTM，而无需任何监督信号。然后将OCM框架与动态VAE扩展混合网络结合使用，以进一步增强其性能。

人际关系的阻塞和深度歧义使估计单眼多人的3D姿势是以摄像头为中心的坐标，这是一个具有挑战性的问题。典型的自上而下框架具有高计算冗余，并具有额外的检测阶段。相比之下，自下而上的方法的计算成本较低，因为它们受人数的影响较小。但是，大多数现有的自下而上方法将以摄像头3D为中心的人姿势估计视为两个无关的子任务：2.5D姿势估计和以相机为中心的深度估计。在本文中，我们提出了一个统一模型，该模型利用这两个子任务的相互益处。在框架内，稳健结构的2.5D姿势估计旨在基于深度关系识别人际遮挡。此外，我们开发了一种端到端几何感知的深度推理方法，该方法利用了2.5D姿势和以摄像头为中心的根深度的相互益处。该方法首先使用2.5D姿势和几何信息来推断向前通行证中以相机为中心的根深度，然后利用根深蒂固，以进一步改善向后通过的2.5D姿势估计的表示。此外，我们设计了一种自适应融合方案，该方案利用视觉感知和身体几何形状来减轻固有的深度歧义问题。广泛的实验证明了我们提出的模型比广泛的自下而上方法的优越性。我们的准确性甚至与自上而下的同行竞争。值得注意的是，我们的模型比现有的自下而上和自上而下的方法快得多。

最近，持续学习（CL）引起了巨大的兴趣，因为它使深度学习模型能够获取新知识，而无需忘记以前学习的信息。但是，大多数现有作品都需要了解任务身份和边界，这在实际情况下是不现实的。在本文中，我们在CL中解决了一个更具挑战性和更现实的环境，即无任务的持续学习（TFCL），其中模型在没有明确任务信息的非平稳数据流上培训。为了解决TFCL，我们引入了一个进化的混合模型，其网络体系结构动态扩展以适应数据分布移动。我们通过评估使用Hilbert Schmidt独立标准（HSIC）评估存储在每个混合模型组件中的知识与当前存储器缓冲区的知识之间的概率距离来实现此扩展机制。我们进一步介绍了两种简单的辍学机制，以选择性地删除存储的示例，以避免记忆超载，同时保留内存多样性。经验结果表明，所提出的方法可实现出色的性能。

抗癌药物的发现是偶然的，我们试图介绍开放的分子图学习基准，称为Cantidrug4cancer，这是一个具有挑战性且逼真的基准数据集，可促进可扩展，健壮和可重复的图形机器学习用于抗癌药物发现的机器学习研究。候选物4CANCER数据集涵盖了多个最多的癌症靶标，涵盖了54869个与癌症相关的药物分子，其范围从临床前，临床和FDA批准的范围内。除了构建数据集外，我们还使用描述符和表达性图神经网络进行了有效的药物靶点相互作用（DTI）预测基准的基准实验。实验结果表明，候选物4Cancer在实际应用中对学习分子图和目标提出了重大挑战，这表明将来有机会开发用于治疗癌症的候选药物的研究。

我们展示了一个新的开源和可扩展知识提取工具包，称为Deepke（基于深度学习的知识提取），支持标准完全监督，低资源少拍摄和文档级方案。 Deepke实现了各种信息提取任务，包括命名实体识别，关系提取和属性提取。使用统一的框架，DeePke允许开发人员和研究人员根据其要求，自定义数据集和模型以从非结构化文本中提取信息。具体而言，DeePke不仅为不同的任务和场景提供了各种功能模块和模型实现，而且还通过一致的框架组织所有组件以维持足够的模块化和可扩展性。此外，我们在\ URL {http://deepke.zjukg.cn/}中介绍一个在线平台，用于实时提取各种任务。 Deepke已经配备了Google Colab教程和初学者的综合文件。我们用演示视频发布\ url {https://github.com/zjunlp/deepke}源代码。