视觉语言导航（VLN）任务要求代理商通过自然语言指令的指导到达目标。以前的作品学会在指令后逐步导航。然而，这些作品可能无法歧视跨指令轨迹对的相似性和差异，并忽略子指令的时间连续性。这些问题妨碍了代理人学习独特的视觉和语言表示，损害了导航政策的稳健性和普遍性。在本文中，我们提出了一种对比的指令轨迹学习（Citl）框架，探讨了不同数据样本的不变性，而不同的数据样本和方差以学习强大导航的独特表示。具体而言，我们提出：（1）通过分别对比完整轨迹观测和指示的语义来提高视觉和语言表示来提高视觉和语言。 （2）细粒度对比学学习目的，通过利用子指示的时间信息来感知指示; （3）对矿井硬样品对比学学习的成对采样重量机制，从而减轻了数据采样偏差在对比学习中的影响。我们的Citl可以轻松地与VLN骨干网集成，形成新的学习范例，并在看不见的环境中实现更好的普遍性。广泛的实验表明，Citl的模型超越了R2R，R4R和RXR上以前的最先进的方法。

视觉导航要求代理商遵循自然语言说明以达到特定目标。可见的环境和看不见的环境之间的巨大差异使代理商概括良好的挑战。先前的研究提出了数据增强方法，以明确或隐式地减轻数据偏见并提供概括的改进。但是，他们试图记住增强的轨迹，并在测试时忽略在看不见的环境下的分布变化。在本文中，我们提出了一个看不见的差异，预期视力和语言导航（戴维斯），该差异通过鼓励测试时间的视觉一致性来概括为看不见的环境。具体来说，我们设计了：1）半监督框架戴维斯（Davis），该框架利用类似的语义观测来利用视觉一致性信号。 2）一个两阶段的学习程序，鼓励适应测试时间分布。该框架增强了模仿和强化学习的基本混合物与动量形成对比，以鼓励在联合训练阶段和测试时间适应阶段对类似观察的稳定决策。广泛的实验表明，戴维斯在R2R和RXR基准上实现了与先前最先进的VLN基线相比，取得了模型不合命源性的改进。我们的源代码和数据是补充材料。

视觉和语言导航（VLN）是一种任务，即遵循语言指令以导航到目标位置的语言指令，这依赖于在移动期间与环境的持续交互。最近的基于变压器的VLN方法取得了很大的进步，从视觉观测和语言指令之间的直接连接通过多模式跨关注机制。然而，这些方法通常代表通过使用LSTM解码器或使用手动设计隐藏状态来构建反复变压器的时间上下文作为固定长度矢量。考虑到单个固定长度向量通常不足以捕获长期时间上下文，在本文中，我们通过显式建模时间上下文来引入具有可变长度存储器（MTVM）的多模式变压器，通过模拟时间上下文。具体地，MTVM使代理能够通过直接存储在存储体中的先前激活来跟踪导航轨迹。为了进一步提高性能，我们提出了内存感知的一致性损失，以帮助学习随机屏蔽指令的时间上下文的更好关节表示。我们在流行的R2R和CVDN数据集上评估MTVM，我们的模型在R2R看不见的验证和测试中提高了2％的成功率，并在CVDN测试集上减少了1.6米的目标进程。

视觉和语言导航（VLN）任务要求代理根据语言说明浏览环境。在本文中，我们旨在解决此任务中的两个关键挑战：利用多语言指令改进教学路径接地，并在培训期间看不见的新环境中导航。为了应对这些挑战，我们提出了明确的：跨语性和环境不可屈服的表示。首先，我们的经纪人在室内室内数据集中学习了三种语言（英语，印地语和泰卢固语）的共享且视觉上的跨语言表示。我们的语言表示学习是由视觉信息对齐的文本对指导的。其次，我们的代理商通过从不同环境中最大化语义对齐的图像对（对象匹配的约束）之间的相似性来学习环境不足的视觉表示。我们的环境不可知的视觉表示可以减轻低级视觉信息引起的环境偏见。从经验上讲，在房间 - 室内数据集中，我们表明，当通过跨语性语言表示和环境 - 非局部视觉表示形式概括地看不见的环境时，我们的多语言代理在所有指标上都比强大的基线模型进行了巨大改进。此外，我们表明我们学到的语言和视觉表示可以成功地转移到房间和合作的视觉和二元式导航任务上，并提出详细的定性和定量的概括和基础分析。我们的代码可从https://github.com/jialuli-luka/clear获得

愿景 - 语言导航（VLN）任务要求代理逐步导航，同时感知视觉观察并理解自然语言指令。大数据偏置，这是由小数据量表和大型导航空间之间的视差比率引起的，使得VLN任务具有挑战性。以前的作品提出了各种数据增强方法来减少数据偏差。但是，这些作品不会明确降低不同房间场景的数据偏差。因此，该代理将覆盖所见的场景，并在看不见的场景中实现较差的导航性能。为了解决这个问题，我们提出了随机环境混合（REM）方法，它通过混合环境作为增强数据生成交叉连接的房屋场景。具体而言，我们首先根据每个场景的房间连接图选择键视点。然后，我们交叉连接不同场景的关键视图，以构建增强场景。最后，我们在交叉连接场景中生成增强的指令路径对。基准数据集的实验结果表明，我们的增强数据通过REM帮助代理商会降低所见和看不见的环境之间的性能差距，提高整体性能，使我们的模型成为标准VLN基准的最佳现有方法。该代码已发布：https://github.com/lcfractal/vlnrem。

了解空间和视觉信息对于遵循自然语言说明的导航代理至关重要。当前的基于变压器的VLN代理纠缠了方向和视觉信息，这限制了每个信息源的学习中的增益。在本文中，我们设计了具有明确取向和视觉模块的神经药物。这些模块学会了将空间信息和地标在视觉环境中的说明中提及。为了加强代理的空间推理和视觉感知，我们设计了特定的预训练任务，以进食并更好地利用我们最终导航模型中的相应模块。我们在Room2Room（R2R）和Room4Room（R4R）数据集上评估我们的方法，并在两个基准测试中实现最新结果。

视觉和语言导航（VLN）是人工智能领域的一个具有挑战性的任务。虽然在过去几年中，在这项任务中取得了大规模进展，但由于深远和语言模型的突破，仍然是突破，仍然很难建立可以概括和人类的VLN模型。在本文中，我们提供了一种改进VLN模型的新视角。基于我们发现，即使它们的成功率相对相同，同一VLN模型的快照表现出显着不同，我们提出了一种基于快照的合并解决方案，该解决方案利用了多个快照之间的预测。构建在现有最先进的（SOTA）型号$ \ CirclearRowright $ Bert的快照和我们的过去动作感知修改，我们所提出的集合在导航错误中实现了新的SOTA性能（NE）和成功由路径长度（SPL）加权。

In this work, we study the problem of Embodied Referring Expression Grounding, where an agent needs to navigate in a previously unseen environment and localize a remote object described by a concise high-level natural language instruction. When facing such a situation, a human tends to imagine what the destination may look like and to explore the environment based on prior knowledge of the environmental layout, such as the fact that a bathroom is more likely to be found near a bedroom than a kitchen. We have designed an autonomous agent called Layout-aware Dreamer (LAD), including two novel modules, that is, the Layout Learner and the Goal Dreamer to mimic this cognitive decision process. The Layout Learner learns to infer the room category distribution of neighboring unexplored areas along the path for coarse layout estimation, which effectively introduces layout common sense of room-to-room transitions to our agent. To learn an effective exploration of the environment, the Goal Dreamer imagines the destination beforehand. Our agent achieves new state-of-the-art performance on the public leaderboard of the REVERIE dataset in challenging unseen test environments with improvement in navigation success (SR) by 4.02% and remote grounding success (RGS) by 3.43% compared to the previous state-of-the-art. The code is released at https://github.com/zehao-wang/LAD

视觉和语言导航（VLN）是一个任务，代理在人类指令下的体现室内环境中导航。以前的作品忽略了样本难度的分布，我们认为这可能会降低他们的代理表现。为了解决这个问题，我们为VLN任务提出了一种基于课程的基于课程的培训范式，可以平衡人类的先验知识和特工关于培训样本的学习进度。我们开发课程设计原则，并重新安排基准房间到室（R2R）数据集，以使其适用于课程培训。实验表明，我们的方法是模型 - 不可知的，可以显着提高当前最先进的导航剂的性能，概括性和培训效率而不会增加模型复杂性。

Recent studies in Vision-and-Language Navigation (VLN) train RL agents to execute natural-language navigation instructions in photorealistic environments, as a step towards robots that can follow human instructions. However, given the scarcity of human instruction data and limited diversity in the training environments, these agents still struggle with complex language grounding and spatial language understanding. Pretraining on large text and image-text datasets from the web has been extensively explored but the improvements are limited. We investigate large-scale augmentation with synthetic instructions. We take 500+ indoor environments captured in densely-sampled 360 degree panoramas, construct navigation trajectories through these panoramas, and generate a visually-grounded instruction for each trajectory using Marky, a high-quality multilingual navigation instruction generator. We also synthesize image observations from novel viewpoints using an image-to-image GAN. The resulting dataset of 4.2M instruction-trajectory pairs is two orders of magnitude larger than existing human-annotated datasets, and contains a wider variety of environments and viewpoints. To efficiently leverage data at this scale, we train a simple transformer agent with imitation learning. On the challenging RxR dataset, our approach outperforms all existing RL agents, improving the state-of-the-art NDTW from 71.1 to 79.1 in seen environments, and from 64.6 to 66.8 in unseen test environments. Our work points to a new path to improving instruction-following agents, emphasizing large-scale imitation learning and the development of synthetic instruction generation capabilities.

Existing approaches for vision-and-language navigation (VLN) are mainly based on cross-modal reasoning over discrete views. However, this scheme may hamper an agent's spatial and numerical reasoning because of incomplete objects within a single view and duplicate observations across views. A potential solution is mapping discrete views into a unified birds's-eye view, which can aggregate partial and duplicate observations. Existing metric maps could achieve this goal, but they suffer from less expressive semantics (e.g. usually predefined labels) and limited map size, which weakens an agent's language grounding and long-term planning ability. Inspired by the robotics community, we introduce hybrid topo-metric maps into VLN, where a topological map is used for long-term planning and a metric map for short-term reasoning. Beyond mapping with more expressive deep features, we further design a pre-training framework via the hybrid map to learn language-informed map representations, which enhances cross-modal grounding and facilitates the final language-guided navigation goal. Extensive experiments demonstrate the effectiveness of the map-based route for VLN, and the proposed method sets the new state-of-the-art on three VLN benchmarks.

事实证明，演讲者的追随者模型在视觉和语言导航中有效，在该导航中，扬声器模型用于合成新的说明，以增强追随者导航模型的培训数据。但是，在以前的许多方法中，生成的指令未直接训练以优化追随者的性能。在本文中，我们介绍\ textsc {foam}，a \ textsc {fo} llower- \ textsc {a} ware speaker \ textsc {m} odel，它不断更新给定关注的反馈，以便生成的指令可以是更多的指令。适合当前追随者的学习状态。具体而言，我们使用BI级优化框架优化了扬声器，并通过评估标记数据的跟随器来获得其训练信号。房间对房间和房间的室内数据集中的实验结果表明，我们的方法可以超越跨设置的强大基线模型。分析还表明，我们生成的指示的质量比基线更高。

旨在为通用机器人铺平道路的边界研究，视觉和语言导航（VLN）一直是计算机视觉和自然语言处理社区的热门话题。 VLN任务要求代理在不熟悉的环境中按照自然语言说明导航到目标位置。最近，基于变压器的模型已在VLN任务上获得了重大改进。由于变压器体系结构中的注意力机制可以更好地整合视觉和语言的模式内和模式信息。但是，当前基于变压器的模型中存在两个问题。 1）模型独立处理每个视图，而无需考虑对象的完整性。 2）在视觉模态的自我注意操作期间，在空间上遥远的视图可以彼此交织而无需明确的限制。这种混合可能会引入额外的噪音而不是有用的信息。为了解决这些问题，我们建议1）基于插槽注意的模块，以合并来自同一对象的分割的信息。 2）局部注意力掩模机制限制视觉注意力跨度。所提出的模块可以轻松地插入任何VLN体系结构中，我们将复发的VLN-Bert用作基本模型。 R2R数据集的实验表明，我们的模型已达到最新结果。

在视觉和语言导航（VLN）中，按照自然语言指令在现实的3D环境中需要具体的代理。现有VLN方法的一个主要瓶颈是缺乏足够的培训数据，从而导致对看不见的环境的概括不令人满意。虽然通常会手动收集VLN数据，但这种方法很昂贵，并且可以防止可扩展性。在这项工作中，我们通过建议从HM3D自动创建900个未标记的3D建筑物的大规模VLN数据集来解决数据稀缺问题。我们为每个建筑物生成一个导航图，并通过交叉视图一致性从2D传输对象预测，从2D传输伪3D对象标签。然后，我们使用伪对象标签来微调一个预处理的语言模型，作为减轻教学生成中跨模式差距的提示。在导航环境和说明方面，我们生成的HM3D-AUTOVLN数据集是比现有VLN数据集大的数量级。我们通过实验表明，HM3D-AUTOVLN显着提高了所得VLN模型的概括能力。在SPL指标上，我们的方法分别在Reverie和DataSet的看不见的验证分裂分别对艺术的状态提高了7.1％和8.1％。

基于检索的对话响应选择旨在为给定多转中下文找到候选集的正确响应。基于预先训练的语言模型（PLMS）的方法对此任务产生了显着的改进。序列表示在对话背景和响应之间的匹配程度中扮演关键作用。然而，我们观察到相同上下文共享的不同的上下文响应对始终在由PLM计算的序列表示中具有更大的相似性，这使得难以区分来自负面的正响应。由此激励，我们提出了一种基于PLMS的响应选择任务的新颖\ TextBF {f} ine- \ textbf {g}下载\ textbf {g} unfrstive（fgc）学习方法。该FGC学习策略有助于PLMS在细粒中产生每个对话的更可区分的匹配表示，并进一步提高选择正反应的预测。两个基准数据集的实证研究表明，所提出的FGC学习方法一般可以提高现有PLM匹配模型的模型性能。

对比度学习最近在无监督的视觉表示学习中显示出巨大的潜力。在此轨道中的现有研究主要集中于图像内不变性学习。学习通常使用丰富的图像内变换来构建正对，然后使用对比度损失最大化一致性。相反，相互影响不变性的优点仍然少得多。利用图像间不变性的一个主要障碍是，尚不清楚如何可靠地构建图像间的正对，并进一步从它们中获得有效的监督，因为没有配对注释可用。在这项工作中，我们提出了一项全面的实证研究，以更好地了解从三个主要组成部分的形象间不变性学习的作用：伪标签维护，采样策略和决策边界设计。为了促进这项研究，我们引入了一个统一的通用框架，该框架支持无监督的内部和间形内不变性学习的整合。通过精心设计的比较和分析，揭示了多个有价值的观察结果：1）在线标签收敛速度比离线标签更快； 2）半硬性样品比硬否定样品更可靠和公正； 3）一个不太严格的决策边界更有利于形象间的不变性学习。借助所有获得的食谱，我们的最终模型（即InterCLR）对多个标准基准测试的最先进的内图内不变性学习方法表现出一致的改进。我们希望这项工作将为设计有效的无监督间歇性不变性学习提供有用的经验。代码：https：//github.com/open-mmlab/mmselfsup。

在本文中，我们介绍了地图语言导航任务，代理在其中执行自然语言指令，并仅基于给定的3D语义图移至目标位置。为了解决任务，我们设计了指导感的路径建议和歧视模型（IPPD）。我们的方法利用MAP信息来提供指导感知的路径建议，即，它选择所有潜在的指令一致的候选路径以减少解决方案空间。接下来，为表示沿路径的地图观测值以获得更好的模态对准，提出了针对语义图定制的新型路径特征编码方案。基于注意力的语言驱动的歧视者旨在评估候选路径，并确定最佳路径作为最终结果。与单步贪婪决策方法相比，我们的方法自然可以避免误差积累。与单步仿制学习方法相比，IPPD在导航成功方面的性能增长超过17％，而在有挑战性的看不见的环境中，在路径匹配测量NDTW上的性能增长了0.18。

这项工作旨在改善具有自我监督的实例检索。我们发现使用最近开发的自我监督（SSL）学习方法（如SIMCLR和MOCO）的微调未能提高实例检索的性能。在这项工作中，我们确定了例如检索的学习表示应该是不变的视点和背景等的大变化，而当前SSL方法应用的自增强阳性不能为学习强大的实例级别表示提供强大的信号。为了克服这个问题，我们提出了一种在\ texit {实例级别}对比度上建立的新SSL方法，以通过动态挖掘迷你批次和存储库来学习类内不变性训练。广泛的实验表明，insclr在实例检索上实现了比最先进的SSL方法更类似或更好的性能。代码可在https://github.com/zeludeng/insclr获得。

最近，自我监督的表示学习（SSRL）在计算机视觉，语音，自然语言处理（NLP）以及最近的其他类型的模式（包括传感器的时间序列）中引起了很多关注。自我监督学习的普及是由传统模型通常需要大量通知数据进行培训的事实所驱动的。获取带注释的数据可能是一个困难且昂贵的过程。已经引入了自我监督的方法，以通过使用从原始数据自由获得的监督信号对模型进行判别预训练来提高训练数据的效率。与现有的对SSRL的评论不同，该评论旨在以单一模式为重点介绍CV或NLP领域的方法，我们旨在为时间数据提供对多模式自我监督学习方法的首次全面审查。为此，我们1）提供现有SSRL方法的全面分类，2）通过定义SSRL框架的关键组件来引入通用管道，3）根据其目标功能，网络架构和潜在应用程序，潜在的应用程序，潜在的应用程序，比较现有模型， 4）查看每个类别和各种方式中的现有多模式技术。最后，我们提出了现有的弱点和未来的机会。我们认为，我们的工作对使用多模式和/或时间数据的域中SSRL的要求有了一个观点

Household environments are visually diverse. Embodied agents performing Vision-and-Language Navigation (VLN) in the wild must be able to handle this diversity, while also following arbitrary language instructions. Recently, Vision-Language models like CLIP have shown great performance on the task of zero-shot object recognition. In this work, we ask if these models are also capable of zero-shot language grounding. In particular, we utilize CLIP to tackle the novel problem of zero-shot VLN using natural language referring expressions that describe target objects, in contrast to past work that used simple language templates describing object classes. We examine CLIP's capability in making sequential navigational decisions without any dataset-specific finetuning, and study how it influences the path that an agent takes. Our results on the coarse-grained instruction following task of REVERIE demonstrate the navigational capability of CLIP, surpassing the supervised baseline in terms of both success rate (SR) and success weighted by path length (SPL). More importantly, we quantitatively show that our CLIP-based zero-shot approach generalizes better to show consistent performance across environments when compared to SOTA, fully supervised learning approaches when evaluated via Relative Change in Success (RCS).