准确的动物姿势估计是了解动物行为的重要步骤，并且可能有利于许多下游应用，例如野生动物保护。以前的作用仅关注特定动物，同时忽略动物物种的多样性，限制泛化能力。在本文中，我们提出了哺乳动物动物姿势估计的第一个大规模基准的AP-10K，以促进动物姿势估计的研究。 AP-10K由10,015张图像组成，并在分类规模和54种物种之后从23个动物家庭和54种物种，标有标记和检查的高质量Keypoint注释。基于AP-10K，我们在以下三个轨道上基准代表姿态估计模型：（1）监督动物姿势估计的学习，（2）从人类姿势估计到动物姿势估计的跨域转移，和（3） - 看不见的动物的家庭间域概括。实验结果为学习的优越性从精度和泛化能力方面提供了关于从不同的动物物种的学习的优势提供的声音。它开辟了促进动物姿势估计未来研究的新方向。 AP-10K公开提供HTTPS://github.com/alexthebad/ap10k。

动物姿势估计和跟踪（APT）是从一系列视频帧中检测和跟踪动物关键的基本任务。以前与动物有关的数据集专注于动物跟踪或单帧动物姿势估计，而从未在这两个方面上进行。缺乏APT数据集​​阻碍了基于视频的动物姿势估计和跟踪方法的开发和评估，限制了现实世界中的应用，例如了解野生动物保护中的动物行为。为了填补这一空白，我们迈出了第一步，并提出了APT-36K，即第一个用于动物姿势估计和跟踪的大规模基准。具体而言，APT-36K由2,400个视频剪辑组成，并从30种动物物种中收集并过滤，每个视频为15帧，总共产生36,000帧。在手动注释和仔细的双重检查之后，为所有动物实例提供了高质量的关键点和跟踪注释。基于APT-36K，我们在以下三个曲目上基准了几个代表性模型：（1）在内部和域间传输学习设置下，在单个框架上进行监督的动物姿势估计，（2）未见的种间域域内概括测试动物，（3）动物跟踪的动物姿势估计。根据实验结果，我们获得了一些经验见解，并表明APT-36K提供了有价值的动物姿势估计和跟踪基准，为未来的研究提供了新的挑战和机会。该代码和数据集将在https://github.com/pandorgan/apt-36k上公​​开提供。

最近，动物姿势估计引起了关注动物行为理解的学术界（例如野生动植物和保护生物学）的兴趣。但是，目前的动物姿势估计遭受了小数据集和较大的数据差异，因此很难获得稳健的性能。为了解决这个问题，我们建议可以利用语言模型学到的与姿势相关语义之间的关系的丰富知识来改善动物姿势估计。因此，在这项研究中，我们介绍了一个新颖的促进框架，以有效地采用语言模型，以更好地根据及时训练来理解动物姿势。在Promptpose中，我们建议将语言知识适应视觉动物的姿势是实现有效动物姿势估计的关键。为此，我们首先介绍文本提示，以在文本语义描述和支持动物关键点功能之间建立连接。此外，我们进一步设计了一个像素级的对比损失，以在文本描述和本地图像特征之间建立密集的联系，以及语义级别的对比损失，以弥合语言图像跨模式预训练的全球对比度之间的差距密集预测中的局部对比。在实践中，Pickerpose在改善动物姿势估计方面显示出巨大的好处。通过进行广泛的实验，我们表明，我们的及时疾病在监督和少量设置下取得了卓越的性能，超过了代表性的方法。源代码和模型将公开可用。

多代理行为建模旨在了解代理之间发生的交互。我们从行为神经科学，Caltech鼠标社交交互（CALMS21）数据集中提供了一个多代理数据集。我们的数据集由社交交互的轨迹数据组成，从标准居民入侵者测定中自由行为小鼠的视频记录。为了帮助加速行为研究，CALMS21数据集提供基准，以评估三种设置中自动行为分类方法的性能：（1）用于培训由单个注释器的所有注释，（2）用于风格转移以进行学习互动在特定有限培训数据的新行为学习的行为定义和（3）的注释差异。 DataSet由600万个未标记的追踪姿势的交互小鼠组成，以及超过100万帧，具有跟踪的姿势和相应的帧级行为注释。我们的数据集的挑战是能够使用标记和未标记的跟踪数据准确地对行为进行分类，以及能够概括新设置。

In this paper, we show the surprisingly good properties of plain vision transformers for body pose estimation from various aspects, namely simplicity in model structure, scalability in model size, flexibility in training paradigm, and transferability of knowledge between models, through a simple baseline model dubbed ViTPose. Specifically, ViTPose employs the plain and non-hierarchical vision transformer as an encoder to encode features and a lightweight decoder to decode body keypoints in either a top-down or a bottom-up manner. It can be scaled up from about 20M to 1B parameters by taking advantage of the scalable model capacity and high parallelism of the vision transformer, setting a new Pareto front for throughput and performance. Besides, ViTPose is very flexible regarding the attention type, input resolution, and pre-training and fine-tuning strategy. Based on the flexibility, a novel ViTPose+ model is proposed to deal with heterogeneous body keypoint categories in different types of body pose estimation tasks via knowledge factorization, i.e., adopting task-agnostic and task-specific feed-forward networks in the transformer. We also empirically demonstrate that the knowledge of large ViTPose models can be easily transferred to small ones via a simple knowledge token. Experimental results show that our ViTPose model outperforms representative methods on the challenging MS COCO Human Keypoint Detection benchmark at both top-down and bottom-up settings. Furthermore, our ViTPose+ model achieves state-of-the-art performance simultaneously on a series of body pose estimation tasks, including MS COCO, AI Challenger, OCHuman, MPII for human keypoint detection, COCO-Wholebody for whole-body keypoint detection, as well as AP-10K and APT-36K for animal keypoint detection, without sacrificing inference speed.

Because of their close relationship with humans, non-human apes (chimpanzees, bonobos, gorillas, orangutans, and gibbons, including siamangs) are of great scientific interest. The goal of understanding their complex behavior would be greatly advanced by the ability to perform video-based pose tracking. Tracking, however, requires high-quality annotated datasets of ape photographs. Here we present OpenApePose, a new public dataset of 71,868 photographs, annotated with 16 body landmarks, of six ape species in naturalistic contexts. We show that a standard deep net (HRNet-W48) trained on ape photos can reliably track out-of-sample ape photos better than networks trained on monkeys (specifically, the OpenMonkeyPose dataset) and on humans (COCO) can. This trained network can track apes almost as well as the other networks can track their respective taxa, and models trained without one of the six ape species can track the held out species better than the monkey and human models can. Ultimately, the results of our analyses highlight the importance of large specialized databases for animal tracking systems and confirm the utility of our new ape database.

由于几个因素之间的微妙权衡：参与者的隐私，生态有效性，数据保真度和后勤开销，记录野外未脚本人类互动的动态是具有挑战性的。为了解决这些问题，在社区精神上为社区的“数据集”之后，我们提出了会议生活实验室（Conflab）：一个新的概念，用于多模式多模式数据收集，野生野外社交对话。对于此处描述的Conflab的首次实例化，我们在一次大型国际会议上组织了现实生活中的专业网络活动。该数据集涉及48个会议参与者，捕捉了地位，熟人和网络动机的各种组合。我们的捕获设置改善了先前野外数据集的数据保真度，同时保留隐私敏感性：从非侵入性的架空视图中获得8个视频（1920x1080，60 fps），并具有定制的可穿戴传感器，并带有车载记录（完整9） - 轴IMU），具有隐私性的低频音频（1250 Hz）和基于蓝牙的接近度。此外，我们开发了用于采集时分布式硬件同步的自定义解决方案，并以高采样速率对身体关键点和动作进行了及时的连续注释。我们的基准测试展示了与野外隐私保护社交数据分析有关的一些开放研究任务：从高架摄像头视图，基于骨架的No-Audio扬声器检测和F-Formation检测中的关键点检测。

2D姿势估计的现有作品主要集中在某个类别上，例如人，动物和车辆。但是，有许多应用程序方案需要检测看不见的对象类的姿势/关键点。在本文中，我们介绍了类别不稳定姿势估计（CAPE）的任务，该任务旨在创建一个姿势估计模型，能够检测仅给出一些具有关键点定义的样本的任何类别对象的姿势。为了实现这一目标，我们将姿势估计问题作为关键点匹配问题制定，并设计一个新颖的Cape框架，称为姿势匹配网络（POMNET）。提出了基于变压器的关键点交互模块（KIM），以捕获不同关键点之间的交互以及支持图像和查询图像之间的关系。我们还介绍了多类姿势（MP-100）数据集，该数据集是包含20K实例的100个对象类别的2D姿势数据集，并且经过精心设计用于开发CAPE算法。实验表明，我们的方法的表现优于其他基线方法。代码和数据可在https://github.com/luminxu/pose-for-venthing上找到。

本文调查了2D全身人类姿势估计的任务，该任务旨在将整个人体（包括身体，脚，脸部和手）局部定位在整个人体上。我们提出了一种称为Zoomnet的单网络方法，以考虑到完整人体的层次结构，并解决不同身体部位的规模变化。我们进一步提出了一个称为Zoomnas的神经体系结构搜索框架，以促进全身姿势估计的准确性和效率。Zoomnas共同搜索模型体系结构和不同子模块之间的连接，并自动为搜索的子模块分配计算复杂性。为了训练和评估Zoomnas，我们介绍了第一个大型2D人类全身数据集，即可可叶全体V1.0，它注释了133个用于野外图像的关键点。广泛的实验证明了Zoomnas的有效性和可可叶v1.0的重要性。

现实世界的行为通常是由多种代理之间复杂的相互作用来塑造的。为了可靠地研究多代理行为，无监督和自我监督的学习的进步使从轨迹数据中学到了各种不同的行为表示。迄今为止，还没有一组统一的基准测试，可以在广泛的行为分析设置中进行定量和系统地比较方法。我们的目的是通过引入来自现实世界行为神经科学实验的大规模，多代理轨迹数据集来解决这一问题，该数据集涵盖了一系列行为分析任务。我们的数据集由来自通用模型生物的轨迹数据组成，其中有960万帧的小鼠数据和440万帧的飞行数据，在各种实验环境中，例如不同的菌株，相互作用的长度和光遗传学刺激。框架的子集还包括专家注销的行为标签。我们数据集的改进对应于跨多种生物的行为表示，并能够捕获常见行为分析任务的差异。

联合学习是一种新兴的机器学习（ML）范式，其中大量设备集体训练ML模型，而数据仍保留在设备上。该研究领域有一系列独特的实践挑战，为了系统地取得进步，需要策划与此范式兼容的新数据集。图像域中的现有联合学习基准不能准确捕获许多实际用例的规模和异质性。我们介绍了Flair，这是一个具有挑战性的大规模注释图像数据集，用于适合联合学习的多标签分类。弗莱尔（Flair）拥有来自51,414个Flickr用户的429,078张图像，并捕获了联合学习中通常遇到的许多复杂性，例如异质用户数据和长尾标签分布。我们在此数据集上的不同任务中实现了不同的学习设置中的多个基线。我们认为，天赋可以作为推进联邦学习最先进的具有挑战性的基准。数据集访问和基准的代码可在\ url {https://github.com/apple/ml-flair}上获得。

虽然姿势估计是一项重要的计算机视觉任务，但它需要昂贵的注释，并且遭受了域转移的困扰。在本文中，我们调查了域自适应2D姿势估计的问题，这些估计会传输有关合成源域的知识，而无需监督。尽管最近已经提出了几个领域的自适应姿势估计模型，但它们不是通用的，而是专注于人姿势或动物姿势估计，因此它们的有效性在某种程度上限于特定情况。在这项工作中，我们提出了一个统一的框架，该框架可以很好地推广到各种领域自适应姿势估计问题上。我们建议使用输入级别和输出级线索（分别是像素和姿势标签）对齐表示，这有助于知识转移从源域到未标记的目标域。我们的实验表明，我们的方法在各个领域变化下实现了最先进的性能。我们的方法的表现优于现有的姿势估计基线，最高4.5％（PP），手部姿势估算高达7.4 pp，狗的动物姿势估计高达4.8 pp，而绵羊的姿势估计为3.3 pp。这些结果表明，我们的方法能够减轻各种任务甚至看不见的域和物体的转移（例如，在马匹上训练并在狗上进行了测试）。我们的代码将在以下网址公开可用：https：//github.com/visionlearninggroup/uda_poseestimation。

The ImageNet Large Scale Visual Recognition Challenge is a benchmark in object category classification and detection on hundreds of object categories and millions of images. The challenge has been run annually from 2010 to present, attracting participation from more than fifty institutions. This paper describes the creation of this benchmark dataset and the advances in object recognition that have been possible as a result. We discuss the chal-

瑜伽是全球广受好评的，广泛推荐的健康生活实践。在执行瑜伽时保持正确的姿势至关重要。在这项工作中，我们采用了从人类姿势估计模型中的转移学习来提取整个人体的136个关键点，以训练一个随机的森林分类器，该分类器用于估算瑜伽室。在内部收集的内部收集的瑜伽视频数据库中评估了结果，该数据库是从4个不同的相机角度记录的51个主题。我们提出了一个三步方案，用于通过对1）看不见的帧，2）看不见的受试者进行测试来评估瑜伽分类器的普遍性。我们认为，对于大多数应用程序，对看不见的主题的验证精度和看不见的摄像头是最重要的。我们经验分析了三个公共数据集，转移学习的优势以及目标泄漏的可能性。我们进一步证明，分类精度在很大程度上取决于所采用的交叉验证方法，并且通常会产生误导。为了促进进一步的研究，我们已公开提供关键点数据集和代码。

准确注释的图像数据集是研究动物行为的重要组成部分。与我们知道并且可能存在的物种数量相比，现有的标记姿势数据集仅覆盖其中的一小部分，而构建全面的大规模数据集则非常昂贵。在这里，我们提出了一种非常数据有效的策略，该策略针对四足动物的姿势估计，该策略仅需要少量来自目标动物的真实图像。可以证实，在诸如ImageNet之类的通用图像数据集上具有预计权重的骨干网络可以减轻对目标动物姿势数据的高需求，并通过了解对物体细分和关键点估计的先验知识来缩短训练时间。但是，当面对严重的数据稀缺性（即$ <10^2 $真实图像）时，模型性能保持不令人满意，尤其是对于具有相当灵活性和几个可比零件的四肢而言。因此，我们引入了一种称为Pasyn的先前感知的合成动物数据生成管道，以增强动物姿势数据对可靠的姿势估计所必需的数据。 Pasyn通过在几种动画3D动物模型上训练变异生成模型，生成概率 - valid合成姿势数据集，突触。此外，样式转移策略被用来将合成动物形象融合到真实背景中。我们通过三个流行的骨干网络评估了方法的改进，并测试了其姿势估计的准确性，并在动物园中从真实动物中收集的公共动物姿势图像以及从真实的动物中收集的姿势估计准确性。

We introduce Argoverse 2 (AV2) - a collection of three datasets for perception and forecasting research in the self-driving domain. The annotated Sensor Dataset contains 1,000 sequences of multimodal data, encompassing high-resolution imagery from seven ring cameras, and two stereo cameras in addition to lidar point clouds, and 6-DOF map-aligned pose. Sequences contain 3D cuboid annotations for 26 object categories, all of which are sufficiently-sampled to support training and evaluation of 3D perception models. The Lidar Dataset contains 20,000 sequences of unlabeled lidar point clouds and map-aligned pose. This dataset is the largest ever collection of lidar sensor data and supports self-supervised learning and the emerging task of point cloud forecasting. Finally, the Motion Forecasting Dataset contains 250,000 scenarios mined for interesting and challenging interactions between the autonomous vehicle and other actors in each local scene. Models are tasked with the prediction of future motion for "scored actors" in each scenario and are provided with track histories that capture object location, heading, velocity, and category. In all three datasets, each scenario contains its own HD Map with 3D lane and crosswalk geometry - sourced from data captured in six distinct cities. We believe these datasets will support new and existing machine learning research problems in ways that existing datasets do not. All datasets are released under the CC BY-NC-SA 4.0 license.

近年来，在实际场景中，单图（SID）引起了人们的关注。由于难以获得真实世界/清洁图像对，因此以前的真实数据集遭受了低分辨率图像，均匀的雨条，背景变化有限，甚至对图像对的不对准，从而对SID方法进行了不可思议的评估。为了解决这些问题，我们建立了一个名为Realrain-1K的新的高质量数据集，该数据集分别由1,120美元的高分辨率配对的清洁和高雨图像组成，分别具有低密度和高密度降雨条纹。 Realrain-1K中的图像是通过简单而有效的降雨密度可控制的过滤方法自动从大量现实世界中的雨滴剪辑中生成结盟。 Realrain-1K还提供丰富的雨条层作为副产品，使我们能够通过将雨条层粘贴在丰富的自然图像上，从而构建一个名为Synrain-13K的大规模合成数据集。基于它们和现有数据集，我们在三个曲目上基准了10种代表性的SID方法：（1）对Realrain-1K的全面监督学习，（2）域对真实数据集进行概括，以及（3）SYN-to-eal Toth-to to real Transvers Learning 。实验结果（1）显示了图像恢复性能和模型复杂性中代表性方法的差异，（2）验证所提出的数据集在模型概括中的重要性，（3）提供了有关从不同领域和从不同领域和学习的优越性的有用见解。关于现实世界中SID的未来研究的灯光。数据集将在https://github.com/hiker-lw/realrain-1k上发布

Existing image classification datasets used in computer vision tend to have a uniform distribution of images across object categories. In contrast, the natural world is heavily imbalanced, as some species are more abundant and easier to photograph than others. To encourage further progress in challenging real world conditions we present the iNaturalist species classification and detection dataset, consisting of 859,000 images from over 5,000 different species of plants and animals. It features visually similar species, captured in a wide variety of situations, from all over the world. Images were collected with different camera types, have varying image quality, feature a large class imbalance, and have been verified by multiple citizen scientists. We discuss the collection of the dataset and present extensive baseline experiments using state-of-the-art computer vision classification and detection models. Results show that current nonensemble based methods achieve only 67% top one classification accuracy, illustrating the difficulty of the dataset. Specifically, we observe poor results for classes with small numbers of training examples suggesting more attention is needed in low-shot learning.

成对图像和文本的大型数据集越来越受到愿景和愿景和语言任务的通用表示。此类数据集已通过查询搜索引擎或收集HTML Alt-Text构建 - 由于Web数据是嘈杂的，因此它们需要复杂的过滤管道来维护质量。我们探索备用数据源以收集具有最小滤波的高质量数据。我们介绍Redcaps - 从Reddit收集的12M图像文本对的大规模数据集。来自Reddit的图像和标题描绘并描述了各种各样的物体和场景。我们从手动策划的FuSoddits集中收集数据，这为粗略图像标签提供给粗略图像标签，并允许我们转向数据集组合而不标记单个实例。我们展示Redcaps培训的标题模型产生了人类优选的丰富和各种标题，并学习转移到许多下游任务的视觉表现。

无监督的域适应性通过将模型从标记的源域转移到未标记的目标域来证明减轻域移动的巨大潜力。尽管无监督的域适应已应用于各种复杂的视力任务，但只有很少的作品专注于自动驾驶的车道检测。这可以归因于缺乏公开可用的数据集。为了促进这些方向的研究，我们提出了Carlane，Carlane是用于2D车道检测的3条SIM到真实域的适应基准。 Carlane包括单目标数据集Molane和Tulane以及多目标数据集Mulane。这些数据集由三个不同的域构建，这些域涵盖了不同的场景，并包含163K唯一图像，其中118K被注释。此外，我们评估和报告系统的基线，包括我们自己的方法，这些方法基于典型的跨域自学学习。我们发现，与完全监督的基线相比，评估域适应方法的假阳性和假阴性率很高。这肯定了对卡莱恩等基准的必要性，以进一步加强无监督的领域适应道的研究。 Carlane，所有评估的模型和相应的实现都可以在https://carlanebench.github.io上公开获得。