在这项工作中，我们专注于改善图像捕获生成系统生成的字幕。我们提出了一种新型的重新排列方法，该方法利用视觉声音措施来确定最大程度地捕获图像中视觉信息的理想标题。我们的重新级别使用了信念修订框架（Blok等，2003），通过明确利用所描绘的标题和视觉上下文之间的语义相关性来校准顶级字幕的原始可能性。我们的实验证明了我们方法的实用性，我们观察到我们的重新级别可以增强典型的图像捕获系统的性能，而无需进行任何额外的培训或微调。
translated by 谷歌翻译
从单个图像中恢复人头的几何形状，同时对材料和照明进行分解是一个严重不良的问题，需要事先解决。基于3D形态模型（3DMM）及其与可区分渲染器的组合的方法已显示出令人鼓舞的结果。但是，3DMM的表现力受到限制，它们通常会产生过度平滑和身份敏捷的3D形状，仅限于面部区域。最近，使用多层感知器参数化几何形状的神经场获得了高度准确的全头部重建。这些表示形式的多功能性也已被证明可有效解开几何形状，材料和照明。但是，这些方法需要几十个输入图像。在本文中，我们介绍了Sira，该方法从单个图像中，从一个图像中重建了具有高保真度几何形状和分解的灯光和表面材料的人头头像。我们的关键成分是基于神经场的两个数据驱动的统计模型，这些模型可以解决单视3D表面重建和外观分解的歧义。实验表明，Sira获得了最新的状态导致3D头重建，同时它成功地解开了全局照明以及弥漫性和镜面反照率。此外，我们的重建适合基于物理的外观编辑和头部模型重新构建。
translated by 谷歌翻译
最近在自动手语理解中的具有挑战性的任务（例如手语识别，翻译和生产）方面取得了重大进展。但是，这些作品集中在相对较少的样本，简短录音以及有限的词汇和签名空间的数据集上。在这项工作中，我们介绍了手语主题检测的新颖任务。我们基于跨越多个语义域的大规模视频数据集的2sign的实验。我们为主题检测的任务提供了强大的基础，并在手语领域常用的不同视觉特征之间进行了比较。
translated by 谷歌翻译
本文解决了人类运动预测的问题，包括预测未来的身体从历史上观察到的序列构成的构成。尽管其性能，但当前的最新方法依赖于任意复杂性的深度学习体系结构，例如经常性神经网络〜（RNN），变压器或图形卷积网络〜（GCN），通常需要多个培训阶段，等等。超过300万参数。在本文中，我们表明，这些方法的性能可以通过轻巧且纯粹的MLP体系结构超越，并且与几种标准实践（例如用离散的余弦变换代表身体姿势（DCT））相结合时，只有0.14亿个参数，预测关节的残留位移和优化速度作为辅助损失。对人类360万的详尽评估，Amass和3DPW数据集表明，我们的方法（我们将其配置为Simlpe）始终优于所有其他方法。我们希望我们的简单方法可以为社区提供强大的基准，并允许重新考虑人类运动预测的问题，以及当前的基准是否确实需要复杂的建筑设计。我们的代码可在\ url {https://github.com/dulucas/simlpe}上获得。
translated by 谷歌翻译
我们提出了一种基于优化的新型范式，用于在图像和扫描上拟合3D人类模型。与直接回归输入图像中低维统计体模型（例如SMPL）的参数的现有方法相反，我们训练了每个vertex神经场网络的集合。该网络以分布式的方式预测基于当前顶点投影处提取的神经特征的顶点下降方向。在推断时，我们在梯度降低的优化管道中采用该网络，称为LVD，直到其收敛性为止，即使将所有顶点初始化为单个点，通常也会以一秒钟的分数出现。一项详尽的评估表明，我们的方法能够捕获具有截然不同的身体形状的穿着的人体，与最先进的人相比取得了重大改进。 LVD也适用于人类和手的3D模型配合，为此，我们以更简单，更快的方法对SOTA显示出显着改善。
translated by 谷歌翻译
在本文中，我们提出了一种新的方法来增强从单个可佩戴相机捕获的视频计算的人的3D身体姿势估计。关键的想法是利用在联合嵌入空间中链接第一和第三次视图的高级功能。为了了解这样的嵌入空间，我们介绍了First2第三姿势，这是一个近2,000个视频的新配对同步数据集，描绘了从第一和第三视角捕获的人类活动。我们明确地考虑了空间和运动域功能，同时使用以自我监督的方式培训的半暹罗架构。实验结果表明，使用我们的数据集学习的联合多视图嵌入式空间可用于从任意单视图的自拍视频中提取歧视特征，而无需需要域适应，也不知道相机参数。在三种监督最先进的方法中，我们在两个无约束数据集中实现了重大改善了两个无约束的数据集。我们的数据集和代码将可用于研究目的。
translated by 谷歌翻译
我们介绍了PhysxNet，一种基于学习的方法来预测可佩戴这些衣服的人类的3D骨架运动序列的可变形衣服的动态。该拟议的模型适用于各种各样的服装和改变拓扑，而无需被烫伤。这种模拟通常由需要手动人类专业知识的物理发动机进行，并且由计算密集的计算进行。相比之下，PhysXNet是一种完全可差的深网络，在推理时能够估计毫秒的致密布网格的几何形状，因此，可以容易地部署为更大的深度学习架构层。由于我们考虑的衣服的特定参数，基于编码空间服装位移的3D UV地图，因此实现了这种效率。然后将该问题制定为人类运动学空间（也由脱衣服的身体网的3D UV地图表示）进入衣服位移UV地图之间的映射，我们使用具有实施可行变形的鉴别器的鉴别器来学习。我们同时训练我们的三种服装模板，顶部，底部和连衣裙，我们模拟了50个不同人类行为的变形。尽管如此，我们认为的UV地图表示允许封装许多不同的布拓扑，并且在测试时，即使我们没有专门为他们训练，我们也可以模拟服装。彻底的评估表明，PhysxNet在非常接近使用物理发动机计算的布变形，打开门，以有效地集成在Deeplearning管道内。
translated by 谷歌翻译
我们从单一的图像处理多的人三维人体姿势和体形估计的问题。虽然这个问题可以通过应用单人对同一场景接近多次来解决，近期的作品都示出的建筑在深深的架构，同时推理通过强制执行，例如，深度为了所有的人都在现场以整体方式的优点限制或重建的机构之间相互渗透最小化。但是，现有的方法仍然无法捕捉所造成的内在的体规模和深度的模糊人的规模变化。在这项工作中，我们处理的，通过强制所有的人的脚留在地面制定是学习的适当机构的规模和相对相机姿态新颖的优化方案，这一挑战。在MuPoTS-3D和3DPW数据集进行彻底的评估表明，我们的做法是能够稳健地估计多的人的身体翻译和形状，而取回自己的空间布置，始终如一改善当前国家的最先进的，尤其是在场面与人非常不同的高度
translated by 谷歌翻译
人类运动预测旨在预测未来的姿势给出了一系列过去的3D骷髅。虽然这个问题最近受到了不断的关注，但它主要是为单身人类而被隔离解决。在本文中，我们在处理执行合作任务时探讨了这个问题，我们寻求预测两个互动者的未来运动给出了他们过去骷髅的两个序列。我们提出了一种新颖的交叉互动注意力，用于利用两个人的历史信息，并学会预测两个姿势序列之间的交叉依赖性。由于没有培训此类交互式情况的数据集，我们收集了Expi（极端姿态互动），这是一个新的基于实验室的人交互数据集，其专业舞者的数据集执行了Lindy-Hop舞蹈动作，其中包含115个序列，其中3D身体带有30k帧的序列。和形状。我们在Expi上彻底评估了我们的交叉交互网络，并表明这两者都在短期和长期预测中，它一直以最优异的方式为单人运动预测的最先进的方法。
translated by 谷歌翻译
Point of View & TimeFigure 1: We propose D-NeRF, a method for synthesizing novel views, at an arbitrary point in time, of dynamic scenes with complex non-rigid geometries. We optimize an underlying deformable volumetric function from a sparse set of input monocular views without the need of ground-truth geometry nor multi-view images. The figure shows two scenes under variable points of view and time instances synthesised by the proposed model.
translated by 谷歌翻译