语言是人类交流的主要工具，其中幽默是最有吸引力的部分之一。使用计算机，又称自然语言生成（NLG）的人类产生自然语言，已广泛用于对话系统，聊天机器人，机器翻译以及计算机AID创建，例如Idea Generations，剧本。但是，自然语言的幽默方面相对不足，尤其是在预训练的语言模型时代。在这项工作中，我们旨在初步测试NLG是否可以像人类一样产生幽默。我们构建了一个新的数据集，该数据集由众多数字化的中国可笑的串扰脚本（称为c $^3 $简称），该脚本适用于1800年代以来名为“ Xiangsheng”的流行中国表演艺术。 （为了方便非中国扬声器，我们在本文中称为“ Xiangsheng”的“ Crosstalk”。）我们基准了各种一代方法，包括训练seq2seq，微调中级PLMS和大型PLMS（大型PLMS）（有无微调）。此外，我们还进行了人类评估，表明1）大规模预处理在很大程度上提高了串扰的产生质量； 2）即使是从最佳PLM产生的脚本也远非我们的期望，只有65％的人类创建的串扰质量。我们得出结论，使用大型PLM可以在很大程度上改善幽默的产生，但仍处于起步阶段。 \ url {https://github.com/anonno2/crosstalk-generation}公开可用数据和基准代码。
translated by 谷歌翻译
基于嵌入的方法是知识库问题应答（KBQA）的流行，但目前的型号很少有数值推理技能，从而努力回答序数受约束的问题。本文提出了一种新的基于嵌入的KBQA框架，特别是考虑了数值推理。我们在NSM的顶部呈现NumericalTransformer，以最先进的基于嵌入的KBQA模型，以创建NT-NSM。为了实现更好的培训，我们提出了两个在两个生成的训练数据集上具有明确的数字导向损失功能的预训练任务和基于模板的数据增强方法，用于丰富序数约束QA数据集。关于KBQA基准测试的广泛实验表明，在我们的培训算法的帮助下，NT-NSM具有数值推理技能，并且基本上优于基本的基线在回答序数受约束的问题中。
translated by 谷歌翻译
最近关于多领域面部图像翻译的研究取得了令人印象深刻的结果。现有方法通常提供具有辅助分类器的鉴别器，以施加域转换。但是，这些方法忽略了关于域分布匹配的重要信息。为了解决这个问题，我们提出了一种与更自适应的鉴别器结构和匹配的发电机具有更自适应的鉴别器结构和匹配的发电机之间的开关生成的对抗网络（SwitchGan），以在多个域之间执行精密图像转换。提出了一种特征切换操作以在我们的条件模块中实现特征选择和融合。我们展示了我们模型的有效性。此外，我们还引入了发电机的新功能，该功能代表了属性强度控制，并在没有定制培训的情况下提取内容信息。在视觉上和定量地显示了Morph，RAFD和Celeba数据库的实验，表明我们扩展的SwitchGan（即，门控SwitchGan）可以实现比Stargan，Attgan和Staggan更好的翻译结果。使用培训的Reset-18模型实现的属性分类准确性和使用ImageNet预先预订的Inception-V3模型获得的FIC分数也定量展示了模型的卓越性能。
translated by 谷歌翻译
Multivariate time series forecasting (MTSF) is a fundamental problem in numerous real-world applications. Recently, Transformer has become the de facto solution for MTSF, especially for the long-term cases. However, except for the one forward operation, the basic configurations in existing MTSF Transformer architectures were barely carefully verified. In this study, we point out that the current tokenization strategy in MTSF Transformer architectures ignores the token uniformity inductive bias of Transformers. Therefore, the vanilla MTSF transformer struggles to capture details in time series and presents inferior performance. Based on this observation, we make a series of evolution on the basic architecture of the vanilla MTSF transformer. We vary the flawed tokenization strategy, along with the decoder structure and embeddings. Surprisingly, the evolved simple transformer architecture is highly effective, which successfully avoids the over-smoothing phenomena in the vanilla MTSF transformer, achieves a more detailed and accurate prediction, and even substantially outperforms the state-of-the-art Transformers that are well-designed for MTSF.
translated by 谷歌翻译
We present a strong object detector with encoder-decoder pretraining and finetuning. Our method, called Group DETR v2, is built upon a vision transformer encoder ViT-Huge~\cite{dosovitskiy2020image}, a DETR variant DINO~\cite{zhang2022dino}, and an efficient DETR training method Group DETR~\cite{chen2022group}. The training process consists of self-supervised pretraining and finetuning a ViT-Huge encoder on ImageNet-1K, pretraining the detector on Object365, and finally finetuning it on COCO. Group DETR v2 achieves $\textbf{64.5}$ mAP on COCO test-dev, and establishes a new SoTA on the COCO leaderboard https://paperswithcode.com/sota/object-detection-on-coco
translated by 谷歌翻译
检测变压器（DETR）依赖于一对一的标签分配，即仅分配一个地面真相（GT）对象作为一个阳性对象查询，用于端到端对象检测，并且缺乏利用多个积极查询的能力。我们提出了一种新颖的DETR训练方法，称为{\ em grout detr}，以支持多个积极查询。具体来说，我们将阳性分解为多个独立组，并在每个组中只保留一个阳性对象。我们在培训期间进行了简单的修改：（i）采用$ k $ of Absock Queries； （ii）对具有相同参数的每组对象查询进行解码器自我注意； （iii）为每个组执行一对一的标签分配，从而为每个GT对象提供$ K $阳性对象查询。在推论中，我们只使用一组对象查询，对架构和过程没有任何修改。我们验证了提出的方法对DITR变体的有效性，包括条件DITR，DAB-DER，DN-DEN和DINO。
translated by 谷歌翻译
在本文中，我们对检测变压器（DETR）感兴趣，这是一种基于变压器编码器编码器架构的端到端对象检测方法，而无需手工制作的后处理，例如NMS。受到有条件的Detr的启发，这是一种具有快速训练收敛性的改进的DETR，对内部解码器层提出了盒子查询（最初称为空间查询），我们将对象查询重新将对象查询重新布置为盒子查询的格式，该格式是参考参考嵌入的组成点和框相对于参考点的转换。该重新制定表明在更快地使用R-CNN中广泛研究的DETR中的对象查询与锚固框之间的联系。此外，我们从图像内容中学习了盒子查询，从而进一步提高了通过快速训练收敛的有条件DETR的检测质量。此外，我们采用轴向自我注意的想法来节省内存成本并加速编码器。所得的检测器（称为条件DETR V2）取得比条件DETR更好的结果，可节省内存成本并更有效地运行。例如，对于DC $ 5 $ -Resnet- $ 50 $骨干，我们的方法在可可$ Val $ set上获得了$ 44.8 $ ap，$ 16.4 $ fps和有条件的detr相比，它运行了$ 1.6 \ tims $ $ $ $ $，节省$ 74 $ \ \ \ \ \ \ \ \ \ \ \ \ \ $ 74美元总体内存成本的百分比，并提高$ 1.0 $ ap得分。
translated by 谷歌翻译
全向图像和视频可以在虚拟现实（VR）环境中提供真实世界场景的沉浸式体验。我们在本文中介绍了一项感知全向图像质量评估（IQA）研究，因为在VR环境下提供良好的经验非常重要。我们首先建立一个全向IQA（OIQA）数据库，其中包括16个源图像和320个失真的图像，这些图像被4种通常遇到的失真类型降解，即JPEG压缩，JPEG2000压缩，高斯模糊和高斯噪声。然后，在VR环境中的OIQA数据库上进行了主观质量评估研究。考虑到人类只能在VR环境中的一个运动中看到场景的一部分，因此视觉注意力变得极为重要。因此，我们还在质量评级实验过程中跟踪头部和眼动数据。原始和扭曲的全向图像，主观质量评级以及头部和眼动数据构成了OIQA数据库。在OIQA数据库上测试了最先进的全参考（FR）IQA测量，并进行了一些与传统IQA不同的新观察结果。
translated by 谷歌翻译
深度学习的快速发展在分割方面取得了长足的进步，这是计算机视觉的基本任务之一。但是，当前的细分算法主要取决于像素级注释的可用性，这些注释通常昂贵，乏味且费力。为了减轻这一负担，过去几年见证了越来越多的关注，以建立标签高效，深度学习的细分算法。本文对标签有效的细分方法进行了全面的审查。为此，我们首先根据不同类型的弱标签提供的监督（包括没有监督，粗略监督，不完整的监督和嘈杂的监督和嘈杂的监督），首先开发出一种分类法来组织这些方法，并通过细分类型（包括语义细分）补充，实例分割和全景分割）。接下来，我们从统一的角度总结了现有的标签有效的细分方法，该方法讨论了一个重要的问题：如何弥合弱监督和密集预测之间的差距 - 当前的方法主要基于启发式先导，例如交叉像素相似性，跨标签约束，跨视图一致性，跨图像关系等。最后，我们分享了对标签有效深层细分的未来研究方向的看法。
translated by 谷歌翻译
2022-05-27
世界模型学习基于视觉的交互式系统中动作的后果。但是，在诸如自动驾驶之类的实际情况下，通常存在独立于动作信号的不可控制的动态，因此很难学习有效的世界模型。为了解决这个问题，我们提出了一种新颖的增强学习方法，名为Iso-Dream，该方法在两个方面改善了梦境到控制框架。首先，通过优化逆动力学，我们鼓励世界模型学习隔离状态过渡分支的时空变化的可控和不可控制的来源。其次，我们优化了代理在世界模型的潜在想象中的行为。具体而言，为了估算状态值，我们将不可控制状态推出到未来，并将其与当前可控状态相关联。这样，动态来源的隔离可以极大地使代理商的长期决策受益，例如一种自动驾驶汽车，可以通过预测其他车辆的移动来避免潜在的风险。实验表明，ISO-Dream可以有效地解耦混合动力学，并且在广泛的视觉控制和预测域中明显优于现有方法。
translated by 谷歌翻译