Optimization in multi-task learning (MTL) is more challenging than single-task learning (STL), as the gradient from different tasks can be contradictory. When tasks are related, it can be beneficial to share some parameters among them (cooperation). However, some tasks require additional parameters with expertise in a specific type of data or discrimination (specialization). To address the MTL challenge, we propose Mod-Squad, a new model that is Modularized into groups of experts (a 'Squad'). This structure allows us to formalize cooperation and specialization as the process of matching experts and tasks. We optimize this matching process during the training of a single model. Specifically, we incorporate mixture of experts (MoE) layers into a transformer model, with a new loss that incorporates the mutual dependence between tasks and experts. As a result, only a small set of experts are activated for each task. This prevents the sharing of the entire backbone model between all tasks, which strengthens the model, especially when the training set size and the number of tasks scale up. More interestingly, for each task, we can extract the small set of experts as a standalone model that maintains the same performance as the large model. Extensive experiments on the Taskonomy dataset with 13 vision tasks and the PASCAL-Context dataset with 5 vision tasks show the superiority of our approach.

Deep Neural Networks (DNNs) are vulnerable to the black-box adversarial attack that is highly transferable. This threat comes from the distribution gap between adversarial and clean samples in feature space of the target DNNs. In this paper, we use Deep Generative Networks (DGNs) with a novel training mechanism to eliminate the distribution gap. The trained DGNs align the distribution of adversarial samples with clean ones for the target DNNs by translating pixel values. Different from previous work, we propose a more effective pixel level training constraint to make this achievable, thus enhancing robustness on adversarial samples. Further, a class-aware feature-level constraint is formulated for integrated distribution alignment. Our approach is general and applicable to multiple tasks, including image classification, semantic segmentation, and object detection. We conduct extensive experiments on different datasets. Our strategy demonstrates its unique effectiveness and generality against black-box attacks.

Modern retrieval system often requires recomputing the representation of every piece of data in the gallery when updating to a better representation model. This process is known as backfilling and can be especially costly in the real world where the gallery often contains billions of samples. Recently, researchers have proposed the idea of Backward Compatible Training (BCT) where the new representation model can be trained with an auxiliary loss to make it backward compatible with the old representation. In this way, the new representation can be directly compared with the old representation, in principle avoiding the need for any backfilling. However, followup work shows that there is an inherent tradeoff where a backward compatible representation model cannot simultaneously maintain the performance of the new model itself. This paper reports our ``not-so-surprising'' finding that adding extra dimensions to the representation can help here. However, we also found that naively increasing the dimension of the representation did not work. To deal with this, we propose Backward-compatible Training with a novel Basis Transformation ($BT^2$). A basis transformation (BT) is basically a learnable set of parameters that applies an orthonormal transformation. Such a transformation possesses an important property whereby the original information contained in its input is retained in its output. We show in this paper how a BT can be utilized to add only the necessary amount of additional dimensions. We empirically verify the advantage of $BT^2$ over other state-of-the-art methods in a wide range of settings. We then further extend $BT^2$ to other challenging yet more practical settings, including significant change in model architecture (CNN to Transformers), modality change, and even a series of updates in the model architecture mimicking the evolution of deep learning models.

深度神经网络的图像分类容易受到对抗性扰动的影响。图像分类可以通过在输入图像中添加人造小且不可察觉的扰动来轻松愚弄。作为最有效的防御策略之一，提出了对抗性训练，以解决分类模型的脆弱性，其中创建了对抗性示例并在培训期间注入培训数据中。在过去的几年中，对分类模型的攻击和防御进行了深入研究。语义细分作为分类的扩展，最近也受到了极大的关注。最近的工作表明，需要大量的攻击迭代来创建有效的对抗性示例来欺骗分割模型。该观察结果既可以使鲁棒性评估和对分割模型的对抗性培训具有挑战性。在这项工作中，我们提出了一种称为SEGPGD的有效有效的分割攻击方法。此外，我们提供了收敛分析，以表明在相同数量的攻击迭代下，提出的SEGPGD可以创建比PGD更有效的对抗示例。此外，我们建议将SEGPGD应用于分割对抗训练的基础攻击方法。由于SEGPGD可以创建更有效的对抗性示例，因此使用SEGPGD的对抗训练可以提高分割模型的鲁棒性。我们的建议还通过对流行分割模型体系结构和标准分段数据集进行了验证。

在语义细分中进行了无监督的域的适应，以减轻对昂贵像素的依赖的依赖。它利用标有标记的源域数据集以及未标记的目标域图像来学习分割网络。在本文中，我们观察到现有的域不变学习框架的两个主要问题。 （1）由于特征分布对齐而分心，网络不能专注于分割任务。 （2）拟合源域数据很好地损害了目标域性能。为了解决这些问题，我们提出了减轻过度拟合源域的脱钩，并使最终模型能够更多地专注于细分任务。此外，我们提出自我歧视（SD），并引入辅助分类器，以使用伪标签学习更多歧视目标域特征。最后，我们建议在线增强自我训练（OEST），以在线方式上下文提高伪标签的质量。实验表明，我们的方法优于现有的最新方法，广泛的消融研究验证了每个组件的有效性。代码可在https://github.com/dvlab-research/decouplenet上找到。

现有的自动数据增强（DA）方法要么忽略根据培训期间目标模型的状态根据目标模型的状态忽略更新DA的参数，要么采用不够有效的更新策略。在这项工作中，我们设计了一种新型的数据增强策略，称为“通用自适应数据增强”（UADA）。与现有方法不同，UADA会根据目标模型在训练过程中根据目标模型的梯度信息自适应地更新DA的参数：给定预定义的DA操作集，我们随机确定培训期间每个数据批次的DA操作的类型和大小，并自适应地更新DA的参数沿损失的梯度方向与DA参数有关。这样，UADA可以增加目标网络的训练损失，而目标网络将从更艰难的样本中学习以改善概括的功能。此外，UADA非常通用，可以在许多任务中使用，例如图像分类，语义分割和对象检测。在CIFAR-10，CIFAR-100，ImageNet，Tiny-Imagenet，CityScapes和VOC07+12上进行了各种模型的广泛实验，以证明我们提出的适应性增强带来了重大的性能改善。

引用图像分割是一种基本愿景 - 语言任务，旨在分割由图像中的自然语言表达式引用的对象。这项任务背后的一个关键挑战是利用引用表达式来突出显示图像中的相关位置。解决此问题的范例是利用强大的视觉语言（“跨模型”）解码器到从视觉编码器和语言编码器独立提取的保险丝特征。最近的方法通过利用变换器作为跨模型解码器，并将变换器在许多其他视觉语言任务中的压倒性成功的同时进行了显着的进步。在这项工作中采用不同的方法，我们表明，通过在视觉变压器编码器网络的中间层中的语言和视觉特征的早期融合，可以实现更好的跨模型对准。通过在视觉特征编码阶段进行跨模型特征融合，我们可以利用变压器编码器的良好相关建模功率，以便挖掘有用的多模态上下文。通过这种方式，用轻型掩模预测器容易地收获精确的分段结果。没有钟声和口哨，我们的方法超越了在Refcoco，Refcoco +和G-Ref上的先前最先进的方法。

远程光学电瓶描绘（RPPG），其目的在没有任何接触的情况下从面部视频测量心脏活动和生理信号，在许多应用中具有很大的潜力（例如，远程医疗保健和情感计算）。最近的深度学习方法专注于利用具有有限时空接收领域的卷积神经网络进行微妙的RPPG线索，这忽略了RPPG建模的远程时空感知和相互作用。在本文中，我们提出了Physformer，基于端到端的视频变换器的架构，以自适应地聚合用于RPPG表示增强的本地和全局时空特征。作为Physformer中的关键模块，时间差异变压器首先提高了具有时间差异引导的全局关注的准周期性RPPG特征，然后优化了局部时空表示免于干扰。此外，我们还提出了标签分配学习和课程学习激发了频域中的动态约束，这为Phyformer和缓解过度装备提供了精心制造的监控。在四个基准数据集上执行综合实验，以显示我们在内部和交叉数据集测试中的卓越性能。一个突出显示的是，与大多数变压器网络不同于大规模数据集预先预订，所提出的Physformer可以从RPPG数据集上从头开始培训，这使得它作为RPPG社区的新型变压器基线。该代码将在https://github.com/zitongyu/physformer释放。

基于深度神经网络的图像分类可以被小和准毫不察觉的扰动的对抗例子误导。此外，在一个分类模型上创建的对抗性示例也可以欺骗另一个不同的模型。逆势实例的可转移性最近吸引了日益增长的利益，因为它使黑盒攻击对分类模型可行。作为分类的延伸，语义细分也有很大的关注其对抗的鲁棒性。然而，尚未系统地研究了对抗模型对分段模型的转移性。在这项工作中，我们深入研究了这个话题。首先，我们探讨了对分类和分割模型的对抗实例的过度现象。与对分类模型的观察结果相比，通过对源模型的过度限制的分类模型进行了限制，我们发现分段上的对抗示例并不总是过度装备源模型。即使呈现过度拟合，逆势实例的可转移也是有限的。我们将限制归因于分段模型的架构性状，即多尺度对象识别。然后，我们提出了一种简单有效的方法，称为动态缩放，克服限制。通过我们的方法实现的高可转移性表明，与先前作品中的观察结果相比，对分割模型的对抗示例可以容易地传递到其他分段模型。我们的分析和提案得到了广泛的实验支持。

我们介绍了一个新的图像分段任务，称为实体分段（ES），该任务旨在在不预测其语义标签的情况下划分图像中的所有视觉实体（对象和填充）。通过删除类标签预测的需要，对此类任务培训的模型可以更多地关注提高分割质量。它具有许多实际应用，例如图像操纵和编辑，其中分割掩模的质量至关重要，但类标签不太重要。我们通过统一的方式调查第一次研究，以调查卷大中心的代表对分割事物和东西的可行性，并显示这种代表在es的背景下非常好。更具体地说，我们提出了一种类似的完全卷积的架构，具有两种新颖的模块，专门设计用于利用es的类无话和非重叠要求。实验表明，在分割质量方面设计和培训的模型显着优于流行的专用Panoptic分段模型。此外，可以在多个数据集的组合中容易地培训ES模型，而无需解决数据集合并中的标签冲突，并且在一个或多个数据集中培训的模型可以概括到未经看管域的其他测试数据集。代码已在https://github.com/dvlab-research/entity发布。