对于黑盒攻击，替代模型和受害者模型之间的差距通常很大，这表现为弱攻击性能。通过观察到，可以通过同时攻击多样的模型来提高对抗性示例的可传递性，并提出模型增强方法，这些模型通过使用转换图像模拟不同的模型。但是，空间域的现有转换不会转化为显着多样化的增强模型。为了解决这个问题，我们提出了一种新型的频谱模拟攻击，以针对正常训练和防御模型制作更容易转移的对抗性例子。具体而言，我们将频谱转换应用于输入，从而在频域中执行模型增强。从理论上讲，我们证明了从频域中得出的转换导致不同的频谱显着图，这是我们提出的指标，以反映替代模型的多样性。值得注意的是，我们的方法通常可以与现有攻击结合使用。 Imagenet数据集的广泛实验证明了我们方法的有效性，\ textit {e.g。}，攻击了九个最先进的防御模型，其平均成功率为\ textbf {95.4 \％}。我们的代码可在\ url {https://github.com/yuyang-long/ssa}中获得。

对于视频识别任务，总结了视频片段的整个内容的全局表示为最终性能发挥着重要作用。然而，现有的视频架构通常通过使用简单的全局平均池（GAP）方法来生成它，这具有有限的能力捕获视频的复杂动态。对于图像识别任务，存在证据表明协方差汇总具有比GAP更强的表示能力。遗憾的是，在图像识别中使用的这种普通协方差池是无数的代表，它不能模拟视频中固有的时空结构。因此，本文提出了一个时间 - 细心的协方差池（TCP），插入深度架构结束时，以产生强大的视频表示。具体而言，我们的TCP首先开发一个时间注意力模块，以适应性地校准后续协方差汇集的时空特征，近似地产生细心的协方差表示。然后，时间协方差汇总执行临界协方差表示的时间汇集，以表征校准特征的帧内相关性和帧间互相关。因此，所提出的TCP可以捕获复杂的时间动态。最后，引入了快速矩阵功率归一化以利用协方差表示的几何形状。请注意，我们的TCP是模型 - 不可知的，可以灵活地集成到任何视频架构中，导致TCPNet用于有效的视频识别。使用各种视频架构的六个基准（例如动力学，某事物和电力）的广泛实验显示我们的TCPNet明显优于其对应物，同时具有强大的泛化能力。源代码公开可用。

对抗攻击使他们的成功取得了“愚弄”DNN等，基于梯度的算法成为一个主流。基于线性假设[12]，在$ \ ell_ \ infty $约束下，在梯度上应用于渐变的$符号$操作是生成扰动的良好选择。然而，存在来自这种操作的副作用，因为它导致真实梯度与扰动之间的方向偏差。换句话说，当前方法包含真实梯度和实际噪声之间的间隙，这导致偏置和低效的攻击。因此，在理论上，基于泰勒膨胀，偏差地分析了$ \符号$，即快速梯度非符号法（FGNM）的校正。值得注意的是，FGNM是一般例程，它可以在基于梯度的攻击中无缝地更换传统的$符号$操作，以可忽略的额外计算成本。广泛的实验证明了我们方法的有效性。具体来说，我们的大多数和\ textBF {27.5 \％}平均突出了它们，平均而言。我们的匿名代码是公开可用的：\ url {https://git.io/mm -fgnm}。

在视觉上评估生成的多元时间序列（MT）的优点很难实现，尤其是在生成模型是生成性对抗网络（GAN）的情况下。我们提出了一个名为高斯甘斯（Gaussian Gans）的通用框架，可在MTS生成任务下视觉评估使用自身。首先，我们试图通过明确重建GAN的体系结构来找到多元Kolmogorov Smirnov（MKS）测试中的转换函数。其次，我们进行了转化的MST的正态性测试，其中高斯gan是MKS检验中的转换函数。为了简化正态性测试，使用Chi Square分布提出了有效的可视化。在实验中，我们使用UNIMIB数据集并提供经验证据，表明使用高斯gans和Chi sqaure可视化的正态性测试是有效且可信的。

关节2D心脏分割和3D体积重建是建立统计心脏解剖模型的基础，并了解运动模式的功能机制。但是，由于CINE MR和高主体间方差的平面分辨率低，精确分割心脏图像并重建3D体积是具有挑战性的。在这项研究中，我们提出了一个基于潜在空间的端到端框架DeepRecon，该框架会产生多个临床上基本的结果，包括准确的图像分割，合成高分辨率3D图像和3D重建体积。我们的方法确定了Cine图像的最佳潜在表示，其中包含心脏结构的准确语义信息。特别是，我们的模型共同生成具有准确的语义信息的合成图像，并使用最佳潜在表示对心脏结构进行分割。我们进一步探索了3D形状重建和4D运动模式通过不同的潜在空间操纵策略进行适应的下游应用。同时生成的高分辨率图像具有评估心脏形状和运动的高可解释价值。实验性结果证明了我们的有效性在多个方面的方法，包括2D分割，3D重建，下游4D运动模式适应性。

组合来自多视图图像的信息对于提高自动化方法的疾病诊断方法的性能和鲁棒性至关重要。但是，由于多视图图像的非对齐特性，跨视图的构建相关性和数据融合在很大程度上仍然是一个开放的问题。在这项研究中，我们提出了输血，这是一种基于变压器的体系结构，可使用卷积层和强大的注意机制合并不同的多视图成像信息。特别是，针对丰富的跨视图上下文建模和语义依赖性挖掘，提出了发散的融合注意（DIFA）模块，以解决从不同图像视图中捕获未对齐数据之间的长期相关性的关键问题。我们进一步提出了多尺度注意（MSA），以收集多尺度特征表示的全局对应关系。我们评估了心脏MRI（M \＆MS-2）挑战队列中多疾病，多视图\＆多中心右心室分段的输血。输血表明了针对最先进方法的领先绩效，并为多视图成像集成的新观点打开了稳健的医学图像分割。

自上而下的实例分割框架与自下而上的框架相比，它在对象检测方面表现出了优越性。虽然它有效地解决了过度细分，但自上而下的实例分割却遭受了过度处理问题。然而，完整的分割掩模对于生物图像分析至关重要，因为它具有重要的形态特性，例如形状和体积。在本文中，我们提出了一个区域建议纠正（RPR）模块，以解决这个具有挑战性的分割问题。特别是，我们提供了一个渐进式皇家模块，以逐渐将邻居信息引入一系列ROI。 ROI功能被馈入专门的进料网络（FFN）以进行提案框回归。有了其他邻居信息，提出的RPR模块显示了区域建议位置的校正显着改善，因此与最先进的基线方法相比，在三个生物图像数据集上表现出有利的实例分割性能。实验结果表明，所提出的RPR模块在基于锚固的和无锚的自上而下实例分割方法中有效，这表明该方法可以应用于生物学图像的一般自上而下实例分割。代码可用。

变压器模型不仅在自然语言处理（NLP）中成功，而且还在计算机视觉（CV）中表现出高潜力。尽管提前很大，但大多数作品只关注建筑的改进，但很少关注分类头。多年来，变压器模型专门用于分类令牌来构建最终分类器，而无明确地利用高级字标记。在本文中，我们提出了一种名为二阶变压器（SOT）的新型变压器模型，同时利用分类器的分类令牌和单词令牌。具体地，我们经验披露了高级词令牌包含丰富的信息，其本身是对分类器非常竞争的，而且与分类令牌互补。为了有效地利用这种丰富的信息，我们提出了具有奇异值功率标准化的多头全球交叉协方差汇集，其符合相似的哲学，因此与变压器块兼容，比常用的汇集方法更好。然后，我们全面地研究了如何将单词令牌与分类令牌进行了解，以构建最终分类头。对于CV任务，我们的SOT显着提高了最先进的视觉变压器，以挑战基准，包括想象成和想象力-A。对于NLP任务，通过基于预磨料语言变压器的微调，我们的SOT大大提高了广泛使用的任务等性能，如可乐和RTE。代码将在https://peihuali.org/sot提供

Recently, channel attention mechanism has demonstrated to offer great potential in improving the performance of deep convolutional neural networks (CNNs). However, most existing methods dedicate to developing more sophisticated attention modules for achieving better performance, which inevitably increase model complexity.To overcome the paradox of performance and complexity trade-off, this paper proposes an Efficient Channel Attention (ECA) module, which only involves a handful of parameters while bringing clear performance gain. By dissecting the channel attention module in SENet, we empirically show avoiding dimensionality reduction is important for learning channel attention, and appropriate cross-channel interaction can preserve performance while significantly decreasing model complexity. Therefore, we propose a local crosschannel interaction strategy without dimensionality reduction, which can be efficiently implemented via 1D convolution. Furthermore, we develop a method to adaptively select kernel size of 1D convolution, determining coverage of local cross-channel interaction. The proposed ECA module is efficient yet effective, e.g., the parameters and computations of our modules against backbone of ResNet50 are 80 vs. 24.37M and 4.7e-4 GFLOPs vs. 3.86 GFLOPs, respectively, and the performance boost is more than 2% in terms of Top-1 accuracy. We extensively evaluate our ECA module on image classification, object detection and instance segmentation with backbones of ResNets and MobileNetV2. The experimental results show our module is more efficient while performing favorably against its counterparts.

Masked image modeling (MIM) performs strongly in pre-training large vision Transformers (ViTs). However, small models that are critical for real-world applications cannot or only marginally benefit from this pre-training approach. In this paper, we explore distillation techniques to transfer the success of large MIM-based pre-trained models to smaller ones. We systematically study different options in the distillation framework, including distilling targets, losses, input, network regularization, sequential distillation, etc, revealing that: 1) Distilling token relations is more effective than CLS token- and feature-based distillation; 2) An intermediate layer of the teacher network as target perform better than that using the last layer when the depth of the student mismatches that of the teacher; 3) Weak regularization is preferred; etc. With these findings, we achieve significant fine-tuning accuracy improvements over the scratch MIM pre-training on ImageNet-1K classification, using all the ViT-Tiny, ViT-Small, and ViT-base models, with +4.2%/+2.4%/+1.4% gains, respectively. Our TinyMIM model of base size achieves 52.2 mIoU in AE20K semantic segmentation, which is +4.1 higher than the MAE baseline. Our TinyMIM model of tiny size achieves 79.6% top-1 accuracy on ImageNet-1K image classification, which sets a new record for small vision models of the same size and computation budget. This strong performance suggests an alternative way for developing small vision Transformer models, that is, by exploring better training methods rather than introducing inductive biases into architectures as in most previous works. Code is available at https://github.com/OliverRensu/TinyMIM.