Facial Expression Recognition (FER) in the wild is an extremely challenging task. Recently, some Vision Transformers (ViT) have been explored for FER, but most of them perform inferiorly compared to Convolutional Neural Networks (CNN). This is mainly because the new proposed modules are difficult to converge well from scratch due to lacking inductive bias and easy to focus on the occlusion and noisy areas. TransFER, a representative transformer-based method for FER, alleviates this with multi-branch attention dropping but brings excessive computations. On the contrary, we present two attentive pooling (AP) modules to pool noisy features directly. The AP modules include Attentive Patch Pooling (APP) and Attentive Token Pooling (ATP). They aim to guide the model to emphasize the most discriminative features while reducing the impacts of less relevant features. The proposed APP is employed to select the most informative patches on CNN features, and ATP discards unimportant tokens in ViT. Being simple to implement and without learnable parameters, the APP and ATP intuitively reduce the computational cost while boosting the performance by ONLY pursuing the most discriminative features. Qualitative results demonstrate the motivations and effectiveness of our attentive poolings. Besides, quantitative results on six in-the-wild datasets outperform other state-of-the-art methods.

Monocular depth estimation has been actively studied in fields such as robot vision, autonomous driving, and 3D scene understanding. Given a sequence of color images, unsupervised learning methods based on the framework of Structure-From-Motion (SfM) simultaneously predict depth and camera relative pose. However, dynamically moving objects in the scene violate the static world assumption, resulting in inaccurate depths of dynamic objects. In this work, we propose a new method to address such dynamic object movements through monocular 3D object detection. Specifically, we first detect 3D objects in the images and build the per-pixel correspondence of the dynamic pixels with the detected object pose while leaving the static pixels corresponding to the rigid background to be modeled with camera motion. In this way, the depth of every pixel can be learned via a meaningful geometry model. Besides, objects are detected as cuboids with absolute scale, which is used to eliminate the scale ambiguity problem inherent in monocular vision. Experiments on the KITTI depth dataset show that our method achieves State-of-The-Art performance for depth estimation. Furthermore, joint training of depth, camera motion and object pose also improves monocular 3D object detection performance. To the best of our knowledge, this is the first work that allows a monocular 3D object detection network to be fine-tuned in a self-supervised manner.

二进制神经网络（BNNS）对现实世界中嵌入式设备显示出巨大的希望。作为实现强大BNN的关键步骤之一，规模因子计算在减少其实价对应物的性能差距方面起着至关重要的作用。然而，现有的BNN忽略了实价重量和尺度因子的固有双线关系，从而导致训练过程不足引起的亚最佳模型。为了解决这个问题，提出了复发性双线性优化，以通过将固有的双线性变量关联到背面传播过程中，以改善BNNS（RBONN）的学习过程。我们的工作是从双线性角度优化BNN的首次尝试。具体而言，我们采用经常​​性优化和密度 - 列表来依次回溯稀疏的实价过滤器，该过滤器将经过充分的训练并基于可控的学习过程达到其性能限制。我们获得了强大的rbonn，在各种模型和数据集上的最先进的BNN上表现出令人印象深刻的性能。特别是，在对象检测的任务下，rbonn具有出色的概括性能。我们的代码在https://github.com/stevetsui/rbonn上进行开源。

人类可以不断学习新知识。但是，在学习新任务后，机器学习模型在以前的任务上的性能急剧下降。认知科学指出，类似知识的竞争是遗忘的重要原因。在本文中，我们根据大脑的元学习和关联机制设计了一个用于终身学习的范式。它从两个方面解决了问题：提取知识和记忆知识。首先，我们通过背景攻击破坏样本的背景分布，从而增强了模型以提取每个任务的关键特征。其次，根据增量知识和基础知识之间的相似性，我们设计了增量知识的自适应融合，这有助于模型将能力分配到不同困难的知识。理论上分析了所提出的学习范式可以使不同任务的模型收敛到相同的最优值。提出的方法已在MNIST，CIFAR100，CUB200和ImagEnet100数据集上进行了验证。

视频异常检测（VAD）是计算机视觉中的重要主题。本文通过最新的自我监督学习进展的激励，通过解决直观而又具有挑战性的借口任务，即时空拼图拼图来解决VAD，该任务是一个多标签的精细粒度分类问题。我们的方法比现有作品具有几个优点：1）时空拼图难题是根据空间和时间维度分离的，分别捕获了高度歧视性的外观和运动特征； 2）完全排列用于提供涵盖各种难度水平的丰富拼图难题，从而使网络能够区分正常事件和异常事件之间的细微时空差异； 3）借口任务以端到端的方式解决，而无需依赖任何预训练的模型。我们的方法优于三个公共基准的最先进的方法。尤其是在上海校园中，其结果优于重建和基于预测的方法。

人重新识别（REID）与跨不同相机的行人相匹配。采用真实功能描述符的现有REID方法已经达到了很高的精度，但是由于缓慢的欧几里得距离计算以及复杂的快速算法，它们的效率很低。最近，一些作品建议生产二进制编码的人描述符，而这些描述符仅需要快速锤击距离计算和简单的计数算法。但是，考虑到稀疏的二进制空间，这种二进制编码的描述符的性能，尤其是使用短代码（例如32位和64位）的性能几乎是令人满意的。为了在模型的准确性和效率之间取得平衡，我们提出了一种新颖的子空间一致性（SCR）算法，该算法可以比在相同维度下的实现功能，同时维持竞争精度，比实际价值的功能加快REID程序的$ 0.25 $倍。尤其是在简短的代码下。 SCR转换实价特征向量（例如，2048 Float32），带有简短的二进制代码（例如64位），首先将房地产品向量向量向量矢量分为$ M $子空间，每个vector vector vector vector value value value value value value value value value value value value coppection vetor vector vector vector vector vector vection velets velects velects velects velects vare cob $ m $ subpaces。因此，两个样品之间的距离可以表示为与质心相应距离的求和，可以通过离线计算加速并通过查找表维护。另一方面，与使用二进制代码相比，这些真实价值的质心有助于实现明显更高的准确性。最后，我们将距离查找表转换为整数，并应用计数算法以加快排名阶段。我们还提出了一个具有迭代框架的新型一致性正则化。 Market-1501和Dukemtmc-Reid的实验结果显示出令人鼓舞和令人兴奋的结果。在简短的代码下，我们拟议的SCR享有真实价值的准确性和哈希级速度。

由于肿瘤的异质性，在个性化的基础上预测抗癌药物的临床结局在癌症治疗中具有挑战性。已经采取了传统的计算努力来建模药物反应对通过其分子概况描绘的单个样品的影响，但由于OMICS数据的高维度而发生过度拟合，因此阻碍了临床应用的模型。最近的研究表明，深度学习是通过学习药物和样品之间的学习对准模式来建立药物反应模型的一种有前途的方法。但是，现有研究采用了简单的特征融合策略，仅考虑了整个药物特征，同时忽略了在对齐药物和基因时可能起着至关重要的作用的亚基信息。特此在本文中，我们提出了TCR（基于变压器的癌症药物反应网络），以预测抗癌药物反应。通过利用注意机制，TCR能够在我们的研究中有效地学习药物原子/子结构和分子特征之间的相互作用。此外，设计了双重损耗函数和交叉抽样策略，以提高TCR的预测能力。我们表明，TCR在所有评估矩阵上（一些具有显着改进）的各种数据分裂策略下优于所有其他方法。广泛的实验表明，TCR在独立的体外实验和体内实际患者数据上显示出显着提高的概括能力。我们的研究强调了TCR的预测能力及其对癌症药物再利用和精度肿瘤治疗的潜在价值。

模型不合时宜的元学习（MAML）是一种著名的少数学习方法，它启发了许多后续工作，例如Anil和Boil。但是，作为一种归纳方法，MAML无法完全利用查询集的信息，从而限制了其获得更高通用性的潜力。为了解决这个问题，我们提出了一种简单而有效的方法，该方法可以适应性地生成伪标记，并可以提高MAML家族的性能。所提出的方法，被称为生成伪标签的MAML（GP-MAML），GP-Anil和GP-Boil，是查询的杠杆统计数据，以提高新任务的性能。具体而言，我们自适应地添加伪标签并从查询集中挑选样品，然后使用挑选的查询样品和支持集对模型进行重新训练。 GP系列还可以使用伪查询集中的信息在元测试过程中重新培训网络。尽管某些转导方法（例如跨传播网络（TPN））努力实现这一目标。

作为“进化计算研究中的新领域”，进化转移优化（ETO）将克服传统的零重复利用相关经验和知识的范式，这些范式在进化计算研究中解决了过去的问题。在通过ETO的计划申请中，可以为智能调度和绿色日程安排形成一个非常吸引人且高度竞争的框架“会议”，尤其是对于来自中国的“碳中立性”的誓言。据我们所知，当多目标优化问题“满足”离散案例中的单目标优化问题（而不是多任务优化）时，我们在此处安排的论文是一类ETO框架的第一项工作。更具体地说，可以通过新的核心转移机制和学习技巧来使用用于置换流程调度问题（PFSP）的新核心转移机制和学习技术，可以使用用于工业应用传达的关键知识，例如具有遗传算法的位置构建块。关于良好研究基准的广泛研究验证了我们提出的ETO-PFSP框架的企业有效性和巨大的普遍性。我们的调查（1）丰富了ETO框架，（2）有助于遗传算法和模因算法的基本基础的经典和基本理论，（3）（3）朝着通过范例和范式进行学习的范式进行进化调整的范式转移，中国“工业情报”的“基于知识和建筑块的计划”（KAB2S）。

指导可学习的参数优化的一种吸引人的方法，例如特征图，是全球关注，它以成本的一小部分启发了网络智能。但是，它的损失计算过程仍然很短：1）我们只能产生一维的“伪标签”，因为该过程中涉及的人工阈值不健壮； 2）等待损失计算的注意力必然是高维的，而通过卷积减少它将不可避免地引入其他可学习的参数，从而使损失的来源混淆。为此，我们设计了一个基于软磁性注意的简单但有效的间接注意力优化（IIAO）模块，该模块将高维注意图转换为数学意义上的一维功能图，以通过网络中途进行损失计算，同时自动提供自适应多尺度融合以配备金字塔模块。特殊转化产生相对粗糙的特征，最初，区域的预测性谬误性随着人群的密度分布而变化，因此我们定制区域相关损失（RCLOSS）以检索连续错误的错误区域和平滑的空间信息。广泛的实验证明，我们的方法在许多基准数据集中超过了先前的SOTA方法。