原始收集的培训数据通常带有从多个不完美的注释器中收集的单独的嘈杂标签（例如，通过众包）。通常，首先将单独的嘈杂标签汇总为一个，并应用标准培训方法。文献还广泛研究了有效的聚合方法。本文重新审视了此选择，并旨在为一个问题提供一个答案，即是否应该将单独的嘈杂标签汇总为单个单个标签或单独使用它们作为给定标签。我们从理论上分析了许多流行损失功能的经验风险最小化框架下的两种方法的性能，包括专门为使用嘈杂标签学习的问题而设计的损失功能。我们的定理得出的结论是，当噪声速率较高时，标签分离优于标签聚集，或者标记器/注释的数量不足。广泛的经验结果证明了我们的结论。

皮肤病变的准确和公正检查对于早期诊断和治疗皮肤疾病至关重要。皮肤病变的视觉特征明显差异，因为图像是通过使用不同的成像设备从具有不同病变颜色和形态的患者中收集的。最近的研究报告说，结合卷积神经网络（CNN）是实用的，可以对图像进行分类以早期诊断皮肤疾病。但是，这些连接的CNN的实际使用受到限制，因为这些网络是重量级的，并且不足以处理上下文信息。尽管开发了轻量级网络（例如MobileNetV3和ExcilityNet），以减少参数来实现移动设备上的深神经网络，但功能表示深度不足会限制性能。为了解决现有的局限性，我们开发了一个新的精简神经网络，即Hierattn。 Hierattn采用了一种新颖的深度监督策略，通过使用只有一种训练损失的多阶段和多分支注意力机制来学习本地和全球特征。通过使用皮肤镜图像数据集ISIC2019和智能手机照片数据集PAD-FIFES-20（PAD2020）评估Hierattn的功效。实验结果表明，Hierattn在最先进的轻量级网络中达到了曲线（AUC）下最佳的精度和面积。该代码可从https://github.com/anthonyweidai/hierattn获得。

头发编辑是计算机视觉和图形中有趣和挑战的问题。许多现有方法需要粗略的草图或掩码作为用于编辑的条件输入，但是这些交互既不直接也不高效。为了从繁琐的相互作用过程中获取用户，本文提出了一种新的头发编辑交互模式，其能够基于用户提供的文本或参考图像单独地或共同地操纵头发属性。为此目的，我们通过利用对比语言图像预训练（剪辑）模型的强大图像文本表示能力来编码共享嵌入空间中的图像和文本条件，并提出统一的头发编辑框架。通过精心设计的网络结构和丢失功能，我们的框架可以以脱谕方式执行高质量的头发编辑。广泛的实验在操纵准确性，编辑结果的视觉现实主义和无关的属性保存方面表现出我们的方法的优越性。项目repo是https://github.com/wty-ustc/hairclip。

视频（TSGV）任务接地的时间句是从未过时的视频定位一个时间矩，以匹配语言查询，即句子。在不考虑时刻注释（例如，视频中的开始和结束位置），许多模型倾向于捕获瞬间注释的统计规则，并且在视频和语言查询之间不好学习跨模型推理。在本文中，我们提出了两种脱叠策略，数据脱叠和模型脱模，以“强制”TSGV模型以捕获跨模型交互。数据脱叠通过视频截断执行数据，以平衡列车集中的时刻时间分布。模型扩展利用视频仅限视频和仅查询模型来捕获分布偏差，并强制模型学习跨模型交互。使用VSLNET作为基础模型，我们会评估两个策略对包含分发超出测试实例的数据集的影响。结果表明，两种策略在提高模型泛化能力方面都是有效的。 vslnet配备了脱叠策略，VSLNET在两个数据集上实现了最佳结果。

AI正在经历范式转变，随着模型的兴起（例如Bert，Dall-E，GPT-3），这些模型经过大规模的数据训练，并且可以适应广泛的下游任务。我们称这些模型基础模型来强调其至关重要但不完整的特征。该报告提供了基础模型的机会和风险的详尽说明，包括其功能（例如语言，愿景，机器人技术，推理，人类互动）和技术原则（例如，模型架构，培训程序，数据，系统，安全，安全性，评估，理论）对其应用（例如法律，医疗保健，教育）和社会影响（例如不平等，滥用，经济和环境影响，法律和道德考虑）。尽管基础模型基于标准的深度学习和转移学习，但它们的规模导致了新的新兴能力，以及它们在许多任务中的有效性都激发了同质化。同质化提供了强大的杠杆作用，但要求谨慎，因为基础模型的缺陷均由下游的所有适应模型继承。尽管即将广泛地部署基础模型，但我们目前对它们的工作方式，失败以及由于其新兴属性的影响而缺乏清晰的了解。为了解决这些问题，我们认为基础模型的许多批判性研究都需要与他们的基本社会技术性质相称。

在本文中，我们通过利用全新监督学习来推进面部表情识别（FER）的表现。本领域技术的当前状态通常旨在通过具有有限数量的样本的培训模型来识别受控环境中的面部表达。为了增强学习模型的各种场景的稳健性，我们建议通过利用标记的样本以及大量未标记的数据来执行全能监督学习。特别是，我们首先使用MS-CeleB-1M作为面部池，其中包括大约5,822k未标记的面部图像。然后，采用基于少量标记样品的原始模型来通过进行基于特征的相似性比较来选择具有高度自信心的样本。我们发现以这种全局监督方式构建的新数据集可以显着提高学习的FER模型的泛化能力，并因此提高了性能。然而，随着使用更多的训练样本，需要更多的计算资源和培训时间，在许多情况下通常不能实惠。为了减轻计算资源的要求，我们进一步采用了数据集蒸馏策略，以将目标任务相关知识从新的开采样本中蒸馏，并将其压缩成一组非常小的图像。这种蒸馏的数据集能够提高FER的性能，额外的额外计算成本。我们在五个流行的基准和新构造的数据集中执行广泛的实验，其中可以使用所提出的框架在各种设置下实现一致的收益。我们希望这项工作作为一个坚实的基线，并帮助缓解FER的未来研究。

Masked image modeling (MIM) performs strongly in pre-training large vision Transformers (ViTs). However, small models that are critical for real-world applications cannot or only marginally benefit from this pre-training approach. In this paper, we explore distillation techniques to transfer the success of large MIM-based pre-trained models to smaller ones. We systematically study different options in the distillation framework, including distilling targets, losses, input, network regularization, sequential distillation, etc, revealing that: 1) Distilling token relations is more effective than CLS token- and feature-based distillation; 2) An intermediate layer of the teacher network as target perform better than that using the last layer when the depth of the student mismatches that of the teacher; 3) Weak regularization is preferred; etc. With these findings, we achieve significant fine-tuning accuracy improvements over the scratch MIM pre-training on ImageNet-1K classification, using all the ViT-Tiny, ViT-Small, and ViT-base models, with +4.2%/+2.4%/+1.4% gains, respectively. Our TinyMIM model of base size achieves 52.2 mIoU in AE20K semantic segmentation, which is +4.1 higher than the MAE baseline. Our TinyMIM model of tiny size achieves 79.6% top-1 accuracy on ImageNet-1K image classification, which sets a new record for small vision models of the same size and computation budget. This strong performance suggests an alternative way for developing small vision Transformer models, that is, by exploring better training methods rather than introducing inductive biases into architectures as in most previous works. Code is available at https://github.com/OliverRensu/TinyMIM.

Given the increasingly intricate forms of partial differential equations (PDEs) in physics and related fields, computationally solving PDEs without analytic solutions inevitably suffers from the trade-off between accuracy and efficiency. Recent advances in neural operators, a kind of mesh-independent neural-network-based PDE solvers, have suggested the dawn of overcoming this challenge. In this emerging direction, Koopman neural operator (KNO) is a representative demonstration and outperforms other state-of-the-art alternatives in terms of accuracy and efficiency. Here we present KoopmanLab, a self-contained and user-friendly PyTorch module of the Koopman neural operator family for solving partial differential equations. Beyond the original version of KNO, we develop multiple new variants of KNO based on different neural network architectures to improve the general applicability of our module. These variants are validated by mesh-independent and long-term prediction experiments implemented on representative PDEs (e.g., the Navier-Stokes equation and the Bateman-Burgers equation) and ERA5 (i.e., one of the largest high-resolution data sets of global-scale climate fields). These demonstrations suggest the potential of KoopmanLab to be considered in diverse applications of partial differential equations.

In this chapter, we review and discuss the transformation of AI technology in HCI/UX work and assess how AI technology will change how we do the work. We first discuss how AI can be used to enhance the result of user research and design evaluation. We then discuss how AI technology can be used to enhance HCI/UX design. Finally, we discuss how AI-enabled capabilities can improve UX when users interact with computing systems, applications, and services.

We present the interpretable meta neural ordinary differential equation (iMODE) method to rapidly learn generalizable (i.e., not parameter-specific) dynamics from trajectories of multiple dynamical systems that vary in their physical parameters. The iMODE method learns meta-knowledge, the functional variations of the force field of dynamical system instances without knowing the physical parameters, by adopting a bi-level optimization framework: an outer level capturing the common force field form among studied dynamical system instances and an inner level adapting to individual system instances. A priori physical knowledge can be conveniently embedded in the neural network architecture as inductive bias, such as conservative force field and Euclidean symmetry. With the learned meta-knowledge, iMODE can model an unseen system within seconds, and inversely reveal knowledge on the physical parameters of a system, or as a Neural Gauge to "measure" the physical parameters of an unseen system with observed trajectories. We test the validity of the iMODE method on bistable, double pendulum, Van der Pol, Slinky, and reaction-diffusion systems.