无源域的适应性（SFDA）旨在通过仅使用预训练的源模型将分类器调整为未标记的目标数据集。但是，缺乏源数据和域移动使目标数据对目标数据的预测不可靠。我们建议量化源模型预测中的不确定性，并利用它来指导目标适应。为此，我们通过在网络参数上合并先验，构建一个概率源模型，从而在模型预测上诱导分布。通过采用拉普拉斯近似值来估算不确定性，并合并以识别不在源歧管中的目标数据点并在最大化目标数据上的共同信息时减少重量。与最近的作品不同，我们的概率处理是计算轻量级，脱离源训练和目标适应，并且不需要专门的源培训或模型体系结构的更改。我们显示了不确定性引导的SFDA比封闭设置和开放式设置中的传统SFDA的优势，并提供了经验证据，即即使没有调整，我们的方法对于强大的域转移也更为强大。

大多数无监督的域适应性（UDA）方法假设在模型适应过程中可用标记的源图像可用。但是，由于机密性问题或移动设备上的内存约束，这种假设通常是不可行的。为了解决这些问题，我们提出了一种简单但有效的无源UDA方法，该方法仅使用预训练的源模型和未标记的目标图像。我们的方法通过合并数据增强并以两个一致性目标训练功能生成器来捕获局部不确定性。鼓励功能生成器从头部分类器的决策边界学习一致的视觉功能。受到自我监督学习的启发，我们的方法促进了预测空间和特征空间之间的空间间比对，同时在特征空间内结合了空间的一致性，以减少源域和目标域之间的域间隙。我们还考虑了认知不确定性，以提高模型适应性能。对流行的UDA基准测试的广泛实验表明，我们的方法的性能是可比甚至优于香草UDA方法，而无需使用源图像或网络修改。

无监督域适应（UDA）旨在将知识从相关但不同的良好标记的源域转移到新的未标记的目标域。大多数现有的UDA方法需要访问源数据，因此当数据保密而不相配在隐私问题时，不适用。本文旨在仅使用培训的分类模型来解决现实设置，而不是访问源数据。为了有效地利用适应源模型，我们提出了一种新颖的方法，称为源假设转移（拍摄），其通过将目标数据特征拟合到冻结源分类模块（表示分类假设）来学习目标域的特征提取模块。具体而言，拍摄挖掘出于特征提取模块的信息最大化和自我监督学习，以确保目标特征通过同一假设与看不见的源数据的特征隐式对齐。此外，我们提出了一种新的标签转移策略，它基于预测的置信度（标签信息），然后采用半监督学习来将目标数据分成两个分裂，然后提高目标域中的较为自信预测的准确性。如果通过拍摄获得预测，我们表示标记转移为拍摄++。关于两位数分类和对象识别任务的广泛实验表明，拍摄和射击++实现了与最先进的结果超越或相当的结果，展示了我们对各种视域适应问题的方法的有效性。代码可用于\ url {https：//github.com/tim-learn/shot-plus}。

无监督的域适应（UDA）处理在标记数据仅适用于不同的源域时对未标记的目标域数据进行分类的问题。不幸的是，由于源数据和目标数据之间的域间隙，常用的分类方法无法充分实现这项任务。在本文中，我们提出了一种新颖的不确定性感知域适应设置，将不确定性模拟在特征空间中的多变量高斯分布。我们表明，我们提出的不确定性测量与其他常见的不确定性量化相关，并涉及平滑分类器的决策边界，从而提高泛化能力。我们在挑战UDA数据集中评估我们提出的管道，实现最先进的结果。我们的方法代码可用于https://gitlab.com/tringwald/cvp。

学习目标域中的未知样本（不存在于源类中）对于无监督域适应（UDA）相当重要。存在两个典型的UDA方案，即开放式和开放式集合，后者假定目标域中并非所有源类都显示在内。但是，大多数先前的方法都是为一个UDA场景而设计的，并且始终在其他UDA方案上表现差。此外，它们还需要在适应过程中标记的源数据，限制其在数据隐私敏感应用中的可用性。为了解决这些问题，本文提出了一种通用模型适应（UMAD）框架，其处理了UDA方案，而无需访问源数据，也不是关于域之间类别的类别的知识。具体而言，我们的目标是使用优雅设计的双头分类器来学习源模型，并将其提供给目标域。在适应期间，我们开发了一种信息丰富的一致性分数，以帮助区分从已知样品中的未知样本。为了在目标域中实现双边适应，我们进一步最大化了局部化的相互信息，以将已知的样本与源分类器对齐，并采用熵丢失，以便分别推动远离源分类边界的未知样本。开放式和开放式的UDA方案的实验表明，umad作为无需访问源数据的统一方法，展示与最先进的数据相关方法的可比性。

无监督的域适应性（DA）中的主要挑战是减轻源域和目标域之间的域移动。先前的DA工作表明，可以使用借口任务来通过学习域不变表示来减轻此域的转移。但是，实际上，我们发现大多数现有的借口任务对其他已建立的技术无效。因此，我们从理论上分析了如何以及何时可以利用子公司借口任务来协助给定DA问题的目标任务并制定客观的子公司任务适用性标准。基于此标准，我们设计了一个新颖的贴纸干预过程和铸造贴纸分类的过程，作为监督的子公司DA问题，该问题与目标任务无监督的DA同时发生。我们的方法不仅改善了目标任务适应性能，而且还促进了面向隐私的无源DA，即没有并发源目标访问。标准Office-31，Office-Home，Domainnet和Visda基准的实验证明了我们对单源和多源无源DA的优势。我们的方法还补充了现有的无源作品，从而实现了领先的绩效。

Source-free domain adaptation aims to adapt a source model trained on fully-labeled source domain data to a target domain with unlabeled target domain data. Source data is assumed inaccessible due to proprietary or privacy reasons. Existing works use the source model to pseudolabel target data, but the pseudolabels are unreliable due to data distribution shift between source and target domain. In this work, we propose to leverage an ImageNet pre-trained feature extractor in a new co-learning framework to improve target pseudolabel quality for finetuning the source model. Benefits of the ImageNet feature extractor include that it is not source-biased and it provides an alternate view of features and classification decisions different from the source model. Such pre-trained feature extractors are also publicly available, which allows us to readily leverage modern network architectures that have strong representation learning ability. After co-learning, we sharpen predictions of non-pseudolabeled samples by entropy minimization. Evaluation on 3 benchmark datasets show that our proposed method can outperform existing source-free domain adaptation methods, as well as unsupervised domain adaptation methods which assume joint access to source and target data.

部署的ML模型的基本要求是从与培训不同的测试分布中汲取的数据概括。解决此问题的一个流行解决方案是，仅使用未标记的数据将预训练的模型调整为新的域。在本文中，我们关注该问题的挑战性变体，其中访问原始源数据受到限制。虽然完全测试时间适应（FTTA）和无监督的域适应性（UDA）密切相关，但由于大多数UDA方法需要访问源数据，因此UDA的进展不容易适用于TTA。因此，我们提出了一种新方法，即Cattan，它通过放松了通过新颖的深层子空间对准策略来放松访问整个源数据的需求，从而弥合了UDA和FTTA。通过为源数据存储的子空间基础设置的最小开销，Cattan在适应过程中可以在源数据和目标数据之间进行无监督的对齐。通过对多个2D和3D Vision基准测试（Imagenet-C，Office-31，OfficeHome，Domainnet，PointDa-10）和模型体系结构进行广泛的实验评估，我们在FTTA性能方面表现出显着提高。此外，即使使用固有健壮的模型，预训练的VIT表示以及目标域中的样本可用性低，我们也会对对齐目标的实用性做出许多关键发现。

Unsupervised domain adaptation (UDA) aims to leverage the knowledge learned from a labeled source dataset to solve similar tasks in a new unlabeled domain. Prior UDA methods typically require to access the source data when learning to adapt the model, making them risky and inefficient for decentralized private data. This work tackles a practical setting where only a trained source model is available and investigates how we can effectively utilize such a model without source data to solve UDA problems. We propose a simple yet generic representation learning framework, named Source HypOthesis Transfer (SHOT). SHOT freezes the classifier module (hypothesis) of the source model and learns the target-specific feature extraction module by exploiting both information maximization and selfsupervised pseudo-labeling to implicitly align representations from the target domains to the source hypothesis. To verify its versatility, we evaluate SHOT in a variety of adaptation cases including closed-set, partial-set, and open-set domain adaptation. Experiments indicate that SHOT yields state-of-the-art results among multiple domain adaptation benchmarks.

Accurate uncertainty quantification is a major challenge in deep learning, as neural networks can make overconfident errors and assign high confidence predictions to out-of-distribution (OOD) inputs. The most popular approaches to estimate predictive uncertainty in deep learning are methods that combine predictions from multiple neural networks, such as Bayesian neural networks (BNNs) and deep ensembles. However their practicality in real-time, industrial-scale applications are limited due to the high memory and computational cost. Furthermore, ensembles and BNNs do not necessarily fix all the issues with the underlying member networks. In this work, we study principled approaches to improve uncertainty property of a single network, based on a single, deterministic representation. By formalizing the uncertainty quantification as a minimax learning problem, we first identify distance awareness, i.e., the model's ability to quantify the distance of a testing example from the training data, as a necessary condition for a DNN to achieve high-quality (i.e., minimax optimal) uncertainty estimation. We then propose Spectral-normalized Neural Gaussian Process (SNGP), a simple method that improves the distance-awareness ability of modern DNNs with two simple changes: (1) applying spectral normalization to hidden weights to enforce bi-Lipschitz smoothness in representations and (2) replacing the last output layer with a Gaussian process layer. On a suite of vision and language understanding benchmarks, SNGP outperforms other single-model approaches in prediction, calibration and out-of-domain detection. Furthermore, SNGP provides complementary benefits to popular techniques such as deep ensembles and data augmentation, making it a simple and scalable building block for probabilistic deep learning. Code is open-sourced at https://github.com/google/uncertainty-baselines

深度神经网络易于对异常值过度自信的预测。贝叶斯神经网络和深度融合都已显示在某种程度上减轻了这个问题。在这项工作中，我们的目标是通过提议预测由高斯混合模型的后续的高斯混合模型来结合这两种方法的益处，该高斯混合模型包括独立培训的深神经网络的LAPPALL近似的加权和。该方法可以与任何一组预先训练的网络一起使用，并且与常规合并相比，只需要小的计算和内存开销。理论上我们验证了我们的方法从训练数据中的培训数据和虚拟化的基本线上的标准不确定量级基准测试中的“远离”的过度控制。

我们在本文中解决了增量无监督域适应（IDA）的新问题。我们假设标记的源域和不同的未标记的目标域通过约束逐步观察到与当前域的数据仅一次可用。目标是为当前域概括为所有过去域的准确性。 IDA设置因域之间的突然差异以及包括源域内的过去数据的不可用。受到生成功能重放的概念的启发，我们提出了一种名为特征重放的增量域适应（Frida）的新颖框架，它利用了一个名为域 - 通用辅助分类GaN（DGAC-GaN）的新的增量生成对抗性网络（GAN）来生产域明确的特征表示无缝。对于域对齐，我们提出了一种简单的扩展名为Dann-Ib的流行域对抗神经网络（Dann），鼓励歧视域 - 不变和任务相关的特征学习。 Office-Home，Office-Caltech和Domainnet数据集的实验结果证实，FIDA维护了卓越的稳定性可塑性权衡，而不是文献。

通用域的适应性（UNIDA）旨在将公共类的知识从源域转移到目标域，而无需对标签集的任何先验知识，这需要将未知样本与目标域中的已知样本区分开。就像传统的无监督域适应问题一样，由于偏见和歧视性较低的嵌入，两个域之间的错位也存在。最新方法提出了通过将目标样品与最近的邻居或原型聚类来完成域未对准的方法。但是，这样做是很危险的，因为我们对未知样本的分布没有任何先验知识，这些样本可以放大错位，尤其是当未知集很大的时候。同时，其他现有基于分类器的方法可以轻松地产生对未知样本的过度自信预测，因为在源域中有监督的目标导致整个模型偏向于目标域中的共同类别。因此，我们提出了一种新型的非参数未知样品检测方法，基于将原始特征空间中的样品映射到可靠的线性子空间中，这使数据点更稀疏，以减少未知样品和源样本之间的不对准。此外，与最近应用额外参数以改善未知样品分类的方法不同，本文通过未知的自适应保证金损失可以很好地平衡已知样品和未知样品的置信值，从而可以控制分类器学习的梯度在有监督的来源上的梯度更新样品取决于当前步骤中检测到的未知样品的置信度。最后，在四个公共数据集上的实验表明，我们的方法显着胜过现有的最新方法。

大多数现代无人监督域适应（UDA）方法源于域对齐，即，学习源和目标功能，使用源标签学习目标域分类器。在半监督域适应（SSDA）中，当学习者可以访问少量目标域标签时，先前的方法遵循UDA理论以使用域对齐进行学习。我们表明SSDA的情况是不同的，并且可以在不需要对齐的情况下学习良好的目标分类器。我们使用自我监督的预测（通过旋转预测）和一致性正则化来实现良好的分开的目标集群，同时在学习低误差目标分类器时。凭借我们预先推价和一致性（PAC）方法，我们在该半监控域适应任务上实现了最新的目标准确性，超过了多个数据集的多个对抗域对齐方法。 PAC，同时使用简单的技术，对DomainNet和Visda-17等大而挑战的SSDA基准进行了非常好的，通常通过相当的边距来表现最近的艺术状态。我们的实验代码可以在https://github.com/venkatesh-saligrama/pac找到

与标准闭合域的适应任务相反，部分域适应设置通过放松相同的标签集假设来迎合现实情况。但是，源标签集集成了目标标签集的事实，因此引入了一些额外的障碍，因为私人源类别样本的培训阻止了相关的知识转移并误导了分类过程。为了减轻这些问题，我们设计了一种机制，用于策略选择高度自信的目标样本，这对于估算班级的体重所必需的必不可少的机制。此外，我们通过将实现紧凑型和不同类别分布的过程与对抗性目标结合过程来捕获类歧视和域的不变特征。对众多跨域分类任务的实验发现证明了所提出的技术具有比现有方法具有卓越和可比精度的潜力。

目标域中的标签放弃使无监督的域适应性（UDA）成为许多现实世界应用中的吸引力技术，尽管它也带来了巨大的挑战，因为没有标记目标数据，模型适应变得更加困难。在本文中，我们通过从目标领域的先验知识中寻求赔偿来解决这个问题，这在实践中通常（部分）可用于人类专业知识。这导致了一个新颖而实用的环境，除了训练数据外，还可以提供有关目标类别分布的一些先验知识。我们将该设置称为知识引导的无监督域适应性（KUDA）。特别是，我们考虑了有关目标域中类别分布的两种特定类型的先验知识：一个描述单个类概率的下层和上限的Unary Bound，以及描述了两个类概率之间关系的二进制关系。我们提出了一个使用此类先验知识来完善模型生成的伪标签的通用整流模块。该模块被配制为从先验知识和光滑的正常化程序中得出的零一编程问题。它可以很容易地插入基于自我训练的UDA方法中，我们将其与两种最先进的方法结合使用，即射击和用餐。四个基准测试的经验结果证实，整流模块显然改善了伪标签的质量，这反过来又受益于自我训练阶段。在先验知识的指导下，两种方法的性能都大大提高。我们希望我们的工作能够激发进一步的调查，以整合UDA的先验知识。代码可在https://github.com/tsun/kuda上找到。

最近，深度学习中的不确定性估计已成为提高安全至关重要应用的可靠性和鲁棒性的关键领域。尽管有许多提出的方法要么关注距离感知模型的不确定性，要么是分布式检测的不确定性，要么是针对分布校准的输入依赖性标签不确定性，但这两种类型的不确定性通常都是必要的。在这项工作中，我们提出了用于共同建模模型和数据不确定性的HETSNGP方法。我们表明，我们提出的模型在这两种类型的不确定性之间提供了有利的组合，因此在包括CIFAR-100C，ImagEnet-C和Imagenet-A在内的一些具有挑战性的分发数据集上优于基线方法。此外，我们提出了HETSNGP Ensemble，这是我们方法的结合版本，该版本还对网络参数的不确定性进行建模，并优于其他集合基线。

无监督域适应（UDA）旨在将知识从标记的源域传输到未标记的目标域。传统上，基于子空间的方法为此问题形成了一类重要的解决方案。尽管他们的数学优雅和易腐烂性，但这些方法通常被发现在产生具有复杂的现实世界数据集的领域不变的功能时无效。由于近期具有深度网络的代表学习的最新进展，本文重新访问了UDA的子空间对齐，提出了一种新的适应算法，始终如一地导致改进的泛化。与现有的基于对抗培训的DA方法相比，我们的方法隔离了特征学习和分配对准步骤，并利用主要辅助优化策略来有效地平衡域不契约的目标和模型保真度。在提供目标数据和计算要求的显着降低的同时，基于子空间的DA竞争性，有时甚至优于几种标准UDA基准测试的最先进的方法。此外，子空间对准导致本质上定期的模型，即使在具有挑战性的部分DA设置中，也表现出强大的泛化。最后，我们的UDA框架的设计本身支持对测试时间的新目标域的逐步适应，而无需从头开始重新检测模型。总之，由强大的特征学习者和有效的优化策略提供支持，我们将基于子空间的DA建立为可视识别的高效方法。

当源（训练）数据和目标（测试）数据之间存在域移动时，深网很容易降级。最近的测试时间适应方法更新了通过流数据部署在新目标环境中的预训练源模型的批归归式层，以减轻这种性能降低。尽管此类方法可以在不首先收集大型目标域数据集的情况下进行调整，但它们的性能取决于流媒体条件，例如迷你批量的大小和类别分布，在实践中可能无法预测。在这项工作中，我们提出了一个框架，以适应几个域的适应性，以应对数据有效适应的实际挑战。具体而言，我们提出了在预训练的源模型中对特征归一化统计量的约束优化，该模型由目标域的小支持集监督。我们的方法易于实现，并改善每类用于分类任务的示例较小的源模型性能。对5个跨域分类和4个语义分割数据集进行了广泛的实验表明，我们的方法比测试时间适应更准确，更可靠，同时不受流媒体条件的约束。

最近，无监督的域适应是一种有效的范例，用于概括深度神经网络到新的目标域。但是，仍有巨大的潜力才能达到完全监督的性能。在本文中，我们提出了一种新颖的主动学习策略，以帮助目标域中的知识转移，有效域适应。我们从观察开始，即当训练（源）和测试（目标）数据来自不同的分布时，基于能量的模型表现出自由能量偏差。灵感来自这种固有的机制，我们经验揭示了一种简单而有效的能源 - 基于能量的采样策略揭示了比需要特定架构或距离计算的现有方法的最有价值的目标样本。我们的算法，基于能量的活动域适应（EADA），查询逻辑数据组，它将域特征和实例不确定性结合到每个选择回合中。同时，通过通过正则化术语对准源域周围的目标数据紧凑的自由能，可以隐含地减少域间隙。通过广泛的实验，我们表明EADA在众所周知的具有挑战性的基准上超越了最先进的方法，具有实质性的改进，使其成为开放世界中的一个有用的选择。代码可在https://github.com/bit-da/eada获得。