设计机器学习算法准确但公平，而不是基于任何敏感属性进行区分，对于社会接受对关键应用的AI至关重要。在本文中，我们提出了一种新颖的公平表示方法，称为R \'enyi公平信息瓶颈方法（RFIB），该方法包含了代表性的效用，公平性和紧凑性的约束，并将其应用于图像分类。我们方法的一个关键属性是，与大多数先前的工作相比，我们认为人口统计学奇偶ant和均衡的赔率是公平的约束，从而使对这两个标准的满意度更加细致。利用各种方法，我们表明我们的目标产生了涉及经典信息瓶颈（IB）措施的损失函数，并根据r \'enyi nyi nyi差异$ \ alpha $在共同信息上的r \'enyi差异ib术语IB术语测量紧凑度上建立上限在输入及其编码嵌入之间。在三个不同的图像数据集（Eyepacs，celeba和Fairface）上进行实验，我们研究了$ \ alpha $参数的影响以及其他两个可调IB参数对实现效用/公平性权衡目标的影响，并表明$ \ \ \ \ Alpha $参数提供了一个额外的自由度，可用于控制表示的紧凑性。我们使用各种效用，公平性和复合效用/公平指标评估方法的性能，表明RFIB的表现优于当前最新方法。

消除偏见的同时保留所有与任务相关的信息对于公平表示学习方法具有挑战性，因为它们会产生随机或退化表示w.r.t.当敏感属性与标签相关时，标记。现有的作品提议将标签信息注入学习程序以克服此类问题。但是，并不总是满足观察到的标签是清洁的假设。实际上，标签偏见被认为是引起歧视的主要来源。换句话说，公平的预处理方法忽略了在学习过程或评估阶段中标签中编码的歧视。这一矛盾给了学识渊博的表示的公平性。为了避免此问题，我们探讨了以下问题：\ emph {我们可以学习可预测的公平表示，可预测到仅访问不可靠标签的潜在理想公平标签吗？}在这项工作中，我们建议\ textbf {d} e- \ textbf { \ textbf {r} \ textbf {f} ernenses（dbrf）框架的b} iased \ textbf {r} ePresentation学习，该框架将敏感信息从非敏感属性中解散，同时使学习的表示形式可预测到理想的公平标签，而不是观察到的偏见。我们通过信息理论概念（例如相互信息和信息瓶颈）制定了偏见的学习框架。核心概念是，当敏感信息受益于不可靠标签的预测时，DBRF提倡不使用不可靠的标签进行监督。综合数据和现实世界数据的实验结果表明，DBRF有效地学习了对理想标签的偏见表示。

瓶颈问题是一系列重要的优化问题，最近在机器学习和信息理论领域引起了人们的关注。它们被广泛用于生成模型，公平的机器学习算法，对隐私保护机制的设计，并在各种多用户通信问题中作为信息理论性能界限出现。在这项工作中，我们提出了一个普通的优化问题家族，称为复杂性 - 裸露的瓶颈（俱乐部）模型，该模型（i）提供了一个统一的理论框架，该框架将大多数最先进的文献推广到信息理论隐私模型（ii）建立了对流行的生成和判别模型的新解释，（iii）构建了生成压缩模型的新见解，并且（iv）可以在公平的生成模型中使用。我们首先将俱乐部模型作为复杂性约束的隐私性优化问题。然后，我们将其与密切相关的瓶颈问题（即信息瓶颈（IB），隐私渠道（PF），确定性IB（DIB），条件熵瓶颈（CEB）和有条件的PF（CPF）连接。我们表明，俱乐部模型概括了所有这些问题以及大多数其他信息理论隐私模型。然后，我们通过使用神经网络来参数化相关信息数量的变异近似来构建深层俱乐部（DVCLUB）模型。在这些信息数量的基础上，我们提出了监督和无监督的DVClub模型的统一目标。然后，我们在无监督的设置中利用DVClub模型，然后将其与最先进的生成模型（例如变异自动编码器（VAE），生成对抗网络（GAN）以及Wasserstein Gan（WGAN）连接起来，Wasserstein自动编码器（WAE）和对抗性自动编码器（AAE）通过最佳运输（OT）问题模型。然后，我们证明DVCLUB模型也可以用于公平表示学习问题，其目标是在机器学习模型的训练阶段减轻不希望的偏差。我们对彩色命名和Celeba数据集进行了广泛的定量实验，并提供了公共实施，以评估和分析俱乐部模型。

Algorithmic fairness is becoming increasingly important in data mining and machine learning. Among others, a foundational notation is group fairness. The vast majority of the existing works on group fairness, with a few exceptions, primarily focus on debiasing with respect to a single sensitive attribute, despite the fact that the co-existence of multiple sensitive attributes (e.g., gender, race, marital status, etc.) in the real-world is commonplace. As such, methods that can ensure a fair learning outcome with respect to all sensitive attributes of concern simultaneously need to be developed. In this paper, we study the problem of information-theoretic intersectional fairness (InfoFair), where statistical parity, a representative group fairness measure, is guaranteed among demographic groups formed by multiple sensitive attributes of interest. We formulate it as a mutual information minimization problem and propose a generic end-to-end algorithmic framework to solve it. The key idea is to leverage a variational representation of mutual information, which considers the variational distribution between learning outcomes and sensitive attributes, as well as the density ratio between the variational and the original distributions. Our proposed framework is generalizable to many different settings, including other statistical notions of fairness, and could handle any type of learning task equipped with a gradient-based optimizer. Empirical evaluations in the fair classification task on three real-world datasets demonstrate that our proposed framework can effectively debias the classification results with minimal impact to the classification accuracy.

保证AI在不受限制的环境中是一个关键问题。我们的框架解决了域名适应，公平性和反事实分析的AI保证挑战，通过发现和干预对数据（例如天气或照明条件）的变化的因素进行操作，从而显着影响AI模型的稳健性。这里的鲁棒性被理解为模型性能对敏感因素的变化的不敏感性。敏感因素传统上被设置在监督环境中，由此有人知道a-priori（例如，对于公平性，这可能是性别或比赛等因素）。相比之下，我们的动机是现实生活场景，其中较少或没有，实际上是一个关于某些导致模型失败的某些因素的先验。这导致我们考虑各种设置（无监督，域泛化，半监督），其对应于对这些因素的不同程度的不完整知识。因此，我们的两步方法是通过a）发现导致AI系统以无监督的方式失败的敏感因素，然后b）干预模型以减少这些因素的影响。我们的方法考虑了由增强，一致性和对抗性干预（ACAI）组成的3个干预措施。我们展示了对所发现/源极端因素的干预措施，以概括为目标/真实因素。我们还展示了如何在半监督的情况下对某些目标因子标签的半监督方式进行适应性，通过自动化干预选择。实验表明，我们的方法改善了基线模型，关于实现最佳效用与敏感性/鲁棒性权衡。

随着计算机视觉应用程序的最新增长，尚未探索它们的公平和公正性问题。有大量证据表明，训练数据中存在的偏差反映在模型中，甚至放大。图像数据集的许多以前的方法偏见，包括基于增强数据集的模型，在计算上实现的计算昂贵。在这项研究中，我们提出了一个快速有效的模型，以通过重建并最大程度地减少预期变量之间的统计依赖性来消除图像数据集。我们的体系结构包括重建图像的U-NET，并结合了预先训练的分类器，该分类器会惩罚目标属性和受保护属性之间的统计依赖性。我们在Celeba数据集上评估了我们提出的模型，将结果与最先进的偏见方法进行比较，并证明该模型实现了有希望的公平性 - 精确性组合。

深度神经网络用于图像识别任务（例如预测笑脸）的性能会以代表性不足的敏感属性类别降低。我们通过基于人口统计学奇偶校验，均衡赔率和新型的联合会措施的批估计估计来引入公平意识的正规化损失来解决这个问题。对Celeba，UTKFACE和SIIM-ISIC黑色素瘤分类挑战的面部和医学图像进行的实验表明，我们提出的公平性损失对偏置缓解的有效性，因为它们可以改善模型公平，同时保持高分类性能。据我们所知，我们的工作是首次尝试将这些类型的损失纳入端到端培训方案，以减轻视觉属性预测指标的偏见。我们的代码可在https://github.com/nish03/fvap上找到。

随着面部识别使用的平等问题最近，最近追求了很多关注，因此已经对脱叠的深入学习模型进行了更大的努力，以改善少数群体的公平性。但是，仍然没有明确的定义，也没有足够的偏见评估指标进行分析。我们提出了一种信息 - 理论，独立的偏见评估度量，以识别来自普查面部识别系统的学习概念的受保护人口属性的偏差程度。我们的指标与其他方法不同，依赖于分类准确性或检查使用浅网络预测的受保护属性的地面真理和预测标签之间的差异。此外，我们理论上和实验地认为，由于基于神经网络的预测器始终可以找到相关性，所以Logits级丢失不充分解释偏差。此外，我们介绍了一个合成数据集，这些数据集可以减轻某些队列中的样本不足的问题。最后，我们通过在明确的歧视和与其他度量进行比较的情况下呈现优势来建立基准度量，并评估具有所提出的指标的不同脱叠模型的性能。

实际上，决策算法通常经过表现出各种偏见的数据培训。决策者通常旨在根据假定或期望公正的基础真相目标做出决策，即同样分布在社会显着的群体中。在许多实际设置中，无法直接观察到地面真相，相反，我们必须依靠数据中的地面真相（即偏置标签）的有偏见的代理度量。此外，通常会选择性地标记数据，即，即使是有偏见的标签，也仅对获得积极决策的数据的一小部分观察到。为了克服标签和选择偏见，最近的工作提议学习随机性，通过i）在每个时间步长的在线培训新政策，ii）执行公平性作为绩效的限制。但是，现有方法仅使用标记的数据，忽略了大量未标记的数据，因此在不同时间学到的决策策略的不稳定性和差异很大。在本文中，我们提出了一种基于实用公平决策的各种自动编码器的新方法。我们的方法学习了一个无偏的数据表示，利用标记和未标记的数据，并使用表示形式在在线过程中学习策略。使用合成数据，我们从经验上验证我们的方法根据差异较低的地面真相会收敛到最佳（公平）策略。在现实世界实验中，我们进一步表明，我们的培训方法不仅提供了更稳定的学习过程，而且还产生了比以前的方法更高的公平性和效用的政策。

机器学习模型在高赌注应用中变得普遍存在。尽管在绩效方面有明显的效益，但该模型可以表现出对少数民族群体的偏见，并导致决策过程中的公平问题，导致对个人和社会的严重负面影响。近年来，已经开发了各种技术来减轻机器学习模型的偏差。其中，加工方法已经增加了社区的关注，在模型设计期间直接考虑公平，以诱导本质上公平的模型，从根本上减轻了产出和陈述中的公平问题。在本调查中，我们审查了加工偏置减缓技术的当前进展。基于在模型中实现公平的地方，我们将它们分类为明确和隐性的方法，前者直接在培训目标中纳入公平度量，后者重点介绍精炼潜在代表学习。最后，我们在讨论该社区中的研究挑战来讨论调查，以激励未来的探索。

尽管机器学习模式的发展迅速和巨大成功，但广泛的研究暴露了继承潜在歧视和培训数据的社会偏见的缺点。这种现象阻碍了他们在高利益应用上采用。因此，已经采取了许多努力开发公平机器学习模型。其中大多数要求在培训期间提供敏感属性以学习公平的模型。然而，在许多现实世界应用中，由于隐私或法律问题，获得敏感的属性通常是不可行的，这挑战了现有的公平策略。虽然每个数据样本的敏感属性未知，但我们观察到训练数据中通常存在一些与敏感属性高度相关的非敏感功能，这可以用于缓解偏差。因此，在本文中，我们研究了一种探索与学习公平和准确分类器的敏感属性高度相关的特征的新问题。理论上我们通过最小化这些相关特征与模型预测之间的相关性，我们可以学习一个公平的分类器。基于这种动机，我们提出了一种新颖的框架，该框架同时使用这些相关的特征来准确预测和执行公平性。此外，该模型可以动态调整每个相关功能的正则化权重，以平衡其对模型分类和公平性的贡献。现实世界数据集的实验结果证明了拟议模型用于学习公平模型的效力，具有高分类准确性。

At the core of insurance business lies classification between risky and non-risky insureds, actuarial fairness meaning that risky insureds should contribute more and pay a higher premium than non-risky or less-risky ones. Actuaries, therefore, use econometric or machine learning techniques to classify, but the distinction between a fair actuarial classification and "discrimination" is subtle. For this reason, there is a growing interest about fairness and discrimination in the actuarial community Lindholm, Richman, Tsanakas, and Wuthrich (2022). Presumably, non-sensitive characteristics can serve as substitutes or proxies for protected attributes. For example, the color and model of a car, combined with the driver's occupation, may lead to an undesirable gender bias in the prediction of car insurance prices. Surprisingly, we will show that debiasing the predictor alone may be insufficient to maintain adequate accuracy (1). Indeed, the traditional pricing model is currently built in a two-stage structure that considers many potentially biased components such as car or geographic risks. We will show that this traditional structure has significant limitations in achieving fairness. For this reason, we have developed a novel pricing model approach. Recently some approaches have Blier-Wong, Cossette, Lamontagne, and Marceau (2021); Wuthrich and Merz (2021) shown the value of autoencoders in pricing. In this paper, we will show that (2) this can be generalized to multiple pricing factors (geographic, car type), (3) it perfectly adapted for a fairness context (since it allows to debias the set of pricing components): We extend this main idea to a general framework in which a single whole pricing model is trained by generating the geographic and car pricing components needed to predict the pure premium while mitigating the unwanted bias according to the desired metric.

公平性是一个标准，重点是评估不同人口组的算法性能，它引起了自然语言处理，推荐系统和面部识别的关注。由于医学图像样本中有很多人口统计学属性，因此了解公平的概念，熟悉不公平的缓解技术，评估算法的公平程度并认识到医疗图像分析（媒体）中的公平问题中的挑战很重要。在本文中，我们首先给出了公平性的全面和精确的定义，然后通过在媒体中引入当前使用的技术中使用的技术。之后，我们列出了包含人口统计属性的公共医疗图像数据集，以促进公平研究并总结有关媒体公平性的当前算法。为了帮助更好地理解公平性，并引起人们对媒体中与公平性有关的问题的关注，进行了实验，比较公平性和数据失衡之间的差异，验证各种媒体任务中不公平的存在，尤其是在分类，细分和检测以及评估不公平缓解算法的有效性。最后，我们以媒体公平性的机会和挑战得出结论。

Despite being responsible for state-of-the-art results in several computer vision and natural language processing tasks, neural networks have faced harsh criticism due to some of their current shortcomings. One of them is that neural networks are correlation machines prone to model biases within the data instead of focusing on actual useful causal relationships. This problem is particularly serious in application domains affected by aspects such as race, gender, and age. To prevent models from incurring on unfair decision-making, the AI community has concentrated efforts in correcting algorithmic biases, giving rise to the research area now widely known as fairness in AI. In this survey paper, we provide an in-depth overview of the main debiasing methods for fairness-aware neural networks in the context of vision and language research. We propose a novel taxonomy to better organize the literature on debiasing methods for fairness, and we discuss the current challenges, trends, and important future work directions for the interested researcher and practitioner.

We propose an analysis in fair learning that preserves the utility of the data while reducing prediction disparities under the criteria of group sufficiency. We focus on the scenario where the data contains multiple or even many subgroups, each with limited number of samples. As a result, we present a principled method for learning a fair predictor for all subgroups via formulating it as a bilevel objective. Specifically, the subgroup specific predictors are learned in the lower-level through a small amount of data and the fair predictor. In the upper-level, the fair predictor is updated to be close to all subgroup specific predictors. We further prove that such a bilevel objective can effectively control the group sufficiency and generalization error. We evaluate the proposed framework on real-world datasets. Empirical evidence suggests the consistently improved fair predictions, as well as the comparable accuracy to the baselines.

对比性自我监督学习（SSL）学习一个嵌入式空间，该空间将相似的数据对映射到更紧密的数据对，并且不同的数据对较远。尽管成功了，但一个问题被忽略了：使用对比SSL学到的表示的公平方面。在不缓解的情况下，对比度SSL技术可以结合诸如性别或种族之类的敏感信息，并在下游任务上产生不公平的预测。在本文中，我们提出了一种有条件的对比学习（CCL）方法来改善对比度SSL方法的公平性。我们的方法从对敏感属性的分布调节中的分布对正面和负对进行了对阳性和负对采样，或者从经验上讲，从同一性别或同一种族中抽样正面和负面对。我们表明，我们的方法证明可以最大程度地提高正面对学的表示表示之间的条件相互信息，并通过将其作为条件变量来降低敏感属性的效果。在七个公平和视觉数据集上，我们从经验上证明，与无监督的基线相比，所提出的方法可以实现最新的下游性能，并显着提高了对比度SSL模型在多个公平度量方面的公平性。

由于视觉识别的社会影响一直受到审查，因此出现了几个受保护的平衡数据集，以解决不平衡数据集中的数据集偏差。但是，在面部属性分类中，数据集偏置既源于受保护的属性级别和面部属性级别，这使得构建多属性级别平衡的真实数据集使其具有挑战性。为了弥合差距，我们提出了一条有效的管道，以产生具有所需面部属性的高质量和足够的面部图像，并将原始数据集补充为两个级别的平衡数据集，从理论上讲，这在理论上满足了几个公平标准。我们方法的有效性在性别分类和面部属性分类方面得到了验证，通过将可比的任务性能作为原始数据集，并通过广泛的度量标准进行全面的公平评估，并进一步提高公平性。此外，我们的方法优于重采样和平衡的数据集构建来解决数据集偏差，以及解决任务偏置的模型模型。

共同信息（MI）已被广泛用作训练神经网络的损失正规化程序。当学习高维数据的分解或压缩表示时，这特别有效。但是，差异熵（DE）是信息的另一种基本衡量标准，在神经网络培训中尚未发现广泛使用。尽管DE提供了比MI的可能更广泛的应用程序，但现成的DE估计器要么是非可区分的，在计算上是棘手的，要么无法适应基础分布的变化。这些缺点使它们无法在神经网络培训中用作正规化器。为了解决DE先前提出的估计器中的缺点，我们在这里介绍了刀具，这是一个完全参数化的，基于DE的基于核的估计器。我们方法的灵活性还使我们能够为条件（离散变量或连续变量）以及MI构建基于刀的估计器。我们从经验上验证了高维合成数据的方法，并进一步应用它来指导神经网络的现实任务培训。我们对各种任务的实验，包括视觉域的适应性，文本公平分类和文本微调，证明了基于刀的估计的有效性。代码可以在https://github.com/g-pichler/knife上找到。

尽管大规模的经验风险最小化（ERM）在各种机器学习任务中取得了高精度，但公平的ERM受到公平限制与随机优化的不兼容的阻碍。我们考虑具有离散敏感属性以及可能需要随机求解器的可能性大型模型和数据集的公平分类问题。现有的内部处理公平算法在大规模设置中要么是不切实际的，因为它们需要在每次迭代时进行大量数据，要么不保证它们会收敛。在本文中，我们开发了第一个具有保证收敛性的随机内处理公平算法。对于人口统计学，均衡的赔率和公平的机会均等的概念，我们提供了算法的略有变化，称为Fermi，并证明这些变化中的每一个都以任何批次大小收敛于随机优化。从经验上讲，我们表明Fermi适合具有多个（非二进制）敏感属性和非二进制目标的随机求解器，即使Minibatch大小也很小，也可以很好地表现。广泛的实验表明，与最先进的基准相比，FERMI实现了所有经过测试的设置之间的公平违规和测试准确性之间最有利的权衡，该基准是人口统计学奇偶校验，均衡的赔率，均等机会，均等机会。这些好处在小批量的大小和非二元分类具有大量敏感属性的情况下尤其重要，这使得费米成为大规模问题的实用公平算法。

It is important to guarantee that machine learning algorithms deployed in the real world do not result in unfairness or unintended social consequences. Fair ML has largely focused on the protection of single attributes in the simpler setting where both attributes and target outcomes are binary. However, the practical application in many a real-world problem entails the simultaneous protection of multiple sensitive attributes, which are often not simply binary, but continuous or categorical. To address this more challenging task, we introduce FairCOCCO, a fairness measure built on cross-covariance operators on reproducing kernel Hilbert Spaces. This leads to two practical tools: first, the FairCOCCO Score, a normalised metric that can quantify fairness in settings with single or multiple sensitive attributes of arbitrary type; and second, a subsequent regularisation term that can be incorporated into arbitrary learning objectives to obtain fair predictors. These contributions address crucial gaps in the algorithmic fairness literature, and we empirically demonstrate consistent improvements against state-of-the-art techniques in balancing predictive power and fairness on real-world datasets.