排名已成为双面在线市场的主要界面。许多人指出，排名不仅影响用户的满意度（例如，客户，听众，雇主，旅行者），而且排名中的位置将曝光率分配给排名项目（例如，例如文章，产品，歌曲，求职者，餐馆，酒店）。这已经提出了对项目的公平性问题，大多数现有作品通过将项目的暴露与项目相关性明确链接在一起，从而解决了公平性。但是，我们认为，这种链接功能的任何特定选择都可能很难捍卫，我们表明结果排名仍然不公平。为了避免这些缺点，我们开发了一种植根于公平分裂原则的新的公理方法。这不仅避免了选择链接功能的需求，而且更有意义地量化了对曝光范围之外的项目的影响。我们对统一排名的嫉妒性和主导地位的公理假设，对于公平排名政策，每个项目都应该比其他任何项目的排名分配，并且任何项目都不应受到排名的不利影响。为了计算按照这些公理的公平政策，我们提出了一个与纳什社会福利有关的新排名目标。我们表明，该解决方案已保证其嫉妒性，其对每个项目的统一排名的主导地位以及帕累托的最优性。相比之下，我们表明，基于暴露的公平性可以产生大量嫉妒，并对这些物品产生高度不同的影响。除了这些理论上的结果外，我们还从经验上说明了我们的框架如何控制基于影响的个人项目公平和用户实用程序之间的权衡。

公平性是在算法决策中的重要考虑因素。当具有较高优异的代理人获得比具有较低优点的试剂更差的代理人时，发生不公平。我们的中心点是，不公平的主要原因是不确定性。制定决策的主体或算法永远无法访问代理的真实优点，而是使用仅限于不完全预测优点的代理功能（例如，GPA，星形评级，推荐信）。这些都没有完全捕捉代理人的优点;然而，现有的方法主要基于观察到的特征和结果直接定义公平概念。我们的主要观点是明确地承认和模拟不确定性更为原则。观察到的特征的作用是产生代理商的优点的后部分布。我们使用这个观点来定义排名中近似公平的概念。我们称之为algorithm $ \ phi $ -fair（对于$ \ phi \ in [0,1] $）如果它具有以下所有代理商$ x $和所有$ k $：如果代理商$ x $最高$ k $代理以概率至少为$ \ rho $（根据后部优点分配），那么该算法将代理商在其排名中以概率排名，至少$ \ phi \ rho $。我们展示了如何计算最佳地互惠对校长进行近似公平性的排名。除了理论表征外，我们还提出了对模拟研究中的方法的潜在影响的实证分析。对于真实世界的验证，我们在纸质建议系统的背景下应用了这种方法，我们在KDD 2020会议上建立和界定。

学习 - 排名问题旨在排名，以最大限度地曝光与用户查询相关的那些。这种排名系统的理想特性是保证指定项目组之间的一些公平概念。虽然最近在学习排名系统的背景下审议了公平性，但目前的方法无法提供拟议的排名政策的公平性的担保。本文解决了这一差距，并介绍了智能预测，并优化了公平排名（SPOFR），综合优化和学习框架，以便进行公平受限学习。端到端的SPOFR框架包括受约束的优化子模型，并产生保证的排名策略，以满足公平限制，同时允许对公平实用权概况进行精细控制。SPOFR显示出在既定的性能指标方面显着提高当前最先进的公平学习系统。

虽然传统的排名系统仅关注最大化排名项目的效用，但公平感知的排名系统另外尝试平衡不同保护属性（如性别或种族）的曝光。为了实现这种类型的排名，我们基于分布鲁棒性的第一个原则推导出新的排名系统。我们在选择分布的球员之间制定最小的游戏，以最大限度地提高实用程序，同时满足公平的限制，针对对攻击性匹配统计训练数据的统计数据来最小化实用性。我们表明，我们的方法提供比现有基线方法高度公平的排名更好的效用。

Recommender systems can strongly influence which information we see online, e.g., on social media, and thus impact our beliefs, decisions, and actions. At the same time, these systems can create substantial business value for different stakeholders. Given the growing potential impact of such AI-based systems on individuals, organizations, and society, questions of fairness have gained increased attention in recent years. However, research on fairness in recommender systems is still a developing area. In this survey, we first review the fundamental concepts and notions of fairness that were put forward in the area in the recent past. Afterward, through a review of more than 150 scholarly publications, we present an overview of how research in this field is currently operationalized, e.g., in terms of general research methodology, fairness measures, and algorithmic approaches. Overall, our analysis of recent works points to specific research gaps. In particular, we find that in many research works in computer science, very abstract problem operationalizations are prevalent, and questions of the underlying normative claims and what represents a fair recommendation in the context of a given application are often not discussed in depth. These observations call for more interdisciplinary research to address fairness in recommendation in a more comprehensive and impactful manner.

The fair-ranking problem, which asks to rank a given set of items to maximize utility subject to group fairness constraints, has received attention in the fairness, information retrieval, and machine learning literature. Recent works, however, observe that errors in socially-salient (including protected) attributes of items can significantly undermine fairness guarantees of existing fair-ranking algorithms and raise the problem of mitigating the effect of such errors. We study the fair-ranking problem under a model where socially-salient attributes of items are randomly and independently perturbed. We present a fair-ranking framework that incorporates group fairness requirements along with probabilistic information about perturbations in socially-salient attributes. We provide provable guarantees on the fairness and utility attainable by our framework and show that it is information-theoretically impossible to significantly beat these guarantees. Our framework works for multiple non-disjoint attributes and a general class of fairness constraints that includes proportional and equal representation. Empirically, we observe that, compared to baselines, our algorithm outputs rankings with higher fairness, and has a similar or better fairness-utility trade-off compared to baselines.

In recent years, several metrics have been developed for evaluating group fairness of rankings. Given that these metrics were developed with different application contexts and ranking algorithms in mind, it is not straightforward which metric to choose for a given scenario. In this paper, we perform a comprehensive comparative analysis of existing group fairness metrics developed in the context of fair ranking. By virtue of their diverse application contexts, we argue that such a comparative analysis is not straightforward. Hence, we take an axiomatic approach whereby we design a set of thirteen properties for group fairness metrics that consider different ranking settings. A metric can then be selected depending on whether it satisfies all or a subset of these properties. We apply these properties on eleven existing group fairness metrics, and through both empirical and theoretical results we demonstrate that most of these metrics only satisfy a small subset of the proposed properties. These findings highlight limitations of existing metrics, and provide insights into how to evaluate and interpret different fairness metrics in practical deployment. The proposed properties can also assist practitioners in selecting appropriate metrics for evaluating fairness in a specific application.

推荐系统正面临审查，因为它们对我们可以获得的机会的影响越来越大。目前对公平的审计仅限于敏感群体水平的粗粒度评估。我们建议审核嫉妒 - 狂喜，一个与个别偏好对齐的更精细的标准：每个用户都应该更喜欢他们的建议给其他用户的建议。由于审计要求估计用户超出现有建议的用户的偏好，因此我们将审计作为多武装匪徒的新纯粹探索问题。我们提出了一种采样的效率算法，具有理论上的保证，它不会恶化用户体验。我们还研究了现实世界推荐数据集实现的权衡。

建立公平的推荐系统是一个具有挑战性且至关重要的研究领域，因为它对社会产生了巨大影响。我们将两个普遍公认的公平概念的定义扩展到了推荐系统，即机会平等和均衡的赔率。这些公平措施确保同样对待“合格”（或“不合格”）候选人，无论其受保护的属性状况如何（例如性别或种族）。我们提出了可扩展的方法，以实现机会平等和在存在位置偏见的情况下排名均等的几率，这通常会困扰推荐系统产生的数据。我们的算法是模型不可知论，因为它们仅依赖于模型提供的最终分数，因此很容易适用于几乎所有Web尺度推荐系统。我们进行广泛的模拟以及现实世界实验，以显示我们方法的功效。

We study fair multi-objective reinforcement learning in which an agent must learn a policy that simultaneously achieves high reward on multiple dimensions of a vector-valued reward. Motivated by the fair resource allocation literature, we model this as an expected welfare maximization problem, for some non-linear fair welfare function of the vector of long-term cumulative rewards. One canonical example of such a function is the Nash Social Welfare, or geometric mean, the log transform of which is also known as the Proportional Fairness objective. We show that even approximately optimal optimization of the expected Nash Social Welfare is computationally intractable even in the tabular case. Nevertheless, we provide a novel adaptation of Q-learning that combines non-linear scalarized learning updates and non-stationary action selection to learn effective policies for optimizing nonlinear welfare functions. We show that our algorithm is provably convergent, and we demonstrate experimentally that our approach outperforms techniques based on linear scalarization, mixtures of optimal linear scalarizations, or stationary action selection for the Nash Social Welfare Objective.

在线学习排名（OL2R）近年来吸引了巨大的研究兴趣，因为它在避免在离线监督排名模型学习中避免昂贵的相关标签来吸引昂贵的相关标签。这样的解决方案探讨了未知数（例如，故意呈现顶部位置的选定结果）以改善其相关性估计。然而，这触发了对其排名公平的担忧：不同的物品组可能在OL2R过程中接受差异治疗。但是现有的公平排名解决方案通常需要事先需要了解结果相关性或表演的排名，这与OL2R的设置相矛盾，因此不能直接应用于保证公平性。在这项工作中，我们提出了一般的框架，以实现由奥尔200R小组暴露定义的公平性。关键的想法是为了校准公平控制，相关学习和在线排名质量的探索和开发。特别是，当模型正在探索一组相关性反馈的结果时，我们将探索限制在随机排列的子集中，其中维护跨组的公平性，而反馈仍然不偏见。理论上，我们证明了这种策略在OL2R遗憾地介绍了最小的扭曲，以获得公平性。在两个公共学习中进行了广泛的实证分析，以对基准数据集进行排名，以展示所提出的解决方案的有效性与现有的公平OL2R解决方案相比。

最近的经验工作表明，即使所有广告商以非歧视性方式出价，在线广告也可以在用户交付广告时展示偏见。我们研究了广告拍卖的设计，鉴于公平的出价，保证有关展览会产生公平的结果。遵循DWORK和ILVENTO（2019）和CHAWLA等人的作品。 （2020年），我们的目标是设计一种真实的拍卖，这些拍卖会满足其结果的“个人公平”：非正式地说，相似彼此的用户应该获得类似的广告分配。在本框架内，我们量化了社会福利最大化和公平性之间的权衡。这项工作提出了两个概念贡献。首先，我们将公平约束表达为一种稳定条件：所有广告商的任何两个用户都分配了乘法相似的值，必须为每个广告商接受类似的相似分配。该值稳定性约束表示为函数，该函数将值向量之间的乘法距离映射到相应分配之间的最大允许$ \ {\ infty} $距离。标准拍卖不满足这种价值稳定性。其次，我们介绍了一个新的一类分配算法，称为反比例分配，实现公平和社会福利之间的近似最佳权衡，以实现广泛和表现力的价值稳定条件。这些分配算法是真实的，并且先前的，并且实现了最佳（无约会）社会福利的恒定因素近似。特别地，近似比与系统中的广告商的数量无关。在这方面，这些分配算法极大地超越了以前的工作中实现的保证。我们还将结果扩展到更广泛的公平概念，以至于我们称之为公平性。

我们研究了通过中等数量的成对比较查询引发决策者偏好的问题，以使它们成为特定问题的高质量推荐。我们受到高赌场域中的应用程序的推动，例如选择分配稀缺资源的政策以满足基本需求（例如，用于移植或住房的肾脏，因为那些经历无家可归者），其中需要由（部分）提出引出的偏好。我们在基于偏好的偏好中模拟不确定性，并调查两个设置：a）脱机偏出设置，其中所有查询都是一次，b）在线诱因设置，其中按时间顺序选择查询。我们提出了这些问题的强大优化制剂，这些问题集成了偏好诱导和推荐阶段，其目的是最大化最坏情况的效用或最小化最坏情况的后悔，并研究其复杂性。对于离线案例，在活动偏好诱导与决策信息发现的两个半阶段的稳健优化问题的形式中，我们提供了我们通过列解决的混合二进制线性程序的形式提供了等效的重构。 -Constraint生成。对于在线设置，主动偏好学习采用多级强大优化问题的形式与决策依赖的信息发现，我们提出了一种保守的解决方案方法。合成数据的数值研究表明，我们的方法在最坏情况级别，后悔和效用方面从文献中倾斜最先进的方法。我们展示了我们的方法论如何用于协助无家可归的服务机构选择分配不同类型的稀缺住房资源的政策，以遇到无家可归者。

在上下文土匪中，非政策评估（OPE）已在现实世界中迅速采用，因为它仅使用历史日志数据就可以离线评估新政策。不幸的是，当动作数量较大时，现有的OPE估计器（其中大多数是基于反相反的得分加权）会严重降解，并且可能会遭受极端偏见和差异。这挫败了从推荐系统到语言模型的许多应用程序中使用OPE。为了克服这个问题，我们提出了一个新的OPE估计器，即当动作嵌入在动作空间中提供结构时，利用边缘化的重要性权重。我们表征了所提出的估计器的偏差，方差和平方平方误差，并分析了动作嵌入提供了比常规估计器提供统计益处的条件。除了理论分析外，我们还发现，即使由于大量作用，现有估计量崩溃，经验性绩效的改善也可以实现可靠的OPE。

通常，根据某些固有的价值衡量标准，绩效是定义的。相反，我们考虑一个个人的价值为\ emph {相对}的设置：当决策者（DM）选择一组从人口中的个人来最大化预期效用时，自然考虑\ emph {预期的边际贡献}（每个人的emc）。我们表明，这个概念满足了这种环境公平性的公理定义。我们还表明，对于某些政策结构，这种公平概念与最大化的预期效用保持一致，而对于线性实用程序功能，它与Shapley值相同。但是，对于某些自然政策，例如选择具有一组特定属性的个人的政策（例如，大学入学的足够高考试成绩），精英级和公用事业最大化之间存在权衡。我们根据挪威大学的大学录取和成果，分析了限制对政策对效用和公平性的影响。

由于需要捕捉用户的不断发展的兴趣并优化他们的长期体验，越来越多的推荐系统已经开始模拟推荐作为马尔可夫决策过程，并采用加强学习来解决问题。不应该研究推荐系统的公平性遵循静态评估的相同趋势和一次性干预动态监测和不间断控制吗？在本文中，我们首先描绘了最新的推荐系统的发展，然后讨论了如何烘焙进入强化学习技术以供推荐。此外，我们认为，为了进一步进一步进展，建议公平，我们可能希望考虑多方代（游戏理论）优化，多目标（Pareto）优化和基于仿真的优化，在随机的一般框架中游戏。

在本文中，我们采用一种公理方法来定义满足一组一致性和公平公理的随机组排名。我们表明，这导致了通过合并来自不同敏感人群组的给定排名列表的排名，同时满足了最高等级中每个组的表示下限和上限，从而导致了唯一的分布$ \ MATHCAL {D} $。与确定性排名相比，随机或随机排名在最近的文献中引起了人们的关注。即使存在隐式偏见，不完整的相关信息，或者只有序数排名而不是相关性分数或实用程序值，我们的问题公式即使有效。我们提出了三种算法，以从上面提到的分布$ \ mathcal {d} $中采样一个随机的集体排名。我们的第一个算法样本排名从分配$ \ epsilon $ -close到$ \ nathcal {d} $的总变化距离，并且在所有输入参数中都在运行时间多项式，而$ 1/\ epsilon $，有足够的差距在所有组的上限和下限表示约束之间。我们的第二个算法示例从$ \ Mathcal {d} $恰好在组数量的时间指数中排名。我们的第三个算法从$ \ mathcal {d} $恰好从$ \ mathcal {d} $示例随机组公平排名，并且当每个组的上限和下限之间的差距很小时，比第一个算法更快。我们在实验中验证了上述算法的上述保证，该算法在最高排名中的群体公平性和现实世界数据集的每个等级中的代表性。

内容创作者竞争用户的关注。它们的影响力至关重要取决于开发人员在在线平台上做出的算法选择。为了最大程度地提高曝光率，许多创作者从策略上适应了，如庞大的搜索引擎优化行业这样的例子所证明。这将为有限的用户注意池竞争。我们在所谓的曝光游戏中正式化了这些动态，这是一种由算法引起的激励模型，包括现代化分解和（深）两位塔体系结构。我们证明，看似无害的算法选择 - 例如，非负和不受约束的分解 - 在曝光游戏中（NASH）平衡的存在和特征显着影响。我们将像我们这样的创建者行为模型用于（前ANTE）前部署审核。这样的审核可以确定所需内容和激励内容之间的错位，从而补充了诸如内容过滤和节制之类的事后措施。为此，我们提出了用于在曝光游戏中找到平衡的工具，并说明了Movielens和LastFM数据集的审核结果。除此之外，我们发现策略生产的内容在算法探索和内容多样性之间表现出强烈的依赖，以及模型表达和对基于性别的用户和创建者群体的偏见。

作为一种预测模型的评分系统具有可解释性和透明度的显着优势，并有助于快速决策。因此，评分系统已广泛用于各种行业，如医疗保健和刑事司法。然而，这些模型中的公平问题长期以来一直受到批评，并且使用大数据和机器学习算法在评分系统的构建中提高了这个问题。在本文中，我们提出了一般框架来创建公平知识，数据驱动评分系统。首先，我们开发一个社会福利功能，融入了效率和群体公平。然后，我们将社会福利最大化问题转换为机器学习中的风险最小化任务，并在混合整数编程的帮助下导出了公平感知评分系统。最后，导出了几种理论界限用于提供参数选择建议。我们拟议的框架提供了适当的解决方案，以解决进程中的分组公平问题。它使政策制定者能够设置和定制其所需的公平要求以及其他特定于应用程序的约束。我们用几个经验数据集测试所提出的算法。实验证据支持拟议的评分制度在实现利益攸关方的最佳福利以及平衡可解释性，公平性和效率的需求方面的有效性。

尽管机器学习和基于排名的系统在广泛用于敏感决策过程（例如，确定职位候选者，分配信用评分）时，他们对成果的意外偏见充满了疑虑，这使算法公平（例如，人口统计学公平）平等，机会平等）的目标。 “算法追索”提供了可行的恢复动作，通过修改属性来改变不良结果。我们介绍了排名级别的追索权公平的概念，并开发了一个“追索意识的排名”解决方案，该解决方案满足了排名的追索公平约束，同时最大程度地减少了建议的修改成本。我们的解决方案建议干预措施可以重新排序数据库记录的排名列表并减轻组级别的不公平性；具体而言，子组的不成比例表示和追索权成本不平衡。此重新排列可确定对数据点的最小修改，这些属性修改根据其易于解决方案进行了加权。然后，我们提出了一个有效的基于块的扩展，该扩展可以在任何粒度上重新排序（例如，银行贷款利率的多个括号，搜索引擎结果的多页）。对真实数据集的评估表明，尽管现有方法甚至可能加剧诉求不公平，但我们的解决方案 - raguel-可以显着改善追索性的公平性。 Raguel通过反事实生成和重新排列的结合过程优于改善追索性公平的替代方案，同时对大型数据集保持了有效的效率。