Today, recommender systems have played an increasingly important role in shaping our experiences of digital environments and social interactions. However, as recommender systems become ubiquitous in our society, recent years have also witnessed significant fairness concerns for recommender systems. Specifically, studies have shown that recommender systems may inherit or even amplify biases from historical data, and as a result, provide unfair recommendations. To address fairness risks in recommender systems, most of the previous approaches to date are focused on modifying either the existing training data samples or the deployed recommender algorithms, but unfortunately with limited degrees of success. In this paper, we propose a new approach called fair recommendation with optimized antidote data (FairRoad), which aims to improve the fairness performances of recommender systems through the construction of a small and carefully crafted antidote dataset. Toward this end, we formulate our antidote data generation task as a mathematical optimization problem, which minimizes the unfairness of the targeted recommender systems while not disrupting the deployed recommendation algorithms. Extensive experiments show that our proposed antidote data generation algorithm significantly improve the fairness of recommender systems with a small amounts of antidote data.

在推荐系统中，一个普遍的挑战是冷门问题，在系统中，相互作用非常有限。为了应对这一挑战，最近，许多作品将元优化的想法介绍到建议方案中，即学习仅通过过去的几个交互项目来学习用户偏好。核心想法是为所有用户学习全局共享的元启动参数，并分别为每个用户迅速调整其本地参数。他们的目的是在各种用户的偏好学习中得出一般知识，以便通过博学的先验和少量培训数据迅速适应未来的新用户。但是，以前的作品表明，推荐系统通常容易受到偏见和不公平的影响。尽管元学习成功地通过冷启动提高了推荐性能，但公平性问题在很大程度上被忽略了。在本文中，我们提出了一个名为Clover的全面的公平元学习框架，以确保元学习的推荐模型的公平性。我们系统地研究了三种公平性 - 个人公平，反事实公平和推荐系统中的群体公平，并建议通过多任务对抗学习方案满足所有三种类型。我们的框架提供了一种通用的培训范式，适用于不同的元学习推荐系统。我们证明了三叶草对三个现实世界数据集的代表性元学习用户偏好估计器的有效性。经验结果表明，三叶草可以实现全面的公平性，而不会恶化整体的冷淡建议性能。

Recommender systems can strongly influence which information we see online, e.g., on social media, and thus impact our beliefs, decisions, and actions. At the same time, these systems can create substantial business value for different stakeholders. Given the growing potential impact of such AI-based systems on individuals, organizations, and society, questions of fairness have gained increased attention in recent years. However, research on fairness in recommender systems is still a developing area. In this survey, we first review the fundamental concepts and notions of fairness that were put forward in the area in the recent past. Afterward, through a review of more than 150 scholarly publications, we present an overview of how research in this field is currently operationalized, e.g., in terms of general research methodology, fairness measures, and algorithmic approaches. Overall, our analysis of recent works points to specific research gaps. In particular, we find that in many research works in computer science, very abstract problem operationalizations are prevalent, and questions of the underlying normative claims and what represents a fair recommendation in the context of a given application are often not discussed in depth. These observations call for more interdisciplinary research to address fairness in recommendation in a more comprehensive and impactful manner.

多臂匪徒（MAB）提供了一种原则性的在线学习方法，以达到探索和剥削之间的平衡。由于表现出色和反馈学习低，没有学习在多种情况下采取行动，因此多臂匪徒在诸如推荐系统等应用程序中引起了广泛的关注。同样，在推荐系统中，协作过滤（CF）可以说是推荐系统中最早，最具影响力的方法。至关重要的是，新用户和不断变化的推荐项目池是推荐系统需要解决的挑战。对于协作过滤，经典方法是训练模型离线，然后执行在线测试，但是这种方法无法再处理用户偏好的动态变化，即所谓的冷启动。那么，如何在没有有效信息的情况下有效地向用户推荐项目？为了解决上述问题，已经提出了一个基于多臂强盗的协作过滤推荐系统，名为BanditMF。 BANDITMF旨在解决多军强盗算法和协作过滤中的两个挑战：（1）如何在有效信息稀缺的条件下解决冷启动问题以进行协作过滤，（2）强大社会关系域中的强盗算法问题是由独立估计与每个用户相关的未知参数并忽略用户之间的相关性引起的。

由于越来越多的用户使用它们来寻求和决策，推荐制度对人类和社会的影响增加了对人类和社会的影响。因此，在建议中解决潜在的不公平问题至关重要。就像用户在物品上具有个性化的偏好，用户对公平性的要求也是个性化的许多情况。因此，为用户提供个性化的公平建议，以满足其个性化的公平需求。此外，以前的公平建议作品主要关注基于关联的公平性。但是，重要的是从联合公平概念前进，以便在推荐系统中更适当地评估公平性的因果公平概念。本文根据上述考虑，侧重于为推荐系统中的用户实现个性化的反事实公平。为此，我们介绍了一个框架，通过对建议产生特征 - 独立的用户嵌入来实现通过对抗学习来实现反转公平的建议。该框架允许推荐系统为用户实现个性化的公平，同时也涵盖非个性化情况。在浅层和深刻的推荐算法上的两个现实数据集的实验表明，我们的方法可以为具有理想的推荐性能的用户生成更公平的建议。

在本文中，我们提出了一种方法，用于预测社交媒体对等体之间的信任链接，其中一个是在多识别信任建模的人工智能面积。特别是，我们提出了一种数据驱动的多面信任信任建模，该信任建模包括许多不同的特征以进行全面分析。我们专注于展示类似用户的聚类如何实现关键新功能：支持更个性化的，从而为用户提供更准确的预测。在信任感知项目推荐任务中说明，我们在大yelp数据集的上下文中评估所提出的框架。然后，我们讨论如何提高社交媒体的可信关系的检测可以帮助在最近爆发的社交网络环境中支持在线用户的违法行为和谣言的传播。我们的结论是关于一个特别易受资助的用户基础，老年人的反思，以说明关于用户组的推理价值，期望通过通过数据分析获得的洞察力集成已知偏好的一些未来方向。

大多数现有推荐系统仅基于评级数据，并且他们忽略了可能会增加建议质量的其他信息来源，例如文本评论或用户和项目特征。此外，这些系统的大多数仅适用于小型数据集（数千个观察）并且无法处理大型数据集（具有数百万观察结果）。我们提出了一种推荐人算法，该算法将评级建模技术（即潜在因子模型）与基于文本评论（即潜在Dirichlet分配）的主题建模方法组合，并且我们扩展了算法，使其允许添加额外的用户和项目 - 对系统的特定信息。我们使用具有不同大小的Amazon.com数据集来评估算法的性能，对应于23个产品类别。将建筑模型与四种其他型号进行比较后，我们发现将患有评级的文本评语相结合，导致更好的建议。此外，我们发现为模型添加额外的用户和项目功能会提高其预测精度，这对于中型和大数据集尤其如此。

多目标梯度方法正在成为解决多目标问题的标准。其中，他们表现出有希望开发具有相关和相互矛盾的目标的多目标推荐系统。经典多梯度〜下降通常依赖于梯度的组合，而不是梯度的第一和第二矩的计算。这导致了脆性行为，并错过了解决方案空间中的重要区域。在这项工作中，我们创建了一种多目标模型 - 不可知的暗示方法，利用ADAM优化器在单目标问题中的优势。这将校正和稳定〜在计算常见的梯度下降载体之前〜〜〜梯度，同时优化所有目标。我们评估多目标的好处对两个多目标推荐系统和三种不同的客观组合，两者都相关或相互矛盾。我们报告了大量改进，用三种不同的Pareto正面指标测量：超凡镜，覆盖范围和间距。最后，我们展示了\ Textit {adamized} Pareto Front严格地占据了前一个目标对的前一个。

可以将多任务学习（MTL）范例追溯到Caruana（1997）的早期纸张中，其中表示可以使用来自多个任务的数据，其目的是在独立地学习每个任务的旨在获得更好的性能。 MTL与相互矛盾的目标的解决方案需要在它们中进行折衷，这通常超出了直线组合可以实现的。理论上原则和计算有效的策略正在寻找不受他人主导的解决方案，因为它在帕累托分析中解决了它。多任务学习环境中产生的多目标优化问题具有特定的功能，需要adhoc方法。对这些特征的分析和新的计算方法的提议代表了这项工作的重点。多目标进化算法（MOEAS）可以容易地包括优势的概念，因此可以分析。 MOEAS的主要缺点是关于功能评估的低样本效率。此缺点的关键原因是大多数进化方法不使用模型来近似于目标函数。贝叶斯优化采用基于代理模型的完全不同的方法，例如高斯过程。在本文中，输入空间中的解决方案表示为封装功能评估中包含的知识的概率分布。在这种概率分布的空间中，赋予由Wassersein距离给出的度量，可以设计一种新的算法MOEA / WST，其中模型不直接在目标函数上，而是在输入空间中的对象的中间信息空间中被映射成直方图。计算结果表明，MoEA / WST提供的样品效率和帕累托集的质量明显优于标准MoEa。

In recent years, Graph Neural Networks (GNNs), which can naturally integrate node information and topological structure, have been demonstrated to be powerful in learning on graph data. These advantages of GNNs provide great potential to advance social recommendation since data in social recommender systems can be represented as user-user social graph and user-item graph; and learning latent factors of users and items is the key. However, building social recommender systems based on GNNs faces challenges. For example, the user-item graph encodes both interactions and their associated opinions; social relations have heterogeneous strengths; users involve in two graphs (e.g., the useruser social graph and the user-item graph). To address the three aforementioned challenges simultaneously, in this paper, we present a novel graph neural network framework (GraphRec) for social recommendations. In particular, we provide a principled approach to jointly capture interactions and opinions in the user-item graph and propose the framework GraphRec, which coherently models two graphs and heterogeneous strengths. Extensive experiments on two real-world datasets demonstrate the effectiveness of the proposed framework GraphRec.

推荐系统正面临审查，因为它们对我们可以获得的机会的影响越来越大。目前对公平的审计仅限于敏感群体水平的粗粒度评估。我们建议审核嫉妒 - 狂喜，一个与个别偏好对齐的更精细的标准：每个用户都应该更喜欢他们的建议给其他用户的建议。由于审计要求估计用户超出现有建议的用户的偏好，因此我们将审计作为多武装匪徒的新纯粹探索问题。我们提出了一种采样的效率算法，具有理论上的保证，它不会恶化用户体验。我们还研究了现实世界推荐数据集实现的权衡。

机器学习模型在高赌注应用中变得普遍存在。尽管在绩效方面有明显的效益，但该模型可以表现出对少数民族群体的偏见，并导致决策过程中的公平问题，导致对个人和社会的严重负面影响。近年来，已经开发了各种技术来减轻机器学习模型的偏差。其中，加工方法已经增加了社区的关注，在模型设计期间直接考虑公平，以诱导本质上公平的模型，从根本上减轻了产出和陈述中的公平问题。在本调查中，我们审查了加工偏置减缓技术的当前进展。基于在模型中实现公平的地方，我们将它们分类为明确和隐性的方法，前者直接在培训目标中纳入公平度量，后者重点介绍精炼潜在代表学习。最后，我们在讨论该社区中的研究挑战来讨论调查，以激励未来的探索。

A comprehensive pharmaceutical recommendation system was designed based on the patients and drugs features extracted from Drugs.com and Druglib.com. First, data from these databases were combined, and a dataset of patients and drug information was built. Secondly, the patients and drugs were clustered, and then the recommendation was performed using different ratings provided by patients, and importantly by the knowledge obtained from patients and drug specifications, and considering drug interactions. To the best of our knowledge, we are the first group to consider patients conditions and history in the proposed approach for selecting a specific medicine appropriate for that particular user. Our approach applies artificial intelligence (AI) models for the implementation. Sentiment analysis using natural language processing approaches is employed in pre-processing along with neural network-based methods and recommender system algorithms for modeling the system. In our work, patients conditions and drugs features are used for making two models based on matrix factorization. Then we used drug interaction to filter drugs with severe or mild interactions with other drugs. We developed a deep learning model for recommending drugs by using data from 2304 patients as a training set, and then we used data from 660 patients as our validation set. After that, we used knowledge from critical information about drugs and combined the outcome of the model into a knowledge-based system with the rules obtained from constraints on taking medicine.

传统的推荐系统旨在根据观察到的群体的评级估算用户对物品的评级。与所有观察性研究一样，隐藏的混乱，这是影响物品曝光和用户评级的因素，导致估计系统偏差。因此，推荐制度研究的新趋势是否定混杂者对因果视角的影响。观察到建议中的混淆通常是在物品中共享的，因此是多原因混淆，我们将推荐模拟为多原因多结果（MCMO）推理问题。具体而言，为了解决混淆偏见，我们估计渲染项目曝光独立伯努利试验的用户特定的潜变量。生成分布由具有分解逻辑似然性的DNN参数化，并且通过变分推理估计难治性后续。控制这些因素作为替代混淆，在温和的假设下，可以消除多因素混淆所产生的偏差。此外，我们表明MCMO建模可能导致由于与高维因果空间相关的稀缺观察而导致高方差。幸运的是，我们理论上证明了作为预处理变量的推出用户特征可以大大提高样本效率并减轻过度装箱。模拟和现实世界数据集的实证研究表明，建议的深度因果额外推荐者比艺术最先进的因果推荐人员对未观察到的混乱更具稳健性。代码和数据集在https://github.com/yaochenzhu/deep-deconf发布。

In this work a novel recommender system (RS) for Tourism is presented. The RS is context aware as is now the rule in the state-of-the-art for recommender systems and works on top of a tourism ontology which is used to group the different items being offered. The presented RS mixes different types of recommenders creating an ensemble which changes on the basis of the RS's maturity. Starting from simple content-based recommendations and iteratively adding popularity, demographic and collaborative filtering methods as rating density and user cardinality increases. The result is a RS that mutates during its lifetime and uses a tourism ontology and natural language processing (NLP) to correctly bin the items to specific item categories and meta categories in the ontology. This item classification facilitates the association between user preferences and items, as well as allowing to better classify and group the items being offered, which in turn is particularly useful for context-aware filtering.

高赌注域的机器学习模型制作的算法决策可能随着时间的推移而持久影响。不幸的是，静态环境中的标准公平标准的天真在时间域中的静态设置可能导致延迟和不利影响。要了解性能差异的动态，我们研究马尔可夫决策过程（MDP）的公平问题。具体而言，我们提出了返回奇偶校验，这是一个公平的概念，需要来自不同的人口统计组的MDP，这些组共享相同的状态和行动空间，以实现大致相同的预期折扣奖励。我们首先为返回差异提供分解定理，它将任何两个MDP的返回差异分解为组明智奖励函数，组政策的差异的差异，以及组政策所引起的国家探索分布之间的差异。通过我们的分解定理激励，我们提出了通过使用积分概率度量的状态探索分布对齐进行共享组策略来减轻返回差异的算法。我们进行实验以证实我们的结果，表明该算法可以成功地关闭视差差距，同时保持对两个现实世界推荐系统基准数据集的策略性能。

推荐系统在塑造现代网络生态系统中起关键作用。这些系统在（1）提出建议之间交替（2）收集用户对这些建议的响应，以及（3）根据此反馈重新审判建议算法。在此过程中，推荐系统会影响随后用于更新它的用户行为数据，从而创建反馈循环。最近的工作表明，反馈循环可能会损害建议质量并使用户行为均匀，从而在部署推荐系统时提高道德和绩效问题。为了解决这些问题，我们提出了反馈循环（CAFL）的因果调整，该算法可证明使用因果推理打破反馈回路，并可以应用于优化培训损失的任何建议算法。我们的主要观察结果是，如果原因是因果量的原因，即推荐系统不会遭受反馈循环的影响，即对用户评级的建议分布。此外，我们可以通过调整推荐系统对用户偏好的预测来计算从观察数据中计算此干预分布。使用模拟环境，我们证明CAFL与先前的校正方法相比提高了建议质量。

我们研究了通过中等数量的成对比较查询引发决策者偏好的问题，以使它们成为特定问题的高质量推荐。我们受到高赌场域中的应用程序的推动，例如选择分配稀缺资源的政策以满足基本需求（例如，用于移植或住房的肾脏，因为那些经历无家可归者），其中需要由（部分）提出引出的偏好。我们在基于偏好的偏好中模拟不确定性，并调查两个设置：a）脱机偏出设置，其中所有查询都是一次，b）在线诱因设置，其中按时间顺序选择查询。我们提出了这些问题的强大优化制剂，这些问题集成了偏好诱导和推荐阶段，其目的是最大化最坏情况的效用或最小化最坏情况的后悔，并研究其复杂性。对于离线案例，在活动偏好诱导与决策信息发现的两个半阶段的稳健优化问题的形式中，我们提供了我们通过列解决的混合二进制线性程序的形式提供了等效的重构。 -Constraint生成。对于在线设置，主动偏好学习采用多级强大优化问题的形式与决策依赖的信息发现，我们提出了一种保守的解决方案方法。合成数据的数值研究表明，我们的方法在最坏情况级别，后悔和效用方面从文献中倾斜最先进的方法。我们展示了我们的方法论如何用于协助无家可归的服务机构选择分配不同类型的稀缺住房资源的政策，以遇到无家可归者。

如今，可以在许多电子商务平台上找到自动建议，并且此类建议可以为消费者和提供商创造巨大的价值。但是，通常并非所有推荐的物品都具有相同的利润率，因此，提供商可能会诱使促进最大化其利润的项目。在短期内，消费者可能会接受非最佳建议，但从长远来看，他们可能会失去信任。最终，这导致了设计平衡推荐策略的问题，这些策略既考虑消费者和提供商的价值，并带来持续的业务成功。这项工作提出了一个基于基于代理的建模的仿真框架，旨在帮助提供者探索不同推荐策略的纵向动态。在我们的模型中，消费者代理人收到了提供者的建议，并且建议的质量随着时间的推移影响消费者的信任。我们设计了几种推荐策略，可以使提供商的利润更大，或者对消费者公用事业。我们的模拟表明，一种混合​​策略会增加消费者公用事业的权重，但没有忽略盈利能力，从长远来看会导致累计利润最高。与纯粹的消费者或面向利润的策略相比，这种混合策略的利润增加了约20％。我们还发现，社交媒体可以加强观察到的现象。如果消费者严重依赖社交媒体，最佳战略的累积利润进一步增加。为了确保可重复性并培养未来的研究，我们将公开共享我们的灵活模拟框架。

Despite being responsible for state-of-the-art results in several computer vision and natural language processing tasks, neural networks have faced harsh criticism due to some of their current shortcomings. One of them is that neural networks are correlation machines prone to model biases within the data instead of focusing on actual useful causal relationships. This problem is particularly serious in application domains affected by aspects such as race, gender, and age. To prevent models from incurring on unfair decision-making, the AI community has concentrated efforts in correcting algorithmic biases, giving rise to the research area now widely known as fairness in AI. In this survey paper, we provide an in-depth overview of the main debiasing methods for fairness-aware neural networks in the context of vision and language research. We propose a novel taxonomy to better organize the literature on debiasing methods for fairness, and we discuss the current challenges, trends, and important future work directions for the interested researcher and practitioner.