随着机器人被引入越来越复杂的场景，随着各个群体，人民和实体开始与部署的机器人互动，信任的问题变得越来越复杂。这篇简短的论文探讨了一些机器人的信任可能在一个（或更多）实体或团体之间发生冲突的情况。我们还提出了有关通过可能的道歉来修复信任的想法的场景。

随着自主系统成为我们日常生活的一部分，确保其信任度至关重要。有许多用于证明可信赖性的技术。所有这些技术的共同点是需要阐明规格。在本文中，我们对规格进行了广泛的看法，专注于顶级要求，包括但不限于功能，安全性，安全性和其他非功能性属性。本文的主要贡献是对于与指定可信度相关的自主系统社区的一系列高级智力挑战。我们还描述了有关自主系统的许多应用程序域的独特规范挑战。

In recent years, various service robots have been introduced in stores as recommendation systems. Previous studies attempted to increase the influence of these robots by improving their social acceptance and trust. However, when such service robots recommend a product to customers in real environments, the effect on the customers is influenced not only by the robot itself, but also by the social influence of the surrounding people such as store clerks. Therefore, leveraging the social influence of the clerks may increase the influence of the robots on the customers. Hence, we compared the influence of robots with and without collaborative customer service between the robots and clerks in two bakery stores. The experimental results showed that collaborative customer service increased the purchase rate of the recommended bread and improved the impression regarding the robot and store experience of the customers. Because the results also showed that the workload required for the clerks to collaborate with the robot was not high, this study suggests that all stores with service robots may show high effectiveness in introducing collaborative customer service.

This article presents a survey of literature in the area of Human-Robot Interaction (HRI), specifically on systems containing more than two agents (i.e., having multiple humans and/or multiple robots). We identify three core aspects of ``Multi-agent" HRI systems that are useful for understanding how these systems differ from dyadic systems and from one another. These are the Team structure, Interaction style among agents, and the system's Computational characteristics. Under these core aspects, we present five attributes of HRI systems, namely Team size, Team composition, Interaction model, Communication modalities, and Robot control. These attributes are used to characterize and distinguish one system from another. We populate resulting categories with examples from recent literature along with a brief discussion of their applications and analyze how these attributes differ from the case of dyadic human-robot systems. We summarize key observations from the current literature, and identify challenges and promising areas for future research in this domain. In order to realize the vision of robots being part of the society and interacting seamlessly with humans, there is a need to expand research on multi-human -- multi-robot systems. Not only do these systems require coordination among several agents, they also involve multi-agent and indirect interactions which are absent from dyadic HRI systems. Adding multiple agents in HRI systems requires advanced interaction schemes, behavior understanding and control methods to allow natural interactions among humans and robots. In addition, research on human behavioral understanding in mixed human-robot teams also requires more attention. This will help formulate and implement effective robot control policies in HRI systems with large numbers of heterogeneous robots and humans; a team composition reflecting many real-world scenarios.

关于哪些类型的故障机器人在家庭环境中以及这些失败如何影响客户体验时，存在知识差距。我们在亚马逊上分类了10,072个客户评论，通过它们中描述的机器人失败，将故障分组为十二种类型和三类（技术，互动和服务）。我们确定了先前忽略了文献中忽视的失败的来源和类型，将它们结合到更新的失败分类。我们分析了他们的频率和关系与客户明星评级。结果表明，对于功利主义国内机器人来说，技术故障比互动或服务失败更有害。常常报告任务完成和鲁棒性和恢复力的问题，并具有最大的负面影响。未来的预防和反应战略应解决机器人的技术能力，以满足功能目标，运作和保持结构完整性随着时间的推移。可用性和互动设计对客户体验不利，表明客户可能更宽容影响机器人和实际用途的影响的失败。此外，我们开发了一种能够预测客户审查是否包含描述故障的内容以及它描述的故障类型的自然语言处理模型。借鉴了这些知识，机器人系统的设计者和研究人员可以优先考虑设计和开发努力实现基本问题。

Taking advice from others requires confidence in their competence. This is important for interaction with peers, but also for collaboration with social robots and artificial agents. Nonetheless, we do not always have access to information about others' competence or performance. In these uncertain environments, do our prior beliefs about the nature and the competence of our interacting partners modulate our willingness to rely on their judgments? In a joint perceptual decision making task, participants made perceptual judgments and observed the simulated estimates of either a human participant, a social humanoid robot or a computer. Then they could modify their estimates based on this feedback. Results show participants' belief about the nature of their partner biased their compliance with its judgments: participants were more influenced by the social robot than human and computer partners. This difference emerged strongly at the very beginning of the task and decreased with repeated exposure to empirical feedback on the partner's responses, disclosing the role of prior beliefs in social influence under uncertainty. Furthermore, the results of our functional task suggest an important difference between human-human and human-robot interaction in the absence of overt socially relevant signal from the partner: the former is modulated by social normative mechanisms, whereas the latter is guided by purely informational mechanisms linked to the perceived competence of the partner.

机器学习显着增强了机器人的能力，使他们能够在人类环境中执行广泛的任务并适应我们不确定的现实世界。机器学习各个领域的最新作品强调了公平性的重要性，以确保这些算法不会再现人类的偏见并导致歧视性结果。随着机器人学习系统在我们的日常生活中越来越多地执行越来越多的任务，了解这种偏见的影响至关重要，以防止对某些人群的意外行为。在这项工作中，我们从跨学科的角度进行了关于机器人学习公平性的首次调查，该研究跨越了技术，道德和法律挑战。我们提出了偏见来源的分类法和由此产生的歧视类型。使用来自不同机器人学习域的示例，我们研究了不公平结果和减轻策略的场景。我们通过涵盖不同的公平定义，道德和法律考虑以及公平机器人学习的方法来介绍该领域的早期进步。通过这项工作，我们旨在为公平机器人学习中的开创性发展铺平道路。

即将开发我们呼叫所体现的系统的新一代越来越自主和自学习系统。在将这些系统部署到真实上下文中，我们面临各种工程挑战，因为它以有益的方式协调所体现的系统的行为至关重要，确保他们与我们以人为本的社会价值观的兼容性，并且设计可验证安全可靠的人类-Machine互动。我们正在争辩说，引发系统工程将来自嵌入到体现系统的温室，并确保动态联合的可信度，这种情况意识到的情境意识，意图，探索，探险，不断发展，主要是不可预测的，越来越自主的体现系统在不确定，复杂和不可预测的现实世界环境中。我们还识别了许多迫切性的系统挑战，包括可信赖的体现系统，包括强大而人为的AI，认知架构，不确定性量化，值得信赖的自融化以及持续的分析和保证。

这项研究表明，预期和实际相互作用如何影响老年人的SAR量化量化。这项研究包括两个部分：在线调查，可通过视频观看SAR和接受研究的验收研究来探索预期的交互作用，其中老年人与机器人进行了互动。这项研究的两个部分均在Gymmy的帮助下完成，这是一种机器人系统，我们的实验室开发了用于培训老年人身体和认知活动的培训。两个研究部分都表现出相似的用户响应，表明用户可以通过预期的互动来预测SAR的接受。索引术语：衰老，人类机器人互动，老年人，质量评估，社会辅助机器人，技术接受，技术恐惧症，信任，用户体验。

在无人车的领域，自主机器人群体承诺将提高效率和集体自主权。这些群体将来将如何运作，以及尚未充分定义这些沟通要求和运营界限。与11位专业的无人车运营商和设计师进行了研讨会，目的是确定用于开发和测试机器人群的用例。专家定义了三个方案，然后编译以生产一个用例，概述与高度自主群合作时的情况，目标，代理，通信要求和操作阶段。我们的编译用例均适用于研究人员，设计师和制造商，以测试和量身定制其设计管道，以适应人类互动的一些关键问题。应用程序的示例包括告知模拟开发，构成进一步设计研讨会的基础，并确定人类运营商与群体之间可能出现的信任问题。

移动服务机器人变得越来越无处不在。但是，这些机器人可能对视觉障碍者（PVI）提出潜在的可访问性问题和安全问题。我们试图探索PVI在主流移动服务机器人方面面临的挑战，并确定其需求。对他们在三个新兴机器人的经历进行了采访，接受了17个PVI：真空机器人，送货机器人和无人机。我们通过考虑其围绕机器人的不同角色（直接用户和旁观者）来全面研究PVI的机器人体验。我们的研究强调了参与者对移动服务机器人访问性，安全性和隐私问题的挑战和担忧。我们发现缺乏可访问的反馈使PVI难以精确控制，定位和跟踪机器人的状态。此外，遇到移动机器人时，旁观者感到困惑，甚至吓到参与者，并呈现安全性和隐私障碍。我们进一步提炼设计注意事项，以提供PVI的更容易访问和安全的机器人。

聊天机器人在商业和科学环境中越来越普遍。他们帮助客户抱怨产品或服务或支持他们找到最佳旅行交易。其他机器人提供心理健康支持或帮助预订医疗预约。本文认为，可以洞悉用户的语言意识形态及其融洽的期望，可用于告知受众群体的语言和互动模式，并确保公平地访问机器人提供的服务。该论点的基础是三种数据的基础：与聊天机器人相互交互，促进健康约会预订，用户对其交互的内省评论以及用户的定性调查评论在与预订机器人交战后。最后，我将定义对话式AI的受众设计，并讨论如何以用户为中心的聊天机器人互动和社会语言知识的理论方法（例如融洽的理论管理）来支持受众设计。

由于社会机器人在日常环境中越来越普遍，因此他们将参加对话并适当地管理与他们共享的信息。然而，关于机器人如何适当地辨别信息的敏感性，这几乎都知道，这对人机信任具有重大影响。作为解决此问题的一部分的第一步，我们设计了隐私控制员，知己，用于对话社会机器人，能够使用与对话中的对话中的上下文元数据（例如，情绪，关系，主题）进行模型隐私边界。之后，我们进行了两项众群用户研究。第一项研究（n = 174）重点是，是否被认为是私人/敏感或非私人/非敏感性的各种人类互动情景。我们第一次研究的调查结果用于生成关联规则。我们的第二个研究（n = 95）通过比较使用我们的隐私控制器对基线机器人的机器人来评估人机交互情景中隐私控制器的有效性和准确性，这些机器人对基线机器人没有隐私控制。我们的结果表明，没有隐私控制器的机器人在没有隐私控制器的隐私权，可信度和社会意识中占有于机器人。我们得出结论，隐私控制器在真实的人机对话中的整合可以允许更可靠的机器人。此初始隐私控制员将作为更复杂的解决方案作为基础。

当代机器人主义者的主要目标之一是使智能移动机器人能够在共享的人类机器人环境中平稳运行。为此目标服务的最基本必要的功能之一是在这种“社会”背景下有效的导航。结果，最近的一般社会导航的研究激增，尤其是如何处理社会导航代理之间的冲突。这些贡献介绍了各种模型，算法和评估指标，但是由于该研究领域本质上是跨学科的，因此许多相关论文是不可比较的，并且没有共同的标准词汇。这项调查的主要目标是通过引入这种通用语言，使用它来调查现有工作并突出开放问题来弥合这一差距。它首先定义社会导航的冲突，并提供其组成部分的详细分类学。然后，这项调查将现有工作映射到了本分类法中，同时使用其框架讨论论文。最后，本文提出了一些未来的研究方向和开放问题，这些方向目前正在社会导航的边界，以帮助集中于正在进行的和未来的研究。

体育活动对于健康和福祉很重要，但只有很少的人满足世界卫生组织的体育活动标准。机器人运动教练的开发可以帮助增加训练的可及性和动力。用户的接受和信任对于成功实施这种辅助机器人至关重要。这可能会受到机器人系统和机器人性能的透明度的影响，尤其是其失败。该研究对与任务，人，机器人和相互作用（T-HRI）相关的透明度水平进行了初步研究，并进行了相应调整的机器人行为。在一部分实验中，机器人性能失败允许分析与故障有关的T-HRI水平的影响。在机器人性能中遇到失败的参与者表现出比没有经历这种失败的人的接受程度和信任水平要低。此外，T-HRI级别和参与者群体之间的接受度量存在差异，这暗示了未来研究的几个方向。

在过去的几年中，围绕种族类人体机器人的有问题实践的讨论已经上升。为了彻底理解机器人在人类机器人互动（HRI）社区中如何理解机器人的“性别” - 即如何被操纵，在哪些环境中以及其对人们的看法和人们产生哪些影响的影响，为基础建立基础。与机器人的互动 - 我们对文献进行了范围的评论。我们确定了553篇与我们从5个不同数据库中检索的评论相关的论文。审查论文的最终样本包括2005年至2021年之间的35篇论文，其中涉及3902名参与者。在本文中，我们通过报告有关其性别的目标和假设的信息（即操纵性别的定义和理由），对机器人的“性别”（即性别提示和操纵检查），对性别的定义和理由进行彻底总结这些论文。 （例如，参与者的人口统计学，受雇的机器人）及其结果（即主要和互动效应）。该评论表明，机器人的“性别”不会影响HRI的关键构建，例如可爱和接受，而是对刻板印象产生最强烈的影响。我们利用社会机器人技术和性别研究中的不同认识论背景来提供有关审查结果的全面跨学科观点，并提出了在HRI领域前进的方法。

人工智能研究中的一个新兴主题是创建模型，以模拟特定人员的决策和行为，包括游戏玩法，文本生成和艺术表达。这些模型以对个人的量身定制的方式以及为互动而不是简单地繁殖固定的预计行为的复制方式而超越了早期的方法。我们将这些称为模拟模型，在本文中，我们开发了一个框架，以表征其日益增长的可用性所带来的道德和社会问题。我们的框架包括用于使用此类模型的许多不同方案，并考虑了对一系列不同参与者的影响，包括正在建模的目标，部署模型的操作员以及与之交互的实体。

在本文中，我们报告了一项现场研究，在该研究中，我们在面包店使用了两个服务机器人作为促销活动。先前的研究探索了公共公共公众公共应用，例如购物中心。但是，需要更多的证据表明，服务机器人可以为真实商店的销售做出贡献。此外，在促销促销的背景下，客户和服务机器人的行为尚未得到很好的检查。因此，可以认为有效的机器人行为类型，并且客户对这些机器人的反应尚不清楚。为了解决这些问题，我们在面包店安装了两个远程操作的服务机器人将近2周，一个在入口处作为招待员，另一个在商店里推荐产品。结果表明，在应用机器人时，销售额急剧增加。此外，我们注释了机器人和客户行为的视频录制。我们发现，尽管放置在入口处的机器人成功吸引了路人的兴趣，但没有观察到访问商店的客户数量明显增加。但是，我们确认商店内部运行的机器人的建议确实产生了积极影响。我们详细讨论我们的发现，并为未来的研究和应用提供理论和实用建议。

行为互联网（IOB）将人类行为放在工程智能连接系统的核心。 IOB将数字世界与人类行为联系起来建立人类驱动的设计，开发和适应过程。本文根据与软件工程师，人机互动科学家，社会科学家和认知科学社区互动的集体努力来定义IOB模型的新颖概念。基于IOB的模型，基于探索性研究，综合最先进的分析和专家访谈。真正的行业4.0制造基础设施的架构有助于解释IOB模型及其应用。概念模型用于成功为Uffizi画廊，意大利佛罗伦萨的人群监测和队列管理系统成功实施社会技术基础设施。该实验始于2016年秋季，并在2018年秋季进行运营，使用了一种数据驱动方法来使用实时感官数据来提供系统。它还在游客的移动行为上注入了预测模型。该系统的主要目标是捕捉人类行为，模型，并建立一种考虑变化，实时适应变化的机制，并不断从重复行为中学习。除了概念模型和现实生活评价外，本文还提供专家的建议，并为未来几年成为IOB成为一个重要的技术进步的未来指导。

我们从两个在线人机互动实验中介绍了数据，其中227名参与者观看了人形机器人的视频，表现出有缺陷或非故障行为，同时保持沉默或说话。要求参与者评估他们对机器人的信任度的看法，以及其可爱，动画和感知的情报。结果表明，虽然一个非故障机器人达到了最高的信任，但可以说出来的似乎有故障的机器人可以完全减轻否则会出现错误行为的信任损失。我们认为，这种缓解与在存在语音时也可以看到的感知智能的增加有关。