Learning enabled autonomous systems provide increased capabilities compared to traditional systems. However, the complexity of and probabilistic nature in the underlying methods enabling such capabilities present challenges for current systems engineering processes for assurance, and test, evaluation, verification, and validation (TEVV). This paper provides a preliminary attempt to map recently developed technical approaches in the assurance and TEVV of learning enabled autonomous systems (LEAS) literature to a traditional systems engineering v-model. This mapping categorizes such techniques into three main approaches: development, acquisition, and sustainment. We review the latest techniques to develop safe, reliable, and resilient learning enabled autonomous systems, without recommending radical and impractical changes to existing systems engineering processes. By performing this mapping, we seek to assist acquisition professionals by (i) informing comprehensive test and evaluation planning, and (ii) objectively communicating risk to leaders.
translated by 谷歌翻译
当机器人在具有非结构化地形的现实世界越野环境中运行时,适应其导航政策的能力对于有效且安全的导航至关重要。但是,越野地形为机器人导航带来了一些挑战,包括动态障碍和地形不确定性,导致遍历或导航故障效率低下。为了应对这些挑战,我们通过谈判引入了一种新颖的适应方法,使地面机器人能够通过谈判过程来调整其导航行为。我们的方法首先学习了各种导航政策的预测模型,以充当地形感知的本地控制器和计划者。然后,通过新的谈判过程,我们的方法从与环境的各种政策互动中学习,以在线方式达成最佳政策组合,以使机器人导航适应即时的非结构性越野地形。此外,我们实施了一种新的优化算法,该算法为执行过程中实时实时提供机器人谈判提供了最佳解决方案。实验结果已经验证了我们通过谈判的适应方法优于机器人导航的先前方法,尤其是在看不见和不确定的动态地形上。
translated by 谷歌翻译
地面机器人需要遍历非结构化和毫无准备的地形的关键能力,避免障碍,以完成灾害响应的现实机器人应用中的完整任务。当机器人在诸如森林等越野场环境中运行时,机器人的实际行为通常与其预期或计划的行为相匹配,这是由于地形和机器人本身的特征的变化。因此,机器人适应对于一致行为生成的能力对于非结构化的越野地形上的可动性至关重要。为了解决挑战,我们提出了一种新颖的自我反思地形感知的方法,用于造型机器人的自我反思,以产生一致的控制,以导航非结构化的越野地形,这使得机器人能够通过机器人自我进行更准确地执行预期行为。反思,同时适应不同的非结构化地形。为了评估我们的方法的性能,我们使用具有各种功能的实际机器人进行广泛的实验,这些功能在不同的非结构化越野地形上变化。综合实验结果表明,我们的自我反光地形感知的适应方法使得地机器人能够产生一致的导航行为,并且优于比较的先前和基线技术。
translated by 谷歌翻译
分配转移和公平性的稳健性已独立地成为现代机器学习模型所需的两个重要的逃亡者。尽管这两个Desiderata似乎相关,但它们之间的联系通常不清楚。在这里,我们通过因果镜头讨论这些连接,重点是反作用预测任务,其中假定分类器的输入(例如,图像)是作为目标标签和受保护属性的函数生成的。通过采用这一观点,我们在共同的公平标准(分离)和鲁棒性 - 风险不变性的概念之间达到明确的联系。这些连接为在反疗法环境中应用分离标准提供了新的动机,并为关于公平性绩效折衷的旧讨论提供了信息。此外,我们的发现表明,鲁棒性动机的方法可用于强制执行分离,并且它们在实践中通常比旨在直接强制执行分离的方法更好。使用医学数据集,我们从经验上验证了关于检测X射线肺炎的任务的发现,在这种情况下,性别群体的患病率差异激发了公平性缓解。我们的发现突出了选择和执行公平标准时考虑因果结构的重要性。
translated by 谷歌翻译