深度学习推理加速器是从与Pthreads并行化的C语言软件程序合成的。软件实现使用着名的生产者/消费者模型,其中并行线程通过FIIFO队列互连。 LegUp高级综合(HLS)工具在并行FPGA硬件中合成线程,将软件并行性转换为空间并行性。生成一个完整的系统,在合成加速器中实现卷积,池化和填充,并在嵌入式ARM处理器上执行剩余任务。加速器结合了精确度降低,以及一种新的卷积零重量跳跃方法。在中型的英特尔Arria 10 SoC FPGA上,VGG-16的峰值性能为138有效GOPS。
translated by 谷歌翻译
临床决策支持系统(CDSS)将在提高危重病人医疗质量方面发挥越来越重要的作用。然而,当前信息学基础设施中的dueto限制,CDSS并不总是拥有关于支持生理监测设备状态的完整信息,这可能限制CDSS可用的输入数据。在机械通气(MV)的使用情况下尤其如此,其中当前的CDSS已经知道关键的通气设置,例如通风模式。为了使MV CDSS能够提供与呼吸机模式相关的准确建议,我们开发了一种高性能的机器学习模型,该模型能够在美国最常用的5种通气模式中进行呼吸分类,平均F1分数为97.52 %。我们还展示了我们的方法如何在以前的工作中进行方法改进,并且它是由软件/传感器错误引起的非常强大的tomissing数据。
translated by 谷歌翻译
多维遗传编程将候选解决方案表示为程序集,从而为利用构建块识别提供了一个有趣的框架。为了实现这一目标,我们研究了机器学习作为偏向程序的哪些组件被推广的方式的使用,并提出了两个语义运算符来选择在交叉期间放置有用构建块的位置。我们建议使用前向阶段交叉算子,对一组回归问题进行重大改进,并在大型基准研究中产生最先进的结果。我们讨论了这种体系结构和其他体系,因为它们倾向于允许启发式搜索在进化过程中利用信息。最后,我们研究了这些架构产生的数据表示的共线性和复杂性,以期解决应用中的变异因素。
translated by 谷歌翻译
Machine learning (ML) techniques are enjoying rapidly increasing adoption. However, designing and implementing the systems that support ML models in real-world deployments remains a significant obstacle, in large part due to the radically different development and deployment profile of modern ML methods, and the range of practical concerns that come with broader adoption. We propose to foster a new systems machine learning research community at the intersection of the traditional systems and ML communities, focused on topics such as hardware systems for ML, software systems for ML, and ML optimized for metrics beyond predictive accuracy. To do this, we describe a new conference, SysML, that explicitly targets research at the intersection of systems and machine learning with a program committee split evenly between experts in systems and ML, and an explicit focus on topics at the intersection of the two.
translated by 谷歌翻译
机器学习已广泛应用于无线通信。然而,尚未理解无线应用中的机器学习的安全性方面。我们考虑这样的情况:认知发射机感知频谱并在由机器学习算法确定的空闲信道上发送。我们提出了一种对抗式机器学习方法,通过推断发射机的行为并试图通过空中伪造频谱感知数据来发起astrum中心数据中毒攻击。为此目的,当信道空闲时,攻击者在短时间内发送以操纵发射机的决策机制的输入。发射机上的认知引擎是一种深度神经网络模型,它可以预测空闲信道,并且数据传输的传感误差最小。发射器收集频谱感知数据并将其用作其机器学习算法的输入。与此同时,对手使用另一个深度神经网络模型构建认知引擎,以预测发射器何时基于其频谱感测数据成功传输。然后,攻击者执行空中频谱数据中毒攻击,当发射器正在感测时,将通道占用状态从空闲改变为忙,以便发射器被欺骗做出不正确的传输决定。与数据传输干扰相比,这种攻击更节能,更难以检测。我们证明这种攻击是非常有效的,并且大大降低了发射机的吞吐量。
translated by 谷歌翻译
由于基于机器学习的在线系统通过应用程序编程接口(API)提供给公共或paidsubscribers,它们变得易受频繁攻击和攻击。本文研究了在API调用存在速率限制的实际案例中的对抗机器学习。攻击者通过查询在线机器学习系统(特别是分类器)的输入数据样本的API,收集返回的标签以建立训练数据,以及训练功能相当且在统计上接近的对抗分类器来发起探索性(推理)攻击到目标分类器。具有有限训练数据的探索性攻击被证明无法可靠地推断出可在线向公众提供的真实文本分类器API的目标分类器。建立了基于深度学习的生成对抗网络(GAN),以从有限数量的实际训练数据样本生成合成训练数据,从而扩展训练数据并提高推断分类器的性能。探索性攻击通过分别根据推断得到的置信度得分,通过分别选择训练和测试数据样本,提供了发起致使攻击(旨在毒害训练过程)和逃避攻击(旨在欺骗分类者做出错误决定)的基础。分类。使用smallfootprint(使用少量API调用)进行的这些隐形攻击使得对抗机器学习在实际情况下实用,并且对手可用的训练数据有限。
translated by 谷歌翻译
对于前列腺癌患者,Gleason评分是最重要的预后因素之一,可能决定独立于分期的治疗。然而,Gleason评分基于肿瘤形态的主观显微镜检查并且具有较差的再现性。在这里,我们提出了一个深度学习系统(DLS),用于Gleason评分前列腺切除术的全幻灯片图像。我们的系统是使用来自1,226张幻灯片的1.12亿个病理学家注释的图像片段开发的,并在331个幻灯片的独立验证数据集上进行评估,其中参考标准由泌尿生殖专家病理学家建立。在验证数据集中,29名一般病理学家的平均准确度为0.61。 DLS的诊断准确率显着提高0.70(p = 0.002),并且与临床随访数据的相关性趋向于更好的患者风险分层。我们的方法可以提高格里森评分的准确性和随后的治疗决策,特别是在专业知识不可用的情况下。 DLS还超越了当前的格里森系统,以更精细地表征和定量肿瘤形态,为格里森系统本身的细化提供了机会。
translated by 谷歌翻译
机器学习已经应用于广泛的应用程序,其中一些可以作为应用程序编程接口(API)在线获得,包括免费(试用)或付费订阅。在本文中,我们以在线分类器API的后箱攻击形式研究对抗机器学习。 Westart采用深度学习探索(推理)攻击,旨在建立一个分类器,可以提供类似的分类结果(标签)作为目标分类器。为了最小化推断分类器和目标分类器返回的标签之间的差异,我们表明基于深度学习的探索性攻击需要大量标记的训练数据样本。可以通过调用在线API来收集这些标签,但是对允许的API调用数量有一些严格的速率限制。为了减轻有限训练数据的影响,我们开发了一种主动学习方法,该方法首先基于少量API调用构建分类器,并使用此分类器选择样本以进一步收集其标签。然后,使用更多训练数据样本构建新的分类器。该更新过程可以重复多次。我们表明,这种主动学习方法可以仅使用有限数量的训练数据样本来构建具有来自目标分类器的小的统计差异的对抗性分类器。我们进一步考虑基于探索性攻击建立的推断分类器的逃避和致病(中毒)攻击。逃避攻击确定目标分类器可能是分类的样本,而致使攻击提供错误的训练数据样本以降低重新训练的可靠性分类。这些攻击的成功表明,在有限的训练数据的现实案例中,对抗性机器学习成为可行的威胁。
translated by 谷歌翻译
与近年来改进网络体系结构和学习算法相比,用于从神经对话模型生成响应的搜索策略相对较少受到关注。在本文中,我们考虑基于具有阅读机制的循环网络的标准神经对话模型,并着重评估搜索策略的影响。我们比较四种搜索策略:贪婪搜索,波束搜索,迭代波束搜索和迭代波束搜索,然后选择得分。我们使用人工评估完整对话评估这些策略,并使用自动指标(包括对数概率,分数和多样性度量)对它们进行比较。我们观察到贪婪搜索与用选择评分增强的提议的光束搜索之间的显着差距,证明了搜索算法在神经对话生成中的重要性。
translated by 谷歌翻译
已知用于对话的序列生成模型存在若干问题:它们倾向于产生简短且通用的句子,这些句子是无信息的和不可信的。另一方面,检索模型可以表现出有趣的响应,但仅限于给定的检索集,导致无法调整到特定上下文的错误提示。在这项工作中,我们开发了amodel,它结合了两种方法来避免它们的缺陷:首先检索响应然后改进它 - 最终序列生成器将检索视为附加上下文。我们在最近的CONVAI2挑战任务中展示了我们的方法产生的响应优于人类评估中的标准检索和生成模型。
translated by 谷歌翻译