我们提出了MC-CIM,一个计算内存(CIM)框架,用于强大,但低功耗,贝叶斯边缘智能。具有确定性权重的深神经网络(DNN)不能表达他们的预测不确定性,从而对误诊的后果是致命的诸如外科机器人的应用来说,对应用来说造成危急风险。为了解决这个限制,DNN的贝叶斯推论已经受到关注。使用贝叶斯推断,不仅是预测本身,而且还可以提取预测置信度以规划风险感知的动作。然而,DNN的贝叶斯推断是计算昂贵的,不适合实时和/或边缘部署。使用Monte Carlo Dropout(MC-Tropout)的贝叶斯DNN近似值和低计算复杂性具有高的鲁棒性。增强该方法的计算效率,我们讨论了一个新的CIM模块,除了内存重量输入标量产品之外,还可以对内存概率丢弃进行支持,以支持该方法。我们还提出了计算重复使用的MC-Dropout的重新使用,其中每个连续实例可以利用来自之前的迭代的产品和计算。甚至更多,我们讨论如何通过利用组合优化方法来最佳地订购随机实例,以最小化整体MC-Dropout工作负载。讨论了基于CIM的MC-Tropout执行的应用,用于自主无人机的MNIST字符识别和视觉径管(VO)。框架可靠地给出了MC-CIM在很大程度上的非理想中的预测信心。提出了MC-CIM,具有16x31 SRAM阵列,0.85 V电源,16nm低待机电源(LSTP)技术在其最佳计算和外围配置中消耗了30个MC-Dropout实例的30个MC-Dropout实例,节省了43%的能量与典型相比执行。
translated by 谷歌翻译