我们考虑Nachmani等人最近提出的加权置信传播(WBP)解码器。其中为每个Tanner图表引入了不同的权重,并使用机器学习技术进行了优化。我们的重点是简单缩放模型,这些模型在某些边缘使用相同的权重,以减少存储和计算负担。主要贡献是表明,使用少量参数进行简单缩放通常可以获得与完全参数化相同的增益。此外,提出了WBP的若干培训改进。例如,已经表明,在比特误码率(BER)和新的“软BER”损失方面,最小化平均二进制交叉熵最不是最优的,这可以导致更好的性能。我们还研究参数适配器网络(PAN),它们了解信噪比和WBP参数之间的关系。例如,对于具有高度冗余奇偶校验矩阵的(32,16)Reed-Muller码,训练具有软BER损失的PAN,假设仅使用三个参数进行简单缩放,则提供近似最大似然性能。
translated by 谷歌翻译
过去十年中机器学习的快速改进开始产生深远的影响。对于通信,具有有限的domainexpertise的工程师现在可以使用现成的学习包来设计基于模拟的高性能系统。在机器学习的当前革命之前,大多数通信工程师都非常清楚可以使用随机梯度下降来学习系统参数(例如滤波器系数)。然而,一点也不清楚,系统架构中更复杂的部分也可以学习。在本文中,我们讨论了机器学习技术在双通信问题中的应用,并着重于从结果系统中学到的东西。我们惊喜地发现,在一个例子中观察到的收益有一个简单的解释,事后才明白。从本质上讲,深度学习发现了一种简单而有效的策略,这种策略以前没有被考虑过。
translated by 谷歌翻译
我们提出了一种用于数字反向传播的低复杂度子带级DSP架构,其中使用简单的去除元件来补偿离散效应。对于模拟的96-Gbaud信号和2500 km光链路,我们的方法在线性均衡方面实现了2.8 dB的SNR改善。
translated by 谷歌翻译
我们考虑使用机器学习技术联合优化和量化的色散滤波器进行时域数字反向传播。与基线实现相比,我们在28-nm CMOS中显示出改善的BER性能和> 40%的功耗降低。
translated by 谷歌翻译
机器学习用于计算简化光纤通道的可实现信息速率(AIR)。该方法共同优化输入分布(星座整形)和辅助信道分布,以端到端的方式计算AIR而无需显式信道知识。
translated by 谷歌翻译
训练深度神经网络是一项非常重要的任务。不仅调整高参数,而且训练数据的收集和选择,损失函数的设计以及训练计划的构建对于充分利用模型是非常重要的。在本研究中,我们进行了一系列与这些问题相关的实验。研究不同训练策略的模型是最近呈现的SDC描述符网络(堆叠扩张卷积)。它用于描述像素级fordense匹配任务的图像。我们的工作更详细地分析了SDC,验证了用于训练深度神经网络的一些最佳实践,并提供了对多个域数据进行操作的见解。
translated by 谷歌翻译
在这项工作中,提出了一个进化艺术项目,其中图像区域通过不同类型的透明,重叠和几何形状(例如,多边形,圆形,线条)进行近似。表示几何形状的特征和顺序的基因型利用适应度函数进化,该适应度函数具有输入图像的相应像素作为目标目标。因此,将基因型 - 表型作图应用于渲染图像,因为选择的遗传表示是间接的,即基因型不包括像素,而是形状与其性质的组合。形状,形状数量,突变类型和种群的不同组合进行了测试。这里的工作目标有两个:(1)用进化的间接编码尽可能精确地近似图像,(2)产生视觉上吸引人的结果和新颖的艺术风格。
translated by 谷歌翻译
本研究调查对弱监督分割的CNN输出强加不等式约束。在deepnetworks的一般上下文中,约束通常用惩罚方法来处理,尽管它们具有众所周知的局限性。拉格朗日优化在惩罚方法方面具有完善的理论和实践优势,但在很大程度上避免了深度CNN,这主要是由于交替随机优化和双重更新引起的计算复杂性和稳定性/收敛问题。最近的几项研究表明,在深度CNN的背景下,拉格朗日优化的简单惩罚的理论优势在实践中并未实现,其表现令人惊讶地更糟。我们利用内部点方法中的成熟概念,将拉格朗日优化与一系列无约束问题进行对比,同时完全避免双步/投影。具体而言,我们提出了无约束{\ em log-barrier-extension}损失的序列,用于逼近基于质量约束的CNN问题。所提出的扩展具有二元 - 间隙,其在凸损失的情况下产生用于可行解的次优证书。虽然不能保证非凸性问题的次优性,但结果表明,对数障碍扩展是约束CNN的拉格朗日优化近似的一种原则性方法。我们认识到了惩罚方法的众所周知的局限性,同时也消除了拉格朗日优化的明确的双重步骤。我们报告的综合实验表明,我们的公式在准确性和训练稳定性方面都优于最近基于纯度的约束CNN方法。
translated by 谷歌翻译
非线性机器学习模型通常会因缺乏可解释性而牺牲一个很好的预测性能。然而,模型不可知解释技术现在允许我们估计任何预测模型的特征的影响和重要性。不同的符号和术语使他们的理解以及它们如何相关变得复杂。缺少对这些方法的统一观点。我们提出了广义SIPA(采样,干预,预测,聚合)工作阶段框架,用于模式诊断解释技术,并演示如何将几个突出的特征效应方法嵌入到提议的框架中。 Wealso正式引入预先存在的边际效应来描述黑盒模型的特征效应。此外,我们通过指出基于方差和基于性能的重要性度量如何基于相同的工作阶段,将框架扩展到特征重要性计算。广义框架可以作为在机器学习中进行模型不可知解释的指导。
translated by 谷歌翻译
本文介绍了一个新的录音数据库,其目的是支持对语音控制系统(VCS)的漏洞和保护的研究。与先前的努力相反,所提出的数据库包含真实的语音命令和这些命令的重放记录,在现实VCS使用场景中收集并使用现代语音助理开发包。具体地说,数据库包含来自四个系统(每个系统具有不同的麦克风阵列)的记录,其在各种环境条件下具有不同形式的背景噪声和speakerand设备之间的相对位置。据我们所知,这是第一个公开提供的数据库,专门用于保护最先进的语音控制系统,防止各种重放攻击不稳定的条件和环境。
translated by 谷歌翻译