我们考虑Nachmani等人最近提出的加权置信传播(WBP)解码器。其中为每个Tanner图表引入了不同的权重,并使用机器学习技术进行了优化。我们的重点是简单缩放模型,这些模型在某些边缘使用相同的权重,以减少存储和计算负担。主要贡献是表明,使用少量参数进行简单缩放通常可以获得与完全参数化相同的增益。此外,提出了WBP的若干培训改进。例如,已经表明,在比特误码率(BER)和新的“软BER”损失方面,最小化平均二进制交叉熵最不是最优的,这可以导致更好的性能。我们还研究参数适配器网络(PAN),它们了解信噪比和WBP参数之间的关系。例如,对于具有高度冗余奇偶校验矩阵的(32,16)Reed-Muller码,训练具有软BER损失的PAN,假设仅使用三个参数进行简单缩放,则提供近似最大似然性能。
translated by 谷歌翻译
过去十年中机器学习的快速改进开始产生深远的影响。对于通信,具有有限的domainexpertise的工程师现在可以使用现成的学习包来设计基于模拟的高性能系统。在机器学习的当前革命之前,大多数通信工程师都非常清楚可以使用随机梯度下降来学习系统参数(例如滤波器系数)。然而,一点也不清楚,系统架构中更复杂的部分也可以学习。在本文中,我们讨论了机器学习技术在双通信问题中的应用,并着重于从结果系统中学到的东西。我们惊喜地发现,在一个例子中观察到的收益有一个简单的解释,事后才明白。从本质上讲,深度学习发现了一种简单而有效的策略,这种策略以前没有被考虑过。
translated by 谷歌翻译
我们提出了一种用于数字反向传播的低复杂度子带级DSP架构,其中使用简单的去除元件来补偿离散效应。对于模拟的96-Gbaud信号和2500 km光链路,我们的方法在线性均衡方面实现了2.8 dB的SNR改善。
translated by 谷歌翻译
我们考虑使用机器学习技术联合优化和量化的色散滤波器进行时域数字反向传播。与基线实现相比,我们在28-nm CMOS中显示出改善的BER性能和> 40%的功耗降低。
translated by 谷歌翻译
机器学习用于计算简化光纤通道的可实现信息速率(AIR)。该方法共同优化输入分布(星座整形)和辅助信道分布,以端到端的方式计算AIR而无需显式信道知识。
translated by 谷歌翻译
有限的前瞻已经在完整的信息游戏中研究了几十年。我们通过两个同时的偏差点开始了一个新的方向:概括到不完全信息游戏和游戏理论方法。我们研究一个人在面对一个前瞻的对手时应该如何行动我们根据他们的前瞻深度,根据他们是否也有不完整的信息,并根据他们如何破坏来研究这个问题。我们描述了为任何一个参与者找到纳什均衡或最优承诺策略的硬度,表明在某些变化中,问题可以在多项式时间内解决,而在其他情况下,它是PPAD-硬或NP-硬。我们继续设计用于计算最佳承诺策略的算法 - 用于当对手按照固定规则或者对抗方式有利地打破关系时。然后,我们通过实验研究有限前瞻的影响。有限的前瞻玩家如果知道游戏树中节点的预期值以获得某种平衡,则通常会获得游戏的价值 - 但我们证明这一般是不够的。最后,我们研究噪声对这些估计和不同前瞻深度的影响。这将发现一个不完整的信息游戏先行病理。
translated by 谷歌翻译
CFR框架已成为在实践中解决大型广泛形式游戏的强大工具。然而,基于afFR的算法收敛到纳什均衡的理论速率大约为$ O(T ^ { - 1/2})$,其中$ T $是迭代次数。相比之下,一阶方法可用于实现迭代的$ O(T ^ { - 1})$依赖,但这些方法在实践中不太成功。在这项工作中,我们提出了第一个CFR变体,它打破了平方根对迭代的依赖性。通过结合和扩展关于矩阵游戏设置的预测和稳定的后悔化器的最新进展,我们表明可以利用“乐观”后悔最小化器在CFR中实现$ O(T ^ { - 3/4})$收敛率。这是通过引入一个新的稳定预测概念,并通过设置每个反事实的后悔化器相对于其在决策树中的位置的稳定性来实现的。实验表明,这种方法比原始的CFR算法更快,尽管不如新的变种快,尽管它们的最坏情况是$ O(T ^ { - 1/2}} $依赖性。
translated by 谷歌翻译
用于分割的监督深度学习方法需要大量标记的训练数据,否则它们易于过度拟合,而不能很好地概括为看不见的图像。在实践中,从临床专家获得大量注释是昂贵且耗时的。解释注释示例稀缺的一种方法是使用randomspatial和intensity变换进行数据增强。最近,已经提出使用生成模型来合成逼真的训练示例,补充随机增强。到目前为止,这些方法在随机增强方面取得了有限的收益。然而,有可能通过(i)明确地对变形场(非仿射空间变换)和强度变换进行建模以及(ii)在生成过程期间利用未标记数据来改进该方法。有了这个动机,我们提出了一种新颖的任务驱动的数据增强方法,其中综合新的训练样例,生成网络明确地模拟和应用变形场和附加强度掩模分别对现有的标记数据,建模形状和强度变化。至关重要的是,生成模型被优化以有利于任务,在这种情况下是分割,并且被约束以匹配从标记和未标记样本观察到的图像的分布。此外,变形场的显式建模允许通过简单地将所生成的变换应用于输入图像和相应的注释来合成分割掩模和图像。我们在心磁共振图像(MRI)上的实验表明,对于分割任务训练数据场景的任务,所提出的方法基本上优于传统的增强技术。
translated by 谷歌翻译
早期发现癌症对于治疗和整体患者生存至关重要。在上呼吸消化道(UADT)中,用于鉴定恶性组织的金标准是侵入性活组织检查。最近,诸如共聚焦激光显微术和光学相干断层扫描(OCT)的非侵入性成像技术已被用于组织评估。特别是,在最近的一项研究中,专家仅使用OCT图像将UADT中的病变分类为其侵袭性。由于结果很有希望,病变的自动分类可能是可行的,可以帮助专家决策。因此,我们从OCT图像中解决了自动病变分类的问题。由于availabledataset非常小且数据质量有限,因此这项任务非常具有挑战性。然而,由于类似的问题在许多临床情景中是典型的,我们研究了在何种程度上仍然可以训练深度学习方法并将其用于决策支持。
translated by 谷歌翻译
我们推导出一系列蒙特卡罗估计量,用于预期的变量分布的期望值,它与对数导数技巧有关,但是涉及样本之间的成对相互作用。其中的第一个来自a)基于微积分的基本定理引入和近似积分表示,或b)在参数的无穷小扰动下将重新参数化技巧应用于隐式参数化。从前一个角度来看,我们推广到再生kernelHilbert空间表示,从而在上面提到的成对交互中产生局部性参数。由此产生的估计器是无偏的,并且与log-derivative估计器相比,shownto提供了有用信息的独立组成部分。有前途的分析和数值例子证实了新估算器背后的直觉。
translated by 谷歌翻译