2022-06-28
这项工作介绍了Revsilo，这是双向多尺度特征融合的第一个可逆模块。像其他可逆方法一样，Revsilo消除了通过重新计算来存储隐藏激活的需求。但是，现有的可逆方法不适用于多尺度功能融合，因此不适用于大型网络。双向多尺度功能融合促进了本地和全球连贯性，并已成为针对空间敏感任务的网络的事实上的设计原理，例如hrnet和效率。当与高分辨率输入配对时，这些网络可以在各种计算机视觉任务中获得最新的结果，但是训练它们需要大量的加速器内存来节省大型的多分辨率激活。这些内存需求上限网络大小并限制进度。利用可逆的重新计算，Revsilo可以减轻记忆问题，同时仍在分辨率范围内运行。堆叠Revsilos，我们创建了RevBIFPN，这是一个完全可逆的双向功能金字塔网络。对于分类，RevBIFPN在使用高达19.8倍的训练记忆时与诸如EdgitionNet之类的网络具有竞争力。当对可可进行微调时，RevBIFPN使用更少的MAC和降低训练时间内存的MAC可提供高达2.5％的AP提升。
translated by 谷歌翻译