设计优化算法一般表现良好,需要对一系列各种问题进行实验。培训神经网络是一项优化任务,在最近的深度学习成功方面已获得突出。尽管进化算法已用于培训神经网络,但梯度下降变体是迄今为止最常见的选择,其在大规模机器学习任务上的良好表现。在本文中,我们贡献了Cornn(使用神经网络对回归任务进行连续优化),这是一套大型套件,用于基准在神经网络培训问题上进行任何连续的黑盒算法的性能。使用一系列回归问题和神经网络体系结构,可以创建具有不同维度和难度级别的问题实例。我们通过比较了300多个问题实例的三种进化和基于群体的算法的性能,证明了康涅斯套件的使用,显示了算法之间的性能互补性的证据。作为基准,根据基于梯度的方法,基于人群的最佳算法的性能是基准的。 Cornn Suite作为公共Web存储库共享,以促进与现有基准平台的轻松集成。
translated by 谷歌翻译