在本文中,我们提出了一种称为MINIBATCH随机三点(MISTP)方法的新的零订单优化方法,以在只有目标函数评估的近似值的情况下解决无约束的最小化问题。它基于最近提出的随机三点(STP)方法(Bergou等,2020)。在每次迭代中,MISTP以与STP相似的方式生成一个随机搜索方向,但是仅根据目标函数的近似而不是其精确评估选择下一个迭代。我们还分析了方法在非凸和凸病例中的复杂性,并评估其在多个机器学习任务上的性能。
translated by 谷歌翻译