多项式逻辑回归，也以其他名称（例如多类逻辑回归和SoftMax回归）而闻名，是一种基本的分类方法，可将二进制逻辑回归推广到多类问题。最近的一项工作提出了一个更快的梯度，称为$ \ texttt {二次梯度} $，该梯度可以加速二进制逻辑回归训练，并提出了增强的Nesterov的加速梯度（NAG）方法，以进行二进制逻辑回归。在本文中，我们将这项工作扩展到多类逻辑回归，并提出一种增强的自适应梯度算法（Adagrad），该算法可以加速原始的Adagrad方法。我们在某些多类问题数据集上测试了增强的NAG方法和增强的Adagrad方法。实验结果表明，这两种增强方法的收敛速度分别比原始方法更快。

多年来，对加密数据的逻辑回归培训一直是对安全问题的一个有吸引力的想法。在本文中，我们提出了一个更快的梯度变体，称为$ \ texttt {二次梯度} $，以在同构加密域中实现逻辑回归训练，其核心可以看作是简化固定固定hessian的扩展。我们使用该梯度变体分别增强了Nesterov的加速梯度（NAG）和自适应梯度算法（Adagrad），并评估了几个数据集中的增强算法。实验结果表明，与幼稚的一阶梯度方法相比，增强的方法在收敛速度方面具有最先进的性能。然后，我们采用增强的NAG方法来实施同型逻辑回归培训，并仅获得3美元的迭代效果。

我们提出了一种基于优化的基于优化的框架，用于计算差异私有M估算器以及构建差分私立置信区的新方法。首先，我们表明稳健的统计数据可以与嘈杂的梯度下降或嘈杂的牛顿方法结合使用，以便分别获得具有全局线性或二次收敛的最佳私人估算。我们在局部强大的凸起和自我协调下建立当地和全球融合保障，表明我们的私人估算变为对非私人M估计的几乎最佳附近的高概率。其次，我们通过构建我们私有M估计的渐近方差的差异私有估算来解决参数化推断的问题。这自然导致近​​似枢轴统计，用于构建置信区并进行假设检测。我们展示了偏置校正的有效性，以提高模拟中的小样本实证性能。我们说明了我们在若干数值例子中的方法的好处。

内核逻辑回归（KLR）是机器学习中常规的非线性分类器。随着数据大小的爆炸性增长，大型核矩阵的存储和计算是扩展KLR的主要挑战。即使是nyStr \” {o} m近似也用于求解KLR，它还面临$ O（nc^2）$的时间复杂性和$ O（NC）$的空间复杂性，其中$ n是$ n $的数字培训实例和$ c $是抽样大小。在本文中，我们提出了一种快速的牛顿方法，通过利用存储和计算优势，有效地解决了大规模KLR问题，多级循环矩阵（MCM）。带有MCM的矩阵，存储空间减少到$ O（n）$，并进一步近似于牛顿方程的系数矩阵作为MCM，牛顿迭代的计算复杂性降低到$ O（n \ log n \ log n）$。所提出的方法可以在迭代中以对数线性的时间复杂性运行，因为可以实现MCM（或其逆）和向量的乘法多维快速傅立叶变换（MFFT）。 - 分类问题表明，提出的方法启用了S KLR可以扩展到大规模的问题，而不必牺牲测试准确性的情况下，记忆消耗较少，较少的训练时间。

学习率调度程序已在培训深层神经网络中广泛采用。尽管它们的实际重要性，但其实践与理论分析之间存在差异。例如，即使是出于优化二次目标等简单问题，也不知道哪些SGD的时间表达到了最佳收敛性。在本文中，我们提出了本特征库，这是第一个可以在二次目标上获得最小值最佳收敛速率（最多达到常数）的最佳最佳收敛速率（最多达到常数），当时基础Hessian矩阵的特征值分布偏好。这种情况在实践中很普遍。实验结果表明，在CIFAR-10上的图像分类任务中，特征库可以显着超过阶跃衰减，尤其是当时期数量较小时。此外，该理论激发了两个简单的学习率调度程序，用于实用应用程序，可以近似特征。对于某些问题，提议的调度程序的最佳形状类似于余弦衰减的最佳形状，这阐明了余弦衰减在这种情况下的成功。对于其他情况，建议的调度程序优于余弦衰减。

监督字典学习（SDL）是一种经典的机器学习方法，同时寻求特征提取和分类任务，不一定是先验的目标。 SDL的目的是学习类歧视性词典，这是一组潜在特征向量，可以很好地解释特征以及观察到的数据的标签。在本文中，我们提供了SDL的系统研究，包括SDL的理论，算法和应用。首先，我们提供了一个新颖的框架，该框架将“提升” SDL作为组合因子空间中的凸问题，并提出了一种低级别的投影梯度下降算法，该算法将指数成倍收敛于目标的全局最小化器。我们还制定了SDL的生成模型，并根据高参数制度提供真实参数的全局估计保证。其次，我们被视为一个非convex约束优化问题，我们为SDL提供了有效的块坐标下降算法，该算法可以保证在$ O（\ varepsilon^{ - 1}（\ log）中找到$ \ varepsilon $ - 定位点（\ varepsilon \ varepsilon^{ - 1}）^{2}）$ iterations。对于相应的生成模型，我们为受约束和正则化的最大似然估计问题建立了一种新型的非反应局部一致性结果，这可能是独立的。第三，我们将SDL应用于监督主题建模和胸部X射线图像中的肺炎检测中，以进行不平衡的文档分类。我们还提供了模拟研究，以证明当最佳的重建性和最佳判别词典之间存在差异时，SDL变得更加有效。

We analyze Newton's method with lazy Hessian updates for solving general possibly non-convex optimization problems. We propose to reuse a previously seen Hessian for several iterations while computing new gradients at each step of the method. This significantly reduces the overall arithmetical complexity of second-order optimization schemes. By using the cubic regularization technique, we establish fast global convergence of our method to a second-order stationary point, while the Hessian does not need to be updated each iteration. For convex problems, we justify global and local superlinear rates for lazy Newton steps with quadratic regularization, which is easier to compute. The optimal frequency for updating the Hessian is once every $d$ iterations, where $d$ is the dimension of the problem. This provably improves the total arithmetical complexity of second-order algorithms by a factor $\sqrt{d}$.

We propose a Randomised Subspace Gauss-Newton (R-SGN) algorithm for solving nonlinear least-squares optimization problems, that uses a sketched Jacobian of the residual in the variable domain and solves a reduced linear least-squares on each iteration. A sublinear global rate of convergence result is presented for a trust-region variant of R-SGN, with high probability, which matches deterministic counterpart results in the order of the accuracy tolerance. Promising preliminary numerical results are presented for R-SGN on logistic regression and on nonlinear regression problems from the CUTEst collection.

专家（MOE）模型的混合物是对数据中的异质性建模的流行框架，由于其灵活性以及可用的统计估计和模型选择工具的丰富性，用于统计和机器学习中的回归和分类问题。这种灵活性来自于允许MOE模型中的混合物重量（或门控函数）与专家（或组件密度）一起取决于解释变量。与经典的有限混合物和回归模型的有限混合物相比，这允许由更复杂的数据生成过程产生的数据建模，该过程的混合参数与协变量无关。从计算的角度来看，当解释变量的数量可能大于样本量时，MOE模型在高维度中的使用是挑战的，尤其是从理论的角度来看，文献是对于统计估计和特征选择问题，仍缺乏处理维度诅咒的结果。我们考虑具有软马克斯门控函数和高斯专家的有限MOE模型，用于在异质数据上进行高维回归，并通过Lasso进行$ L_1 $调查的估计。我们专注于拉索估计属性，而不是其特征选择属性。我们在LASSO函数的正规化参数上提供了一个下限，该参数确保了根据Kullback-Leibler损失，Lasso估算器满足了$ L_1 $ -ORACLE不平等。

We explore the usage of the Levenberg-Marquardt (LM) algorithm for regression (non-linear least squares) and classification (generalized Gauss-Newton methods) tasks in neural networks. We compare the performance of the LM method with other popular first-order algorithms such as SGD and Adam, as well as other second-order algorithms such as L-BFGS , Hessian-Free and KFAC. We further speed up the LM method by using adaptive momentum, learning rate line search, and uphill step acceptance.

我们分析了牛顿方法的变体的性能，并通过二次正则化来解决复合凸最小化问题。在我们方法的每个步骤中，我们选择正规化参数与当前点的梯度标准的某些功率成正比。我们介绍了一个以h \ h \“第二或第三个衍生物的较旧连续性为特征的问题类别。然后，我们使用简单的自适应搜索步骤介绍该方法，允许自动调整问题类，并以最佳的全球复杂性界限，而无需知道问题的特定参数。特别是，对于Lipschitz连续第三个导数的函数类别，我们获得了全局$ o（1/k^3）$ rate，以前归因于三阶张量方法。功能是均匀凸的，我们证明我们方案的自动加速度是合理的，导致全局速率和局部超线性收敛。不同的速率（sublinear，linear和superlinear）之间的切换是自动的。同样，没有先验的先验需要了解参数。

本文提出了一个新的算法系列，用于在线优化复合目标。该算法可以解释为凸起梯度和$ p $ - 纳米算法的组合。结合适应性和乐观的算法思想，所提出的算法获得了序列依赖的遗憾上限，与稀疏目标决策变量的最著名界限相匹配。此外，该算法具有对流行的复合目标和约束的有效实现，并且可以通过最佳加速速率转换为随机优化算法，以实现流畅的目标。

牛顿方法和Adagrad等高级优化算法受益于二阶导数或二阶统计，以实现更好的下降方向和更快的收敛速率。在他们的心中，这种算法需要计算矩阵的矩阵的反平方根或反平方根，其大小是搜索空间维度的二次。对于高维搜索空间，平方根的矩阵反转或反转变为压倒性的，进而需要近似方法。在这项工作中，我们提出了一种新的矩阵近似方法，该方法将矩阵分为块，并将每个块代表一个或两个数字。该方法允许有效地计算矩阵逆和逆平方根。我们将我们的方法应用于Adagrad，以培训深层神经网络。实验表明与对角线近似相比令人鼓舞的结果。

在本文中，我们考虑通过结合目标函数的曲率信息来改善随机方差减少梯度（SVRG）方法。我们建议通过将其合并到SVRG中，以使用计算有效的Barzilai-Borwein（BB）方法来降低随机梯度的方差。我们还将BB步骤大小合并为其变体。我们证明其线性收敛定理不仅适用于所提出的方法，还适用于SVRG的其他现有变体，并使用二阶信息。我们在基准数据集上进行了数值实验，并表明具有恒定步长的提出方法的性能优于现有方差减少的方法，这些方法对于某些测试问题。

我们通过Pac-Bayes概括界的镜头研究冷后效应。我们认为，在非反应环境中，当训练样本的数量相对较小时，应考虑到冷后效应的讨论，即大概贝叶斯推理并不能容易地提供对样本外数据的性能的保证。取而代之的是，通过泛化结合更好地描述了样本外误差。在这种情况下，我们探讨了各种推理与PAC-Bayes目标的ELBO目标之间的联系。我们注意到，虽然Elbo和Pac-Bayes目标相似，但后一个目标自然包含温度参数$ \ lambda $，不限于$ \ lambda = 1 $。对于回归和分类任务，在各向同性拉普拉斯与后部的近似值的情况下，我们展示了这种对温度参数的PAC-bayesian解释如何捕获冷后效应。

由于迭代元素的结构诱导属性，尤其是在可行的集合上的线性最小化相比，弗兰克 - 沃尔夫方法在统计和机器学习应用中变得越来越有用，尤其是在线性最小化的设置上比投影更有效。在经验风险最小化的设置中，统计和机器学习中的基本优化问题之一 - 弗兰克 - 沃尔夫方法的计算有效性通常在数据观察数$ n $的数量中线性增长。这与典型随机投影方法的情况形成鲜明对比。为了减少对$ n $的依赖性，我们将寻求典型平滑损耗功能的二阶平滑度（例如，最小二乘损失和逻辑损失），我们建议使用泰勒串联序列的Frank-Wolfe方法修改Frank-Wolfe方法，包括确定性和随机设置的变体。与当前的最新方法相比，最佳公差$ \ varepsilon $足够小，我们的方法能够同时减少对大$ n $的依赖，同时获得Frank-Wolfe方法的最佳收敛速率，在凸和非凸设置中。我们还提出了一种新型的自适应阶梯尺寸方法，我们可以为其提供计算保证。最后，我们提出的计算实验表明，我们的方法对凸面和非convex二进制分类问题的现有数据集上的现有方法表现出非常明显的速度。

我们考虑对重尾数据的随机凸优化，并保证成为私人（DP）。此问题的先前工作仅限于梯度下降（GD）方法，这对于大规模问题效率低下。在本文中，我们解决了此问题，并通过剪辑得出了私人随机方法的第一个高概率范围。对于一般凸问题，我们得出过多的人口风险$ \ tilde {o} \ left（\ frac {d^{1/7} \ sqrt {\ ln \ frac {（n \ epsilon） }}} {（n \ epsilon）^{2/7}}} \ right）$和$ \ tilde {o} \ left（\ frac {d^{1/7} \ ln \ ln \ frac {（n \ epsilon）^（n \ epsilon）^ 2} {\ beta d}} {（n \ epsilon）^{2/7}}} \ right）$分别在有限或无限的域假设下（此处$ n $是样本大小，$ d $是数据，$ \ beta $是置信度，$ \ epsilon $是私人级别）。然后，我们将分析扩展到强烈的凸情况和非平滑案例（可用于使用H $ \ ddot {\ text {o}} $ lder-lder-continuule梯度的通用光滑目标）。我们建立了新的超额风险界限，而没有有限的域名。在相应情况下，上面的结果比现有方法降低了多余的风险和梯度复杂性。进行数值实验以证明理论改进是合理的。

近年来，大型贝叶斯学习引起了大量的关注。然而，在大数据时代，我们面临的数据量比我们处理它的能力更快地增长。幸运的是，观察到大规模数据集通常拥有丰富的内部结构，并且有点冗余。在本文中，我们试图通过利用这种结构来简化贝叶斯后的后部。具体而言，我们将利益限制为所谓的群集集群数据集，并根据聚类信息构建\ Emph {近似后后}。幸运的是，可以通过特定聚类算法有效地获得聚类结构。在构建近似后后部时，同一群集中的数据点全部由集群的质心替换。结果，可以显着简化后部。从理论上讲，我们表明，在某些条件下，我们构建体的近似后后部是关闭（通过KL发散测量）到精确的后验。此外，进行彻底的实验以验证构造的后验是对真实后部的良好近似，并且更容易来自的事实。

We present a new estimation principle for parameterized statistical models. The idea is to perform nonlinear logistic regression to discriminate between the observed data and some artificially generated noise, using the model log-density function in the regression nonlinearity. We show that this leads to a consistent (convergent) estimator of the parameters, and analyze the asymptotic variance. In particular, the method is shown to directly work for unnormalized models, i.e. models where the density function does not integrate to one. The normalization constant can be estimated just like any other parameter. For a tractable ICA model, we compare the method with other estimation methods that can be used to learn unnormalized models, including score matching, contrastive divergence, and maximum-likelihood where the normalization constant is estimated with importance sampling. Simulations show that noise-contrastive estimation offers the best trade-off between computational and statistical efficiency. The method is then applied to the modeling of natural images: We show that the method can successfully estimate a large-scale two-layer model and a Markov random field.

生成对抗网络（GAN）在数据生成方面取得了巨大成功。但是，其统计特性尚未完全理解。在本文中，我们考虑了GAN的一般$ f $ divergence公式的统计行为，其中包括Kullback- Leibler Divergence与最大似然原理密切相关。我们表明，对于正确指定的参数生成模型，在适当的规律性条件下，所有具有相同歧视类别类别的$ f $ divergence gans均在渐近上等效。 Moreover, with an appropriately chosen local discriminator, they become equivalent to the maximum likelihood estimate asymptotically.对于被误解的生成模型，具有不同$ f $ -Divergences {收敛到不同估计器}的gan，因此无法直接比较。但是，结果表明，对于某些常用的$ f $ -Diverences，原始的$ f $ gan并不是最佳的，因为当更换原始$ f $ gan配方中的判别器培训时，可以实现较小的渐近方差通过逻辑回归。结果估计方法称为对抗梯度估计（年龄）。提供了实证研究来支持该理论，并证明了年龄的优势，而不是模型错误的原始$ f $ gans。