它已被广泛记录说粒子过滤器中的采样和重采样步骤不能差异化。介绍{\ itshape Reparameterisisisisisation技巧}以允许采样步骤重新重整为可微分功能。我们扩展{\ itshape Reparameterisisisation Trick}以包括重采样的随机输入，因此在此步骤之后限制了梯度计算中的不连续性。了解先前和可能性的梯度允许我们运行粒子马尔可夫链蒙特卡罗（P-MCMC）并在估算参数时使用No-U转样采样器（螺母）作为提案。我们将大都市调整后的Langevin算法（MALA）进行比较，汉密尔顿蒙特卡罗与不同数量的步骤和坚果。我们考虑两个状态空间模型，并表明坚果改善了马尔可夫链的混合，可以在较少的计算时间内产生更准确的结果。

Hamiltonian Monte Carlo (HMC) is a Markov chain Monte Carlo (MCMC) algorithm that avoids the random walk behavior and sensitivity to correlated parameters that plague many MCMC methods by taking a series of steps informed by first-order gradient information. These features allow it to converge to high-dimensional target distributions much more quickly than simpler methods such as random walk Metropolis or Gibbs sampling. However, HMC's performance is highly sensitive to two user-specified parameters: a step size and a desired number of steps L. In particular, if L is too small then the algorithm exhibits undesirable random walk behavior, while if L is too large the algorithm wastes computation. We introduce the No-U-Turn Sampler (NUTS), an extension to HMC that eliminates the need to set a number of steps L. NUTS uses a recursive algorithm to build a set of likely candidate points that spans a wide swath of the target distribution, stopping automatically when it starts to double back and retrace its steps. Empirically, NUTS perform at least as efficiently as and sometimes more efficiently than a well tuned standard HMC method, without requiring user intervention or costly tuning runs. We also derive a method for adapting the step size parameter on the fly based on primal-dual averaging. NUTS can thus be used with no hand-tuning at all. NUTS is also suitable for applications such as BUGS-style automatic inference engines that require efficient "turnkey" sampling algorithms.

颗粒滤波方法广泛应用于非线性非高斯状态空间模型内的顺序状态估计。然而，传统的颗粒过滤方法在高维状态空间模型中遭受重量退化。目前，有许多方法可以提高高维状态空间模型中粒子滤波的性能。其中，更先进的方法是通过实施复合Metropolis-Hasting（MH）内核来构建顺序Makov Chian Monte Carlo（SMCMC）框架。在本文中，我们提出了离散的示出ZAG采样器，并在SMCMC框架内的复合MH内核的细化阶段应用Zig-Zag采样器，其在联合拉伸阶段中的可逆颗粒流动实现。通过挑战复杂的高维过滤实施例的数值实验，我们评估所提出的方法的性能。无限的实验表明，在高维状态估计例中，所提出的方法提高了估计精度并增加了与最先进的过滤方法相比的接收比率。

潜在位置网络模型是网络科学的多功能工具;应用程序包括集群实体，控制因果混淆，并在未观察的图形上定义前提。估计每个节点的潜在位置通常是贝叶斯推理问题的群体，吉布斯内的大都市是最流行的近似后分布的工具。然而，众所周知，GIBBS内的大都市对于大型网络而言是低效;接受比计算成本昂贵，并且所得到的后绘高度相关。在本文中，我们提出了一个替代的马尔可夫链蒙特卡罗战略 - 使用分裂哈密顿蒙特卡罗和萤火虫蒙特卡罗的组合定义 - 利用后部分布的功能形式进行更有效的后退计算。我们展示了这些战略在吉布斯和综合网络上的其他算法中优于大都市，以及学区的教师和工作人员的真正信息共享网络。

汉密尔顿蒙特卡罗（HMC）方法广泛用于利用高效率和良好的空间尺寸的效率和良好可扩展性，将样品从非正式化的目标密度绘制。然而，当目标分布是多式化的时，HMC奋斗，因为沿着模拟路径的势能函数（即负面日志密度函数）的最大增加是由初始动能的界限，这遵循$ \ Chi_d的一半^ 2 $分布，其中d是空间尺寸。在本文中，我们开发了一个汉密尔顿蒙特卡罗方法，其中构造的路径可以穿过高潜在的能量屏障。该方法不需要预先知道目标分布的模式。我们的方法通过连续改变模拟粒子的质量而在构造哈密顿路径时，我们的方法能够频繁跳跃。因此，该方法可以被认为是HMC和钢化转变方法的组合。与其他回火方法相比，我们的方法在GIBBS采样器设置中具有独特的优势，其中目标分布在每个步骤中发生变化。我们为我们的方法制定了实用的调整策略，并证明它可以使用法线和传感器网络定位问题的混合物来构建靶向高维的Markov链的全局混合马尔可夫链。

在本文中，我们描述了使用汉密尔顿蒙特卡洛方法从基于经验可能性的后验进行采样的{\ tt r}软件包。基于经验可能性的方法论已在最近的许多感兴趣问题的贝叶斯建模中使用。该半摩擦过程可以轻松地将非参数分布估计器的灵活性与参数模型的可解释性结合在一起。该模型是通过估计基于方程的约束来指定的。从贝叶斯的经验可能性（贝耶斯）后部提取推断是具有挑战性的。可能性是数值计算的，因此不存在后部的闭合表达。此外，对于任何有限尺寸的样本，可能性的支持是非凸，这阻碍了许多马尔可夫链蒙特卡洛（MCMC）程序的快速混合。最近已经表明，使用对数经验可能性梯度的性质，可以设计有效的汉密尔顿蒙特卡洛（HMC）算法来从贝内斯尔后部采样。该软件包要求用户仅指定估计方程，先验及其各自的梯度。从参数后部绘制的MCMC样本，并获得了用户所需的各种细节。

本文介绍了一个新的神经网络，在$ \ mathbb r ^ d $的真实值函数之前，通过施工更容易和便宜地缩放到域维数$ d $与通常的karhunen-lo \`eve相比功能空间之前。新的先前是高斯神经网络，其中每个重量和偏差都有一个独立的高斯的先前，但是差异的关键差异是，差异在网络的宽度下减小，使得所得到的函数几乎肯定地定义了很多无限宽度网络的极限。我们表明，在推断未知功能的贝叶斯治疗中，使用希尔伯特Space Markov链蒙特卡罗（MCMC）方法，诱导的后续功能均可用于蒙特卡罗采样。这种类型的MCMC很受欢迎，例如，在贝叶斯逆问题文献中，因为它在网眼细化下稳定，即接受概率不会缩小到0美元，因为函数之前的更多参数甚至是AD Infinitum。在数值例子中，我们展示了其他功能空间前沿的这些竞争优势。我们还在贝叶斯加固学习中实施示例以自动化数据的任务，并首次演示MCMC的稳定性以对这些类型的问题进行网格细化。

我们提出了连续重复的退火流传输蒙特卡洛（CRAFT），该方法结合了顺序的蒙特卡洛（SMC）采样器（本身是退火重要性采样的概括）与使用归一化流量的变异推断。直接训练了归一化的流量，可用于使用KL差异进行每个过渡，以在退火温度之间运输。使用归一化流/SMC近似值估算了此优化目标。我们从概念上展示并使用多个经验示例，这些示例可以改善退火流运输蒙特卡洛（Arbel等，2021），并在其上建造，也可以在基于马尔可夫链蒙特卡洛（MCMC）基于基于的随机归一化流（Wu等人。2020）。通过将工艺纳入粒子MCMC中，我们表明，这种学识渊博的采样器可以在具有挑战性的晶格场理论示例中获得令人印象深刻的准确结果。

最近，经验可能性已在贝叶斯框架下广泛应用。马尔可夫链蒙特卡洛（MCMC）方法经常用于从感兴趣参数的后验分布中采样。然而，可能性支持的复杂性，尤其是非凸性的性质，在选择适当的MCMC算法时建立了巨大的障碍。这种困难限制了在许多应用中基于贝叶斯的经验可能性（贝叶赛）方法的使用。在本文中，我们提出了一个两步的大都会黑斯廷斯算法，以从贝耶斯后期进行采样。我们的建议是在层次上指定的，其中确定经验可能性的估计方程用于根据其余参数的建议值提出一组参数的值。此外，我们使用经验可能性讨论贝叶斯模型的选择，并将我们的两步大都会黑斯廷斯算法扩展到可逆的跳跃马尔可夫链蒙特卡洛手术程序，以便从最终的后验中采样。最后，提出了我们提出的方法的几种应用。

当采样贝叶斯推断时，一种流行的方法是使用汉密尔顿蒙特卡洛（HMC），特别是No-U-Turn采样器（NUTS），该采样器（NUTS）自动决定汉密尔顿轨迹的结束时间。但是，HMC和螺母可能需要众多目标密度的数值梯度，并且在实践中可能会缓慢。我们建议使用HMC和坚果解决贝叶斯推理问题的汉密尔顿神经网络（HNNS）。一旦训练，HNN不需要在采样过程中的目标密度的数值梯度。此外，它们满足了重要的特性，例如完美的时间可逆性和哈密顿保护性，使其非常适合在HMC和坚果中使用，因为可以显示平稳性。我们还提出了一个称为潜在HNN（L-HNN）的HNN扩展，该扩展能够预测潜在的可变输出。与HNN相比，L-HNN提供了提高表达性和减少的集成误差。最后，我们在具有在线错误监测方案的螺母中使用L-HNN，以防止低概率密度区域的样本退化。我们证明了在螺母中的L-HNN，并在线错误监视了一些涉及复杂，重尾和高本地狂热概率密度的示例。总体而言，具有在线错误监控的坚果中的L-HNN令人满意地推断了这些概率密度。与传统的螺母相比，在线错误监控的螺母中，L-HNN需要1--2个目标密度的数值梯度，并通过数量级提高了每个梯度的有效样本量（ESS）。

这是模型选择和假设检测的边缘似然计算的最新介绍和概述。计算概率模型（或常量比率）的常规规定常数是许多统计数据，应用数学，信号处理和机器学习中的许多应用中的基本问题。本文提供了对主题的全面研究。我们突出了不同技术之间的局限性，优势，连接和差异。还描述了使用不正确的前沿的问题和可能的解决方案。通过理论比较和数值实验比较一些最相关的方法。

重要性采样（IS）是一种强大的蒙特卡洛（MC）方法，用于近似积分，例如在贝叶斯推论的背景下。在IS中，从所谓的提案分布中模拟样品，并且该提案的选择是实现高性能的关键。在自适应IS（AIS）方法中，一组建议是迭代改进的。 AIS是一种相关和及时的方法论，尽管仍有许多局限性尚待克服，例如，高维和多模式问题的维度诅咒。此外，汉密尔顿蒙特卡洛（HMC）算法在机器学习和统计数据中变得越来越流行。 HMC具有几个吸引人的特征，例如其探索性行为，尤其是在其他方法遭受的情况下，尤其是在高维目标中。在本文中，我们介绍了新型的汉密尔顿自适应重要性采样（HAIS）方法。 Hais使用平行的HMC链实现了两步自适应过程，每次迭代都合作。拟议的HAI有效地适应了一系列建议，从而提取了HMC的优势。 HAI可以理解为具有额外重采样步骤的通用分层AIS家族的特定实例。 HAIS在高维问题W.R.T.方面取得了重大的绩效提高。最先进的算法。我们讨论了HAI的统计特性，并在两个具有挑战性的例子中显示了其高性能。

从非正规化概率分布的抽样是机器学习中的基本问题，包括贝叶斯建模，潜在因子推断和基于能源的模型训练。在几十年的研究之后，尽管收敛缓慢，但MCMC的变化仍然是抽样的默认方法。辅助神经模型可以学习加速MCMC，但训练额外模型的开销可能是禁止的。我们通过具有非牛顿势头的新的汉密尔顿动态提出了对这个问题的根本不同的方法。与MCMC蒙特卡洛等MCMC接近相比，不需要随机步骤。相反，在扩展状态空间中提出的确定性动态精确地对能量函数指定的目标分布，在ergodicity的假设下。或者，可以将动态解释为在没有训练的情况下对指定的能量模型进行采样的标准化流程。所提出的能量采样哈密尔顿（ESH）动态有一个简单的形式，可以用现有的颂歌解决，但我们推出了一个专业的求解器，它表现出更好的性能。 ESH Dynamics会收敛于其MCMC竞争对手的速度更快，更稳定地培训神经网络能量模型。

顺序蒙特卡洛（SMC）是状态空间模型的推理算法，通过从一系列中间目标分布进行采样来近似后验。目标分布通常被选择为过滤分布，但是这些忽略了未来观察结果的信息，从而导致推理和模型学习的实际和理论局限性。我们介绍了SIXO，这种方法将学习近似平滑分布的目标，并结合了所有观测值的信息。关键思想是使用密度比估计来拟合将过滤分布扭曲到平滑分布中的功能。然后，我们将SMC与这些学习的目标一起使用，以定义模型和建议学习的变异目标。六体的产量可证明更紧密的对数边缘下限，并在各种域中提供了更准确的后验推断和参数估计。

非线性状态空间模型是一种强大的工具，可以在复杂时间序列中描述动态结构。在一个流的媒体设置中，当一次处理一个样本的情况下，状态的同时推断及其非线性动力学在实践中提出了重大挑战。我们开发了一个小说在线学习框架，利用变分推理和顺序蒙特卡罗，这使得灵活和准确的贝叶斯联合过滤。我们的方法提供了滤波后的近似，这可以任意地接近针对广泛的动态模型和观察模型的真正滤波分布。具体地，所提出的框架可以使用稀疏高斯过程有效地近似于动态的后验，允许潜在动力学的可解释模型。每个样本的恒定时间复杂性使我们的方法能够适用于在线学习场景，适用于实时应用。

The purpose of this paper is to explore the use of deep learning for the solution of the nonlinear filtering problem. This is achieved by solving the Zakai equation by a deep splitting method, previously developed for approximate solution of (stochastic) partial differential equations. This is combined with an energy-based model for the approximation of functions by a deep neural network. This results in a computationally fast filter that takes observations as input and that does not require re-training when new observations are received. The method is tested on four examples, two linear in one and twenty dimensions and two nonlinear in one dimension. The method shows promising performance when benchmarked against the Kalman filter and the bootstrap particle filter.

重要性采样（IS）是一种使用来自建议分布和相关重要性权重的独立样本在目标分布下近似期望的方法。在许多应用中，只有直到归一化常数才知道目标分布，在这种情况下，可以使用自称为（SNIS）。虽然自我正态化的使用可能会对估计量的分散产生积极影响，但它引入了偏见。在这项工作中，我们提出了一种新方法BR-SNIS，其复杂性与SNI的复杂性基本相同，并且显着降低了偏见而不增加差异。这种方法是一种包装器，从某种意义上说，它使用了与SNIS相同的建议样本和重要性权重，但巧妙地使用了迭代采样（ISIR）重新采样（ISIR）来形成估算器的偏置版本。我们为提出的算法提供了严格的理论结果，包括新的偏见，方差和高概率界限，这些算法由数值示例进行了说明。

解决扩大流行病学推断对复杂和异质模型的挑战，我们引入了泊松近似可能性（PAL）方法。 PAL是从有限人口，随机隔室模型的近似滤波方程中得出的，并且较大的人口限制驱动了最大PAL估计器的一致性。我们的理论结果似乎是基于大量的部分观察到的关于大量人群限制的部分随机隔室模型的第一个基于可能性的参数估计一致性结果。与基于仿真的方法（例如近似贝叶斯计算和顺序蒙特卡洛）相比，PALS易于实现，仅涉及基本算术操作，而无需调整参数。并快速评估，不需要模型的模拟，并且具有与人口规模无关的计算成本。通过示例，我们演示了PAL的如何：嵌入延迟的接受粒子马尔可夫链蒙特卡洛中以促进贝叶斯的推断；用于拟合流感的年龄结构化模型，利用Stan的自动分化；并应用于校准麻疹的空间元群模型。

这项正在进行的工作旨在为统计学习提供统一的介绍，从诸如GMM和HMM等经典模型到现代神经网络（如VAE和扩散模型）缓慢地构建。如今，有许多互联网资源可以孤立地解释这一点或新的机器学习算法，但是它们并没有（也不能在如此简短的空间中）将这些算法彼此连接起来，或者与统计模型的经典文献相连现代算法出现了。同样明显缺乏的是一个单一的符号系统，尽管对那些已经熟悉材料的人（如这些帖子的作者）不满意，但对新手的入境造成了重大障碍。同样，我的目的是将各种模型（尽可能）吸收到一个用于推理和学习的框架上，表明（以及为什么）如何以最小的变化将一个模型更改为另一个模型（其中一些是新颖的，另一些是文献中的）。某些背景当然是必要的。我以为读者熟悉基本的多变量计算，概率和统计以及线性代数。这本书的目标当然不是​​完整性，而是从基本知识到过去十年中极强大的新模型的直线路径或多或少。然后，目标是补充而不是替换，诸如Bishop的\ emph {模式识别和机器学习}之类的综合文本，该文本现在已经15岁了。

退火重要性采样（AIS）是一种流行的算法，用于估计深层生成模型的棘手边际可能性。尽管AIS可以保证为任何一组超参数提供无偏估计，但共同的实现依赖于简单的启发式方法，例如初始和目标分布之间的几何平均桥接分布，这些分布在计算预算有限时会影响估计性性能。由于使用Markov过渡中的大都市磨碎（MH）校正步骤，因此对完全参数AI的优化仍然具有挑战性。我们提出一个具有灵活中间分布的参数AIS过程，并优化桥接分布以使用较少数量的采样步骤。一种重新聚集方法，它允许我们优化分布序列和Markov转换的参数，该参数适用于具有MH校正的大型Markov内核。我们评估了优化AIS的性能，以进行深层生成模型的边际可能性估计，并将其与其他估计器进行比较。