分位数特征选择与相关的多变量时间序列数据一直是一种方法论挑战，是一个公开的问题。在本文中，我们提出了一般的概率方法，用于在分位数特征选择时间序列（QFSTS）模型的名称下进行关节定量时间序列分析中的特征选择。 QFSTS模型是一般的结构时间序列模型，其中每个组件对具有直接解释的时间序列建模产生了添加剂贡献。其灵活性是化合物，用户可以在用户可以为每个次系列添加/扣除组件，并且每个时间序列都可以具有其自身特定的不同大小的价值组件。特征选择是在分位数回归组件中进行的，其中每个时间序列都有自己的同时外部预测器池，允许“垂圈”。通过多变量非对称LAPLACE分布，“峰值板”先前设置，Metropolis-Hastings算法和贝叶斯模型平均技术，开发了创造性的概率方法在扩展到分量时间序列研究区域的特征选择。始终如一地在贝叶斯范式中。与大多数机器学习算法不同，QFSTS模型需要小型数据集训练，快速收敛，并且可在普通的个人计算机上进行可执行。对模拟数据和经验数据的广泛检查确认QFSTS模型具有卓越的性能特征选择，参数估计和预测。

This paper extends quantile factor analysis to a probabilistic variant that incorporates regularization and computationally efficient variational approximations. By means of synthetic and real data experiments it is established that the proposed estimator can achieve, in many cases, better accuracy than a recently proposed loss-based estimator. We contribute to the literature on measuring uncertainty by extracting new indexes of low, medium and high economic policy uncertainty, using the probabilistic quantile factor methodology. Medium and high indexes have clear contractionary effects, while the low index is benign for the economy, showing that not all manifestations of uncertainty are the same.

预测组合在预测社区中蓬勃发展，近年来，已经成为预测研究和活动主流的一部分。现在，由单个（目标）系列产生的多个预测组合通过整合来自不同来源收集的信息，从而提高准确性，从而减轻了识别单个“最佳”预测的风险。组合方案已从没有估计的简单组合方法演变为涉及时间变化的权重，非线性组合，组件之间的相关性和交叉学习的复杂方法。它们包括结合点预测和结合概率预测。本文提供了有关预测组合的广泛文献的最新评论，并参考可用的开源软件实施。我们讨论了各种方法的潜在和局限性，并突出了这些思想如何随着时间的推移而发展。还调查了有关预测组合实用性的一些重要问题。最后，我们以当前的研究差距和未来研究的潜在见解得出结论。

We develop Bayesian neural networks (BNNs) that permit to model generic nonlinearities and time variation for (possibly large sets of) macroeconomic and financial variables. From a methodological point of view, we allow for a general specification of networks that can be applied to either dense or sparse datasets, and combines various activation functions, a possibly very large number of neurons, and stochastic volatility (SV) for the error term. From a computational point of view, we develop fast and efficient estimation algorithms for the general BNNs we introduce. From an empirical point of view, we show both with simulated data and with a set of common macro and financial applications that our BNNs can be of practical use, particularly so for observations in the tails of the cross-sectional or time series distributions of the target variables.

在环境中，从天气预报到财务预测的政治预测，未来二元成果的概率估计通常随着时间的推移而发展。例如，随着新信息可用的时间，特定日期的估计可能性在特定日变化。鉴于这种概率路径的集合，我们介绍了一个贝叶斯框架 - 我们称之为高斯潜在信息鞅，或粘合 - 用于模拟动态预测的结构随着时间的推移。例如，假设一个星期下雨的可能性是50％，并考虑两个假设情景。首先，人们希望预测同样可能成为明天的25％或75％;第二，人们预计预测将在未来几天保持不变。一个时间敏感的决策者可以在后一种情况下立即选择一个行动方案，但可能会推迟他们在前者的决定，知道新信息迫在眉睫。我们通过假设根据信息流的潜在进程的预测更新来模拟这些轨迹，从历史数据推断出来。与时间序列分析的一般方法相比，这种方法保留了诸如Martingale结构的概率路径的重要属性，以及适当的挥发性，并且更好地量化了概率路径周围的未来不确定性。我们表明光泽优于三种流行的基线方法，产生了由三种不同度量测量的更高估计的后验概率路径分布。通过阐明时间随着时间的推移来解除预测的动态结构，希望能帮助个人做出更明智的选择。

随机微分方程的系统定义了一系列随机波动率模型。尽管这些模型在金融和统计气候学等领域中取得了广泛的成功，但它们通常缺乏在历史数据上条件产生真正的后验分布的能力。为了解决这一基本限制，我们展示了如何将一类随机波动率模型重新塑造为具有专门协方差函数的层次高斯工艺（GP）模型。该GP模型保留了随机波动率模型的电感偏差，同时提供了GP推断给出的后验预测分布。在此框架内，我们从研究良好的域中汲取灵感，以引入新的型号，即Volt和Magpie，这些模型在库存和风速预测中的表现明显超过了基线，并且自然扩展到多任务设置。

我们介绍了称为\ texttt {mecats}的异构专家框架的混合，其同时预测通过聚合层次结构相关的一组时间序列的值。不同类型的预测模型可以作为个别专家使用，以便可以根据相应时间序列的性质来定制每个模型的形式。 \ TextTt {Mecats}在培训阶段期间了解分层关系，以帮助概括在被建模的所有时间序列中更好地提高，并且还减轻了由于层次结构施加的约束而产生的一致性问题。我们进一步在点预测的顶部构建多个分位数估计值。由此产生的概率预测几乎是连贯的，无分布的，并且独立于预测模型的选择。我们对两点和概率预测进行了全面的评估，并制定了序列数据中存在变化点的情况的扩展。通常，我们的方法是强大的，适用于具有不同特性的数据集，对大规模预测管道具有高度可配置和高效的。

离散数据丰富，并且通常作为计数或圆形数据而出现。甚至对于线性回归模型，缀合格前沿和闭合形式的后部通常是不可用的，这需要近似诸如MCMC的后部推理。对于广泛的计数和圆形数据回归模型，我们介绍了能够闭合后部推理的共轭前沿。密钥后和预测功能可通过直接蒙特卡罗模拟来计算。至关重要的是，预测分布是离散的，以匹配数据的支持，并且可以在多个协变量中进行共同评估或模拟。这些工具广泛用途是线性回归，非线性模型，通过基础扩展，以及模型和变量选择。多种仿真研究表明计算，预测性建模和相对于现有替代方案的选择性的显着优势。

我们提出了一种变分贝叶斯比例危险模型，用于预测和可变选择的关于高维存活数据。我们的方法基于平均场变分近似，克服了MCMC的高计算成本，而保留有用的特征，提供优异的点估计，并通过后夹层概念提供可变选择的自然机制。我们提出的方法的性能通过广泛的仿真进行评估，并与其他最先进的贝叶斯变量选择方法进行比较，展示了可比或更好的性能。最后，我们展示了如何在两个转录组数据集上使用所提出的方法进行审查的生存结果，其中我们识别具有预先存在的生物解释的基因。

我们提出了一种对任何概率基础预测进行核对的原则方法。我们展示了如何通过通过贝叶斯规则合并底部预测和上层时间序列中包含的信息来获得概率对帐。我们在玩具层次结构上说明了我们的方法，展示了我们的框架如何允许对任何基本预测的概率对帐。我们对计数时间序列的时间层次结构进行对帐进行实验，与基于高斯或截短的高斯分布相比，获得了重大改进。

在金融时序预测时，我们调查特征选择，非线性建模和在线学习的好处。我们考虑在线学习的顺序和持续学习子类型。我们进行的实验表明，以径向基函数网络的形式，在线转移学习存在益处，超出了递归最小二乘模型的顺序更新。我们表明，利用聚类算法构建核克矩阵的径向基函数网络比将每个训练矢量视为单独的基本函数，与内核脊回归发生的更有益。我们展示了定量程序来确定径向基函数网络的结构非常结构。最后，我们对金融时间序列的日志回报进行了实验，并表明在线学习模型，特别是径向基函数网络，能够优于随机的散步基线，而离线学习模型努力这样做。

无似然方法是对可以模拟的隐式模型执行推断的必不可少的工具，但相应的可能性是棘手的。但是，常见的无可能方法不能很好地扩展到大量模型参数。一种有前途的无可能推理的有前途的方法涉及通过仅根据据信为低维成分提供信息的摘要统计数据来估计低维边缘后期，然后在某种程度上结合了低维近似值。在本文中，我们证明，对于看似直观的汇总统计选择，这种低维近似值在实践中可能是差的。我们描述了一个理想化的低维汇总统计量，原则上适用于边际估计。但是，在实践中很难直接近似理想的选择。因此，我们提出了一种替代的边际估计方法，该方法更容易实施和自动化。考虑到初始选择的低维摘要统计量可能仅对边缘后验位置有用，新方法通过使用所有摘要统计数据来确保全局可识别性来提高性能，从而提高性能使用低维摘要统计量进行精确的低维近似。我们表明，该方法的后部可以分别基于低维和完整的摘要统计数据将其表示为后验分布的对数库。在几个示例中说明了我们方法的良好性能。

不同的代理需要进行预测。他们观察到相同的数据，但有不同的模型：他们预测使用不同的解释变量。我们研究哪个代理商认为它们具有最佳的预测能力 - 通过最小的主观后均匀平均平方预测误差来衡量 - 并且显示它如何取决于样本大小。使用小样品，我们呈现结果表明它是使用低维模型的代理。对于大型样品，通常是具有高维模型的代理，可能包括无关的变量，但从未排除相关的变量。我们将结果应用于拍卖生产资产拍卖中的获胜模型，以争辩于企业家和具有简单模型的投资者将在新部门过度代表，并了解解释横断面变异的“因素”的扩散资产定价文学中的预期股票回报。

基于多维时间序列预测的歧管学习，我们解决了三层数值框架。在第一步，我们使用诸如局部线性嵌入和扩散图的非线性歧管学习算法将时间序列嵌入到降低的低维空间中。在第二步，我们在歧管中构建倒计阶回归模型，特别是多变量自回归（MVAR）和高斯过程回归（GPR）模型，以预测嵌入式动态。在最后一步，我们使用径向基函数插值和几何谐波将嵌入的时间序列抬回原始的高维空间。对于我们的插图，我们使用四组时间序列测试所提出的数值方案的预测性能：三种合成随机等于具有不同模型订单的线性和非线性随机模型的EEG信号，以及包含每日时间的一个真实数据集跨越时间段03 / 09/2001-29 / 10/2020的10个关键外汇汇率（外汇）系列。使用歧管学习，建模和提升方法的组合评估所提出的数值方案的预测性能。我们还提供与主成分分析算法以及天真随机步道模型的比较，以及培训的MVAR和GPR模型直接在高维空间中实现。

在许多应用和研究领域，时间序列的概率预测是重要的事情。为了从概率预测中得出结论，我们必须确保用于近似真实预测分布的模型类足够表达。然而，模型本身的特征，例如其不确定性或特征结果关系并不重要。本文提出了自回旋转换模型（ATM），该模型类是受各种研究方向启发的模型类别，使用半参数分布假设和可解释的模型规范结合表达性分布预测。我们在理论上和通过几个模拟和真实的预测数据集上通过经验评估来证明ATM的属性。

我们提出了贝叶斯溢出图（BSG），这是一种学习时间关系，识别关键节点的新方法，并量化了动态系统中多种植体溢出效应的不确定性。BSG通过预测误差差异分解（FEVD）和通过贝叶斯时间序列模型的全面不确定性定量来利用可解释的框架，以根据系统性风险和预测可变性来使时间关系与时间关系进行环境化。预测地平线超参数$ h $允许学习短期和均衡状态网络行为。在各种图和误差规格下识别源和下沉节点的实验显示，针对最先进的贝叶斯网络和深度学习基线的实验表现出显着的性能增长。对现实世界系统的应用还展示了BSG作为探索性分析工具，用于发现间接溢出和量化系统性风险。

在本文中，我们考虑了使用相同的预测精度测试程序在横截面依赖下实现了实现波动率测量的预测评估。在预测实现挥发性时，我们根据增强横截面评估模型的预测精度。在相等预测精度的零假设下，所采用的基准模型是标准的HAR模型，而在非相同的预测精度的替代方案下，预测模型是通过套索缩收估计的增强的HAR模型。我们通过结合测量误差校正以及横截面跳转分量测量来研究预报对模型规范的敏感性。使用数值实现评估模型的样本外预测评估。

时间变化数量的估计是医疗保健和金融等领域决策的基本组成部分。但是，此类估计值的实际实用性受到它们量化预测不确定性的准确程度的限制。在这项工作中，我们解决了估计高维多元时间序列的联合预测分布的问题。我们提出了一种基于变压器体系结构的多功能方法，该方法使用基于注意力的解码器估算关节分布，该解码器可被学会模仿非参数Copulas的性质。最终的模型具有多种理想的属性：它可以扩展到数百个时间序列，支持预测和插值，可以处理不规则和不均匀的采样数据，并且可以在训练过程中无缝地适应丢失的数据。我们从经验上证明了这些属性，并表明我们的模型在多个现实世界数据集上产生了最新的预测。

对极端事件的风险评估需要准确估算超出历史观察范围的高分位数。当风险取决于观察到的预测因子的值时，回归技术用于在预测器空间中插值。我们提出的EQRN模型将来自神经网络和极值理论的工具结合到能够在存在复杂预测依赖性的情况下外推的方法中。神经网络自然可以在数据中融合其他结构。我们开发了EQRN的经常性版本，该版本能够在时间序列中捕获复杂的顺序依赖性。我们将这种方法应用于瑞士AARE集水区中洪水风险的预测。它利用从时空和时间上的多个协变量中利用信息，以提供对回报水平和超出概率的一日预测。该输出从传统的极值分析中补充了静态返回水平，并且预测能够适应不断变化的气候中经历的分配变化。我们的模型可以帮助当局更有效地管理洪水，并通过预警系统最大程度地减少其灾难性影响。

The horseshoe prior is known to possess many desirable properties for Bayesian estimation of sparse parameter vectors, yet its density function lacks an analytic form. As such, it is challenging to find a closed-form solution for the posterior mode. Conventional horseshoe estimators use the posterior mean to estimate the parameters, but these estimates are not sparse. We propose a novel expectation-maximisation (EM) procedure for computing the MAP estimates of the parameters in the case of the standard linear model. A particular strength of our approach is that the M-step depends only on the form of the prior and it is independent of the form of the likelihood. We introduce several simple modifications of this EM procedure that allow for straightforward extension to generalised linear models. In experiments performed on simulated and real data, our approach performs comparable, or superior to, state-of-the-art sparse estimation methods in terms of statistical performance and computational cost.