Sequence models based on linear state spaces (SSMs) have recently emerged as a promising choice of architecture for modeling long range dependencies across various modalities. However, they invariably rely on discretization of a continuous state space, which complicates their presentation and understanding. In this work, we dispose of the discretization step, and propose a model based on vanilla Diagonal Linear RNNs ($\mathrm{DLR}$). We empirically show that $\mathrm{DLR}$ is as performant as previously-proposed SSMs in the presence of strong supervision, despite being conceptually much simpler. Moreover, we characterize the expressivity of SSMs (including $\mathrm{DLR}$) and attention-based models via a suite of $13$ synthetic sequence-to-sequence tasks involving interactions over tens of thousands of tokens, ranging from simple operations, such as shifting an input sequence, to detecting co-dependent visual features over long spatial ranges in flattened images. We find that while SSMs report near-perfect performance on tasks that can be modeled via $\textit{few}$ convolutional kernels, they struggle on tasks requiring $\textit{many}$ such kernels and especially when the desired sequence manipulation is $\textit{context-dependent}$. For example, $\mathrm{DLR}$ learns to perfectly shift a $0.5M$-long input by an arbitrary number of positions but fails when the shift size depends on context. Despite these limitations, $\mathrm{DLR}$ reaches high performance on two higher-order reasoning tasks $\mathrm{ListOpsSubTrees}$ and $\mathrm{PathfinderSegmentation}\text{-}\mathrm{256}$ with input lengths $8K$ and $65K$ respectively, and gives encouraging performance on $\mathrm{PathfinderSegmentation}\text{-}\mathrm{512}$ with input length $262K$ for which attention is not a viable choice.

状态空间模型已显示在建模远距离依赖性方面有效，特别是序列分类任务。在这项工作中，我们着重于对英语书籍，GitHub源代码和Arxiv数学文章的自回旋序列建模。基于围绕封闭激活功能的有效性的最新发展，我们提出了一个名为“封闭状态空间（GSS）”的新层，并表明它的训练速度明显快于TPU的S4（即DSS）的对角线版本，具有相当竞争力 - 基于变压器的基线，并表现出零击向更长的输入，同时直接实施。最后，我们表明，利用自我意见来建模局部依赖性，可以进一步提高GSS的性能。

有效地对远程依赖性建模是序列建模的重要目标。最近，使用结构化状态空间序列（S4）层的模型在许多远程任务上实现了最先进的性能。 S4层将线性状态空间模型（SSM）与深度学习技术结合在一起，并利用HIPPO框架进行在线功能近似以实现高性能。但是，该框架导致了架构约束和计算困难，使S4方法变得复杂，可以理解和实施。我们重新审视这样的想法，即遵循河马框架对于高性能是必要的。具体而言，我们替换了许多独立的单输入单输出（SISO）SSM的库S4层与一个多输入的多输出（MIMO）SSM一起使用，并具有降低的潜在尺寸。 MIMO系统的缩小潜在维度允许使用有效的并行扫描，从而简化了将S5层应用于序列到序列转换所需的计算。此外，我们将S5 SSM的状态矩阵初始化，其近似与S4 SSMS使用的河马级矩阵近似，并表明这是MIMO设置的有效初始化。 S5与S4在远程任务上的表现相匹配，包括在远程竞技场基准的套件中平均达到82.46％，而S4的80.48％和最佳的变压器变体的61.41％。

序列建模的一个中心目标是设计一个单个原则模型，该模型可以解决各种方式和任务，尤其是在远程依赖方面的序列数据。尽管包括RNN，CNN和Transformers在内的传统模型具有用于捕获长期依赖性的专业变体，但它们仍然很难扩展到长时间的10000美元或更多步骤。通过模拟基本状态空间模型（SSM）\（x'（t）= ax（t）= ax（t） + bu（t），y（t）= cx（t） + du（t） + du（t）\ ), and showed that for appropriate choices of the state matrix \( A \), this system could handle long-range dependencies mathematically and empirically.但是，该方法具有过度的计算和内存需求，使其无法作为一般序列建模解决方案。我们根据SSM的新参数化提出了结构化状态空间序列模型（S4），并表明它可以比以前的方法更有效地计算出其理论强度。我们的技术涉及对\（a \）进行低级校正的调节，从而使其对角度稳定，并将SSM降低到库奇内核的精心研究的计算中。 S4在各种既定的基准测试范围内取得了强劲的经验结果，包括（i）在顺序CIFAR-10上的91 \％精度，没有数据增强或辅助损失，与较大的2-D Resnet相当，（ii）实质上关闭。在图像和语言建模任务上与变形金刚的差距，同时在远程竞技场基准的每个任务上执行每一代$ 60 \ times $ $（iii）sota，包括求解所有先前工作的挑战性path-x任务，而所有先前工作的长度为16K，同时与所有竞争对手一样高效。

最近已证明状态空间模型（SSM）是深度学习层非常有效的，它是序列模型（例如RNN，CNN或变压器）的有前途替代方案。第一个显示这种潜力的版本是S4模型，它通过使用称为HIPPO矩阵的规定状态矩阵对涉及长期依赖性的任务特别有效。尽管这具有可解释的数学机制来建模长期依赖性，但它引入了一种自定义表示和算法，可能难以实施。另一方面，最新的S4变体称为DSS，表明将状态矩阵完全对角线限制在使用基于近似S4矩阵的特定初始化时，仍然可以保留原始模型的性能。这项工作旨在系统地了解如何参数化和初始化此类对角线状态空间模型。虽然从经典的结果来看，几乎所有SSM都具有等效的对角线形式，但我们表明初始化对于性能至关重要。我们通过证明S4矩阵的对角线限制出人意料地在无限状态尺寸的极限中恢复了相同的内核来解释为什么DSS在数学上起作用。我们还系统地描述了参数化和计算对角线SSM的各种设计选择，并执行对这些选择的影响的受控经验研究。我们的最终型号S4D是S4的简单对角线版本，其内核计算仅需要2行代码，并且几乎在所有设置中都与S4相当地执行，并具有最新的图像，音频和医疗时间序列域的结果，在远程竞技场基准中平均为85％。

State space models (SSMs) have demonstrated state-of-the-art sequence modeling performance in some modalities, but underperform attention in language modeling. Moreover, despite scaling nearly linearly in sequence length instead of quadratically, SSMs are still slower than Transformers due to poor hardware utilization. In this paper, we make progress on understanding the expressivity gap between SSMs and attention in language modeling, and on reducing the hardware barrier between SSMs and attention. First, we use synthetic language modeling tasks to understand the gap between SSMs and attention. We find that existing SSMs struggle with two capabilities: recalling earlier tokens in the sequence and comparing tokens across the sequence. To understand the impact on language modeling, we propose a new SSM layer, H3, that is explicitly designed for these abilities. H3 matches attention on the synthetic languages and comes within 0.4 PPL of Transformers on OpenWebText. Furthermore, a hybrid 125M-parameter H3-attention model that retains two attention layers surprisingly outperforms Transformers on OpenWebText by 1.0 PPL. Next, to improve the efficiency of training SSMs on modern hardware, we propose FlashConv. FlashConv uses a fused block FFT algorithm to improve efficiency on sequences up to 8K, and introduces a novel state passing algorithm that exploits the recurrent properties of SSMs to scale to longer sequences. FlashConv yields 2$\times$ speedup on the long-range arena benchmark and allows hybrid language models to generate text 1.6$\times$ faster than Transformers. Using FlashConv, we scale hybrid H3-attention language models up to 1.3B parameters on the Pile and find promising initial results, achieving lower perplexity than Transformers and outperforming Transformers in zero- and few-shot learning on a majority of tasks in the SuperGLUE benchmark.

Transformers do not scale very well to long sequence lengths largely because of quadratic self-attention complexity. In the recent months, a wide spectrum of efficient, fast Transformers have been proposed to tackle this problem, more often than not claiming superior or comparable model quality to vanilla Transformer models. To this date, there is no well-established consensus on how to evaluate this class of models. Moreover, inconsistent benchmarking on a wide spectrum of tasks and datasets makes it difficult to assess relative model quality amongst many models. This paper proposes a systematic and unified benchmark, Long-Range Arena, specifically focused on evaluating model quality under long-context scenarios. Our benchmark is a suite of tasks consisting of sequences ranging from 1K to 16K tokens, encompassing a wide range of data types and modalities such as text, natural, synthetic images, and mathematical expressions requiring similarity, structural, and visual-spatial reasoning. We systematically evaluate ten well-established long-range Transformer models (Reformers, Linformers, Linear Transformers, Sinkhorn Transformers, Performers, Synthesizers, Sparse Transformers, and Longformers) on our newly proposed benchmark suite. Long-Range Arena paves the way towards better understanding this class of efficient Transformer models, facilitates more research in this direction, and presents new challenging tasks to tackle. Our benchmark code will be released at https://github.com/google-research/long-range-arena.

在这项工作中，我们介绍了内核化变压器，这是一个通用，可扩展的，数据驱动的框架，用于学习变压器中的内核功能。我们的框架将变压器内核作为光谱特征图之间的点产物近似，并通过学习光谱分布来学习内核。这不仅有助于学习通用的内核端到端，而且还可以减少变压器从二次到线性的时间和空间复杂性。我们表明，在准确性和计算效率方面，内核化的变压器实现了与现有的有效变压器体系结构相当的性能。我们的研究还表明，内核的选择对性能有重大影响，而内核学习变体是固定内核变压器的竞争替代方案，无论是长时间的序列任务。

在本文中，我们试图通过引入深度学习模型的句法归纳偏见来建立两所学校之间的联系。我们提出了两个归纳偏见的家族，一个家庭用于选区结构，另一个用于依赖性结构。选区归纳偏见鼓励深度学习模型使用不同的单位（或神经元）分别处理长期和短期信息。这种分离为深度学习模型提供了一种方法，可以从顺序输入中构建潜在的层次表示形式，即更高级别的表示由高级表示形式组成，并且可以分解为一系列低级表示。例如，在不了解地面实际结构的情况下，我们提出的模型学会通过根据其句法结构组成变量和运算符的表示来处理逻辑表达。另一方面，依赖归纳偏置鼓励模型在输入序列中找到实体之间的潜在关系。对于自然语言，潜在关系通常被建模为一个定向依赖图，其中一个单词恰好具有一个父节点和零或几个孩子的节点。将此约束应用于类似变压器的模型之后，我们发现该模型能够诱导接近人类专家注释的有向图，并且在不同任务上也优于标准变压器模型。我们认为，这些实验结果为深度学习模型的未来发展展示了一个有趣的选择。

We introduce Performers, Transformer architectures which can estimate regular (softmax) full-rank-attention Transformers with provable accuracy, but using only linear (as opposed to quadratic) space and time complexity, without relying on any priors such as sparsity or low-rankness. To approximate softmax attentionkernels, Performers use a novel Fast Attention Via positive Orthogonal Random features approach (FAVOR+), which may be of independent interest for scalable kernel methods. FAVOR+ can also be used to efficiently model kernelizable attention mechanisms beyond softmax. This representational power is crucial to accurately compare softmax with other kernels for the first time on large-scale tasks, beyond the reach of regular Transformers, and investigate optimal attention-kernels. Performers are linear architectures fully compatible with regular Transformers and with strong theoretical guarantees: unbiased or nearly-unbiased estimation of the attention matrix, uniform convergence and low estimation variance. We tested Performers on a rich set of tasks stretching from pixel-prediction through text models to protein sequence modeling. We demonstrate competitive results with other examined efficient sparse and dense attention methods, showcasing effectiveness of the novel attention-learning paradigm leveraged by Performers.

线性状态空间模型（SSM）的状态过渡矩阵的适当参数化，然后是标准非线性，使他们能够从顺序数据中有效地学习表示形式，从。在本文中，我们表明，当线性液体时恒定（LTC）状态空间模型给出诸如S4之类的结构SSM时，我们可以进一步改善。 LTC神经网络是带有输入依赖性状态过渡模块的因果连续神经网络，这使他们学会在推理时适应传入的输入。我们表明，通过使用对角和S4中引入的状态过渡矩阵的对角线加低级分解以及一些简化的基于LTC的结构状态空间模型（称为Liquid-S4）实现了新的最新最先进的最先进跨序列建模任务具有长期依赖性（例如图像，文本，音频和医疗时间序列）的艺术概括，在远程竞技场基准中的平均性能为87.32％。在完整的原始语音命令识别中，数据集Liquid-S4的精度达到96.78％，与S4相比，参数计数降低了30％。性能的额外增益是液体-S4的核结构的直接结果，该结构考虑了训练和推理过程中输入序列样本的相似性。

Transformers-based models, such as BERT, have been one of the most successful deep learning models for NLP. Unfortunately, one of their core limitations is the quadratic dependency (mainly in terms of memory) on the sequence length due to their full attention mechanism. To remedy this, we propose, BIGBIRD, a sparse attention mechanism that reduces this quadratic dependency to linear. We show that BIGBIRD is a universal approximator of sequence functions and is Turing complete, thereby preserving these properties of the quadratic, full attention model. Along the way, our theoretical analysis reveals some of the benefits of having O(1) global tokens (such as CLS), that attend to the entire sequence as part of the sparse attention mechanism. The proposed sparse attention can handle sequences of length up to 8x of what was previously possible using similar hardware. As a consequence of the capability to handle longer context, BIGBIRD drastically improves performance on various NLP tasks such as question answering and summarization. We also propose novel applications to genomics data.

我们介绍了块状变压器，该变压器以序列的反复方式应用变压器层，并且相对于序列长度具有线性复杂性。我们的复发单元在训练过程中在代币的块而不是单个令牌上运行，并利用块内并行计算，以便有效利用加速器硬件。单元本身非常简单。它仅仅是一个变压器层：它使用自我注意事项和交叉注意力来有效计算大量状态向量和令牌上的复发函数。我们的设计部分受到LSTM单元的启发，它使用LSTM风格的大门，但它可以将典型的LSTM单元缩放为几个数量级。我们的复发实现在计算时间和参数计数中都具有相同的成本作为传统的变压器层，但是在很长的序列中，语言建模任务中的语言建模任务的困惑极大地改善了。我们的模型比远程变压器XL基线的表现宽大，同时运行的速度是两倍。我们证明了它在PG19（书籍），Arxiv论文和GitHub源代码上的有效性。我们的代码已发布为开​​源。

线性时间不变的状态空间模型（SSM）是工程和统计数据的经典模型，最近通过结构化状态空间序列模型（S4）证明，在机器学习中非常有前途。 S4的核心成分涉及将SSM状态矩阵初始化为称为HIPPO矩阵的特定矩阵，这对于S4处理长序列的能力在经验上很重要。但是，S4使用的特定矩阵实际上是在特定时间变化的动态系统中得出的，并且将此矩阵用作时间不变的SSM没有已知的数学解释。因此，S4模拟远程依赖性的理论机制实际上仍无法解释。我们得出了河马框架的更一般和直观的公式，该框架将S4作为对指数型的Legendre多项式的分解提供了简单的数学解释，解释了其捕获长依赖性的能力。我们的概括引入了理论上丰富的SSM类，还使我们能够为其他碱基（例如傅立叶基础）得出更直观的S4变体，并解释了训练S4的其他方面，例如如何初始化重要的时间表参数。这些见解将S4的性能提高到远程竞技场基准的86％，在最困难的Path-X任务中，S4的性能为96％。

变压器在长序列上是缓慢的，渴望记忆力，因为自我注意的时间和记忆复杂性在序列上是二次的。近似关注方法试图通过交易模型质量以降低计算复杂性来解决此问题，但通常无法实现墙壁锁定的加速。我们认为，缺失的原则是提出注意力算法，以考虑读取和在GPU记忆层次之间写入。我们提出了FlashAttention，这是一种IO意识的精确注意算法，该算法使用平铺来减少GPU高带宽内存（HBM）和GPU芯片SRAM之间的内存读数/写入/写入。我们分析了闪存的IO复杂性，表明它所需的HBM访问少于标准注意力，并且对于一系列SRAM尺寸而言是最佳的。我们还扩展了闪光词，以引起障碍物的注意，从而产生了比任何现有的近似关注方法更快的近似关注算法。闪存火车的变压器​​比现有基准快：与MLPERF 1.1训练速度记录相比，Bert-Large（第512秒）的端到端壁式锁定加速度为15％，GPT-2上的3 $ \ times $ speedup（seq） 。闪存表现和块状闪光词可在变压器中实现更长的上下文，从而产生更高质量的模型（GPT-2上的0.7更好的困惑和长期分类的6.4点升力）和全新的功能：第一个实现优于更好的Chance的变压器PATH-X挑战（Seq。Length16K，61.4％精度）和PATH-256（Seq。Length64K，63.1％精度）上的性能。

神经网络的经典发展主要集中在有限维欧基德空间或有限组之间的学习映射。我们提出了神经网络的概括，以学习映射无限尺寸函数空间之间的运算符。我们通过一类线性积分运算符和非线性激活函数的组成制定运营商的近似，使得组合的操作员可以近似复杂的非线性运算符。我们证明了我们建筑的普遍近似定理。此外，我们介绍了四类运算符参数化：基于图形的运算符，低秩运算符，基于多极图形的运算符和傅里叶运算符，并描述了每个用于用每个计算的高效算法。所提出的神经运营商是决议不变的：它们在底层函数空间的不同离散化之间共享相同的网络参数，并且可以用于零击超分辨率。在数值上，与现有的基于机器学习的方法，达西流程和Navier-Stokes方程相比，所提出的模型显示出卓越的性能，而与传统的PDE求解器相比，与现有的基于机器学习的方法有关的基于机器学习的方法。

这本数字本书包含在物理模拟的背景下与深度学习相关的一切实际和全面的一切。尽可能多，所有主题都带有Jupyter笔记本的形式的动手代码示例，以便快速入门。除了标准的受监督学习的数据中，我们将看看物理丢失约束，更紧密耦合的学习算法，具有可微分的模拟，以及加强学习和不确定性建模。我们生活在令人兴奋的时期：这些方法具有从根本上改变计算机模拟可以实现的巨大潜力。

现实世界中的数据是高维的：即使在压缩后，书籍，图像或音乐表演也很容易包含数十万个元素。但是，最常用的自回归模型，变压器非常昂贵，以缩放捕获这种远程结构所需的输入和层数。我们开发了感知者AR，这是一种自回归的模态 - 不合骨架构，它使用交叉注意力将远程输入映射到少数潜在的潜在，同时还可以维护端到端的因果关系掩盖。感知器AR可以直接进行十万个令牌，从而实现了实用的长篇小写密度估计，而无需手工制作的稀疏模式或记忆机制。当对图像或音乐进行培训时，感知器AR会生成具有清晰长期连贯性和结构的输出。我们的架构还获得了长期基准测试的最新可能性，包括64 x 64个Imagenet图像和PG-19书籍。

具有输入序列长度的标准推理和基于变压器的体系结构的训练四倍。对于各种应用程序，尤其是在网页翻译，查询播放等方面，这非常大，因此，最近已经开发了几种方法来通过强制执行不同的注意力结构（例如稀疏性，低秩，使用内核）来加速注意计算。 。在这项工作中，我们将注意力计算视为最近的邻居检索的计算，并使用基于决策树的层次导航来降低每个查询令牌的检索成本，从线性序列长度从线性长度到几乎对数。基于这样的层次导航，我们设计了树形的树形，它可以使用两个有效的注意层之一 - TF - 注意和TC - 注意。 TF注意力以细粒的样式计算出注意力，而TC意见是一个粗糙的注意力层，它也确保梯度是“密集”的。为了优化此类具有挑战性的离散层，我们提出了一种两级自举训练方法。使用对标准NLP基准测试的广泛实验，尤其是对于长期序列，我们证明了我们的树形架构几乎可以像基线变压器一样准确，而注意力层则使用了30倍的失败。与Linform相比，在注意力层中使用类似的拖鞋时，准确性可能会高达12％。

Transformers achieve remarkable performance in several tasks but due to their quadratic complexity, with respect to the input's length, they are prohibitively slow for very long sequences. To address this limitation, we express the self-attention as a linear dot-product of kernel feature maps and make use of the associativity property of matrix products to reduce the complexity from O N 2 to O (N ), where N is the sequence length. We show that this formulation permits an iterative implementation that dramatically accelerates autoregressive transformers and reveals their relationship to recurrent neural networks. Our linear transformers achieve similar performance to vanilla transformers and they are up to 4000x faster on autoregressive prediction of very long sequences.