大型语言数据集的可用性使数据驱动的方法能够研究语言改变。 Google Books Corpus Unigram频率数据集用于以八种语言调查排名动态。我们观察了1900年至2008年的Unigrams的等级变化，并将其与我们为分析开发的赖特 - 费舍尔灵感的模型进行了比较。该模型模拟中性进化过程，限制没有消失并添加单词。这项工作解释了模型的数学框架 - 用多项式过渡概率写作马尔可夫链 - 以展示单词频率如何变化。从我们的数据和我们的模型中的观察开始，Word Rank稳定性显示出两种类型的特点：（1）排名的增加/减少是单调，或（2）排名保持不变。基于我们的模型，高级词语往往更稳定，而低级词语往往更易挥发。有些词语以两种方式在两种方面发生变化：（a）通过累积小/减少等级和（b）的累积，通过增加/减少等级的冲击。我们所展示的所有语言中的大多数单词都是排名稳定，但并不像中立模型一样稳定。观察到的秒表和斯沃拉斯图单词在八种语言中排名稳定，这表明既定语言的语言符合性。这些签名提示所有语言的Unigram频率都以与纯粹中立的进化过程不一致的方式发生了变化。

语言在句法结构上有很大差异。世界上约40％的语言具有主语对象顺序，约40％的语言具有对象 - 对象 - 动词顺序。广泛的工作试图解释跨语言的单词顺序变化。但是，现有的方法无法用单个语言的单词顺序解释频率分布和演变。我们建议，单词顺序的变化反映了平衡依赖性区域和信息局部性的竞争压力的不同方式，当元素在语法上相关或彼此之间有上下文信息时，语言偏爱将它们放在一起。使用来自17个语言家族的80种语言的数据和系统发育建模，我们证明了语言的发展以平衡这些压力，因此单词顺序变化伴随着句法结构的频率分布的变化，这些句法结构的频率分布会说话，以维持整体效率。因此，单词顺序的可变性反映了语言解决这些进化压力的不同方式。我们确定了该关节优化产生的相关特征，尤其是对同一动词共同表达对象和对象的频率。我们的发现表明，跨语言的句法结构和用法共同适应有限的认知资源，以支持有效的沟通。

单词是基本的语言单位，通过含义将思想和事物联系起来。但是，单词在文本序列中并未独立出现。句法规则的存在导致相邻单词之间的相关性。此外，单词不是均匀分布的，而是遵循幂定律，因为带有纯语义内容的术语似乎比指定语法关系的术语要少得多。使用序数模式方法，我们对11种主要语言的词汇统计连接进行了分析。我们发现，语言用来表达单词关系的各种举止产生了独特的模式分布。值得注意的是，我们发现这些关系可以用马尔可夫2的模型建模，并且该结果对所有研究的语言都有普遍有效。此外，模式分布的波动可以使我们能够确定文本及其作者的历史时期。综上所述，这些结果强调了时间序列分析和信息理论方法的相关性，以理解自然语言的统计相关性。

人类语言中发现的最强大的模式之一是ZIPF的缩写定律，即更短的单词的趋势。自ZIPF开创性研究以来，该定律被视为压缩的体现，即形式的长度最小化 - 自然交流的普遍原则。尽管对语言进行优化的说法已经变得时尚，但衡量语言优化程度的尝试却相当稀缺。在这里，我们证明压缩在无例外的大量语言中表现出来，并且独立于测量单位。这两个单词长度都可以在书面语言的字符以及口语的持续时间中检测到。此外，为了衡量优化程度，我们得出了一个随机基线的简单公式，并提出了两个分数归一化的分数，即，它们相对于最小值和随机基线都进行了归一化。我们分析了这些和其他分数的理论和统计优势和缺点。利用最佳分数，我们首次量化了语言中单词长度的最佳程度。这表明当单词长度以字符测量时，语言平均被优化至62％或67％（取决于源），当单词长度及时测量时，平均而言，平均而言，平均而言，平均而言，平均而言，平均而言，平均至65％。通常，口语持续时间比字符中的书面单词长度更优化。除了这里报告的分析外，我们的工作还铺平了衡量其他物种发声或手势的最佳程度的方法，并将其与书面，口语或签名的人类语言进行比较。

近几十年来，随着数据的可用，统计语言学已大大提高。这使研究人员能够研究语言的统计特性如何随时间变化。在这项工作中，我们使用来自Twitter的数据来探索英语和西班牙语，考虑到不同尺度的排名多样性：时间（从3到96小时），空间（从3公里到3000+km Radii）和语法（从字母组到五角形到Pentagrams） ）。我们发现所有三个量表都是相关的。但是，最大的变化来自语法量表的变化。在最低的语法量表（会标）上，排名多样性曲线最相似，独立于其他量表，语言和国家的价值。随着语法量表的增长，等级多样性曲线的变化更大，具体取决于时间和空间量表以及语言和国家。我们还研究了Twitter特定令牌的统计数据：表情符号，主题标签和用户提及。这些特殊类型的令牌表现出一种sigmoid的行为作为等级多样性函数。我们的结果有助于量化似乎普遍存在的语言统计数据的各个方面，这可能导致变化。

历史流程表现出显着的多样性。尽管如此，学者们长期以来一直试图识别模式，并将历史行动者分类和对一些成功的影响。随机过程框架提供了一种结构化方法，用于分析大型历史数据集，允许检测有时令人惊讶的模式，鉴定内源性和外源对过程的相关因果作用者，以及不同历史案例的比较。随机过程的数据，分析工具和组织理论框架的组合使历史和考古中的传统叙事方法补充了传统的叙事方法。

系统发育比较方法在我们的领域是新的，并且对于大多数语言学家来说，至少有一点谜团。然而，导致他们在比较生物学中发现的道路与平衡抽样的方法论历史如此类似，这只是一个历史的事故，即他们没有被典型的专家发现。在这里，我们澄清了系统发育比较方法背后的基本逻辑及其对重点采样的深刻智力传统的基本相关性。然后我们介绍将在日常类型的研究中使用类型的概念，方法和工具，使类型学家能够在日常类型的研究中使用这些方法。系统发育比较方法和平衡采样的关键共性是他们试图因系谱而应对统计非独立性。虽然采样永远不会实现独立性，但需要大多数比较数据被丢弃，系统发育比较方法在保留和使用所有数据的同时实现独立性。我们讨论了系统发育信号的基本概念;关于树木的不确定性;典型的类型学平均值和比例对族谱敏感;跨语言家庭的比较;和体现的影响。广泛的补充材料说明了实际分析的计算工具，我们说明了与帕马尼云根腭膜对比的类型学案例研究讨论的方法。

To understand the growing phenomena of new vocabulary on nationwide online social media, we analyzed monthly word count time series extracted from approximately 1 billion Japanese blog articles from 2007 to 2019. In particular, we first introduced the extended logistic equation by adding one parameter to the original equation and showed that the model can consistently reproduce various patterns of actual growth curves, such as the logistic function, linear growth, and finite-time divergence. Second, by analyzing the model parameters, we found that the typical growth pattern is not only a logistic function, which often appears in various complex systems, but also a nontrivial growth curve that starts with an exponential function and asymptotically approaches a power function without a steady state. Furthermore, we observed a connection between the functional form of growth and the peak-out. Finally, we showed that the proposed model and statistical properties are also valid for Google Trends data (English, French, Spanish, and Japanese), which is a time series of the nationwide popularity of search queries.

文化领域代表了一个有用的概念，该概念在社会科学领域进行了交叉侵占。了解人类如何在社会中组织和联系他们的思想和行为有助于了解他们对不同问题的行为和态度。但是，塑造文化领域的共同特征的选择是任意的。所需的方法是一种可以利用大量在线数据（尤其是通过社交媒体）来识别没有临时假设，偏见或偏见的文化区域的方法。在这项工作中，我们通过引入一种基于微博帖子对大型数据集的自动分析来推断文化区域的方法来朝着这个方向迈出关键一步。我们的方法是基于以下原则：从人们之间讨论的主题可以推断出文化隶属关系。具体来说，我们衡量了美国社交媒体产生的书面话语中的区域差异。从地理标记的推文中内容词的频率分布，我们找到了“用法”区域热点，从那里我们得出了区域变化的主要成分。通过在这个较低维空间中数据的层次聚类，我们的方法得出了清晰的文化领域和定义它们的讨论主题。我们获得了一个明显的南北分离，主要受非裔美国人文化的影响，并进一步连续（东西方）和不连续的（城市农村）分裂，这些师为当今美国的文化领域提供了全面的了解。

人们普遍认为，美国政治语言的语气最近变得更加消极，尤其是当唐纳德·特朗普（Donald Trump）进入政治时。同时，关于特朗普是改变还是仅仅持续以前的趋势存在分歧。迄今为止，关于这些问题的数据驱动证据很少，部分原因是很难获得政客话语的全面，纵向记录。在这里，我们将心理语言工具应用于一个新闻中的2400万报价的新颖，全面的语料库，归因于18,627位美国政治家，以分析美国政客语言的语气在2008年至2020年之间的演变。我们表明，负面的频率在奥巴马任职期间，情感词不断下降，随着2016年主要运动的突然且持续增加了挑战前的标准偏差，即竞选前平均值的8％，以跨各方出现的模式。当省略特朗普的报价时，效果的规模下降了40％，当平均说话者而不是报价时，效果的规模下降了50％，这意味着著名的说话者，尤其是特朗普，尽管并不仅仅限于负面语言的贡献。这项工作提供了第一个大规模数据驱动的证据，表明特朗普的竞选活动开始作为催化剂，朝着更负面的政治语调转变，对有关美国政治状况的辩论产生了重要影响。

在世界上语言中编码的文化多样性有风险，因为在越来越多的全球化的背景下，许多语言在过去几十年中濒临灭绝。为了保留这种多样性，首先是必要了解推动语言灭绝的东西，以及哪些机制可能能够共存。在这里，我们使用理论和数据驱动的角度研究语言转换机制。使用Twitter和人口普查数据对多语种社团进行大规模实证分析，产生了广泛的语言共存空间模式。它根据语言扬声器的混合来分离，在不相交语言域的边界上进行多种语言。要了解这些不同的国家如何出现，特别是变得稳定，我们提出了一种在学习其他语言时达到语言共存的模型，并且当双语有利于使用濒危语言时。在比例框架中进行的模拟突出了人们流动性引起的空间相互作用的重要性，以解释混合状态的稳定性或两个语言区域之间的边界的存在。此外，我们发现语言的历史至关重要，了解他们现在的状态。

我们考虑单个强化学习与基于事件驱动的代理商金融市场模型相互作用时学习最佳执行代理的学习动力。交易在事件时间内通过匹配引擎进行异步进行。最佳执行代理在不同级别的初始订单尺寸和不同尺寸的状态空间上进行考虑。使用校准方法考虑了对基于代理的模型和市场的影响，该方法探讨了经验性风格化事实和价格影响曲线的变化。收敛，音量轨迹和动作痕迹图用于可视化学习动力学。这表明了最佳执行代理如何在模拟的反应性市场框架内学习最佳交易决策，以及如何通过引入战略订单分类来改变模拟市场的反反应。

The celebrated proverb that "speech is silver, silence is golden" has a long multinational history and multiple specific meanings. In written texts punctuation can in fact be considered one of its manifestations. Indeed, the virtue of effectively speaking and writing involves - often decisively - the capacity to apply the properly placed breaks. In the present study, based on a large corpus of world-famous and representative literary texts in seven major Western languages, it is shown that the distribution of intervals between consecutive punctuation marks in almost all texts can universally be characterised by only two parameters of the discrete Weibull distribution which can be given an intuitive interpretation in terms of the so-called hazard function. The values of these two parameters tend to be language-specific, however, and even appear to navigate translations. The properties of the computed hazard functions indicate that among the studied languages, English turns out to be the least constrained by the necessity to place a consecutive punctuation mark to partition a sequence of words. This may suggest that when compared to other studied languages, English is more flexible, in the sense of allowing longer uninterrupted sequences of words. Spanish reveals similar tendency to only a bit lesser extent.

在本文中，我们分享了我们努力建立能够翻译一千多种语言的实用机器翻译（MT）系统的发现。我们在三个研究领域中描述了结果：（i）通过利用半监督预训练的语言识别和开发数据驱动的过滤技术来构建1500多种语言的清洁，网挖数据集； （ii）通过利用大规模的多语言模型来开发用于服务不足的语言的实用MT模型，该模型训练了有监督的并行数据，以使用100多种高资源语言和单语言数据集，以增加1000多种语言； （iii）研究这些语言的评估指标的局限性，并对我们MT模型的输出进行定性分析，突出显示了这些类型模型的几种频繁误差模式。我们希望我们的工作为旨在为当前研究的语言构建MT系统的从业者提供有用的见解，并突出显示可以补充Data-Sparse设置中大量多语言模型的弱点的研究方向。

Spanish is one of the most spoken languages in the globe, but not necessarily Spanish is written and spoken in the same way in different countries. Understanding local language variations can help to improve model performances on regional tasks, both understanding local structures and also improving the message's content. For instance, think about a machine learning engineer who automatizes some language classification task on a particular region or a social scientist trying to understand a regional event with echoes on social media; both can take advantage of dialect-based language models to understand what is happening with more contextual information hence more precision. This manuscript presents and describes a set of regionalized resources for the Spanish language built on four-year Twitter public messages geotagged in 26 Spanish-speaking countries. We introduce word embeddings based on FastText, language models based on BERT, and per-region sample corpora. We also provide a broad comparison among regions covering lexical and semantical similarities; as well as examples of using regional resources on message classification tasks.

发现新的超链接使Web爬网程序能够找到尚未索引的新页面。这对于集中的爬行者来说尤为重要，因为他们努力提供对网络的特定部分的全面分析，从而优先考虑发现内容的变化的新页面。在文献中，通常同​​时考虑超链接和内容的变化。但是，还有证据表明这两种改变不一定是相关的。此外，关于预测变化的许多研究假设页面的长期可用，这在实践中是无法实现的。这项工作的目的是提供一种方法来使用短历史有效地检测新的链接。为此，我们使用一周的间隔使用十个爬网的数据集。我们的研究包括三个部分。首先，我们通过分析新的倒出数量的经验属性来获得数据的洞察力。我们观察到这些属性平均随着时间的推移稳定，但在目标页面内外页面的超链接出现的超链接之间存在很大的差异（分别分别是内部和外部倒降）。接下来，我们为三个目标提供统计模型：链路变化率，新链接的存在以及新链接的数量。这些模型包括文献中早些时候使用的功能，以及在这项工作中引入的新功能。我们分析了特征之间的相关性，并调查了他们的信息。一个值得注意的发现是，如果目标页面的历史不可用，那么我们的新功能，代表相关页面的历史，对于目标页面中的新链接最预测。最后，我们将排名方法作为聚焦爬虫的准则，以有效地发现新页面，这对相应的目标实现了出色的性能。

在本文中，我们使用一系列建模技术来调查抽象手机是否可以从接触语音声音中出现。实际上，该研究代表了尝试从语言使用的抽象出现的基于使用的语言学理论设备的尝试。我们的任务侧重于最简单的这样的假设抽象。我们测试了两个关于语言知识在语言上的语言知识的反对原则：基于内存的学习（MBL）和纠错学习（ECL）。泛化的过程得到了抽象语言学家与之运作，我们探讨了MBL和ECL是否可以产生类似语言抽象的语言知识。每个模型都有一个由一个扬声器产生的大量预处理语音。我们评估了这些简单模型所学到的一致性或稳定性以及它们引起抽象类别的能力。两种类型的模型在这些测试方面的票价不同。我们表明ECL模型可以从输入中可靠地识别了ECL模型可以学习抽象，并且至少可以从输入中可靠地识别到传统类型中的电话库存和分组。

我们对基于上下文化的基于嵌入的方法的（可能错误的）输出进行了定性分析，以检测直接性语义变化。首先，我们引入了一种合奏方法优于先前描述的上下文化方法。该方法被用作对5年英语单词预测的语义变化程度进行深入分析的基础。我们的发现表明，上下文化的方法通常可以预测单词的高变化分数，这些单词在术语的词典意义上没有经历任何实际的历时语义转移（或至少这些转移的状态值得怀疑）。详细讨论了此类具有挑战性的案例，并提出了它们的语言分类。我们的结论是，预训练的情境化语言模型容易产生词典感官和上下文方差变化的变化，这自然源于它们的分布性质，但与基于静态嵌入的方法中观察到的问题类型不同。此外，他们经常将词汇实体的句法和语义方面合并在一起。我们为这些问题提出了一系列可能的未来解决方案。

在文本分类模型由于数据变化而随着时间的变化而下降的情况下，其持续时间持续时间的模型的开发很重要。预测模型随着时间的推移能力的能力可以帮助设计模型，这些模型可以在更长的时间内有效使用。在本文中，我们通过评估各种语言模型和分类算法随着时间的推移持续存在的能力，以及数据集特性如何帮助预测不同模型的时间稳定性，从而研究了这个问题。我们在跨越6到19年的三个数据集上执行纵向分类实验，并涉及各种任务和类型的数据。我们发现，人们可以根据（i）模型在限制时间段内的性能及其外推到更长的时间段，以及（ii）数据集的语言特征，以及（ii）数据集的语言特征，如何估算模型如何在时间上保持其性能。例如不同年份的子集之间的熟悉程度。这些实验的发现对文本分类模型的设计具有重要意义，目的是保留随着时间的推移性能。

基于变压器的语言模型最近在许多自然语言任务中取得了显着的结果。但是，通常通过利用大量培训数据来实现排行榜的性能，并且很少通过将明确的语言知识编码为神经模型。这使许多人质疑语言学对现代自然语言处理的相关性。在本文中，我介绍了几个案例研究，以说明理论语言学和神经语言模型仍然相互关联。首先，语言模型通过提供一个客观的工具来测量语义距离，这对语言学家很有用，语义距离很难使用传统方法。另一方面，语言理论通过提供框架和数据源来探究我们的语言模型，以了解语言理解的特定方面，从而有助于语言建模研究。本论文贡献了三项研究，探讨了语言模型中语法 - 听觉界面的不同方面。在论文的第一部分中，我将语言模型应用于单词类灵活性的问题。我将Mbert作为语义距离测量的来源，我提供了有利于将单词类灵活性分析为方向过程的证据。在论文的第二部分中，我提出了一种方法来测量语言模型中间层的惊奇方法。我的实验表明，包含形态句法异常的句子触发了语言模型早期的惊喜，而不是语义和常识异常。最后，在论文的第三部分中，我适应了一些心理语言学研究，以表明语言模型包含了论证结构结构的知识。总而言之，我的论文在自然语言处理，语言理论和心理语言学之间建立了新的联系，以为语言模型的解释提供新的观点。