Text-to-sql任务，旨在将问题的自然语言转化为SQL查询，最近引起了很多关注。 Text-to-SQL最具挑战性的问题之一是如何将培训的模型概括为未遵守的数据库模式，也称为跨域文本到SQL任务。关键在于（i）编码方法的概括性，以模拟问题和数据库模式和（ii）问题模式链接方法，以了解数据库模式中问题和表/列之间的单词之间的映射。专注于上述两个关键问题，我们提出了一个用于跨域文本到SQL的结构感知双图形聚合网络（Sadga）。在Sadga中，我们采用图形结构为自然语言问题和数据库模式提供统一的编码模型。基于所提出的统一建模，我们进一步设计了一个结构感知聚合方法，以了解问题图和架构图之间的映射。结构感知聚合方法具有全局图链接，本地图链接和双图聚合机制。我们不仅研究了我们的提案的表现，而且还在撰写本文时挑战挑战文本到SQL基准蜘蛛的第3位。

对新数据库的普遍性对于旨在将人类话语解析为SQL语句的文本到SQL系统至关重要。现有作品通过利用确切的匹配方法来确定问题单词和模式项目之间的词汇匹配来实现这一目标。但是，这些方法在其他具有挑战性的场景中失败，例如，表面形式在相应的问题单词和架构项目之间有所不同的同义词替代。在本文中，我们提出了一个名为ISESL-SQL的框架，以迭代地构建问题令牌和数据库模式之间的语义增强的架构链接图。首先，我们以无监督的方式通过探测过程提取PLM的模式链接图。然后，通过深图学习方法在训练过程中进一步优化了模式链接图。同时，我们还设计了一个称为图形正则化的辅助任务，以改善模式链接图中提到的模式信息。对三个基准测试的广泛实验表明，ISESL-SQL可以始终优于基准，进一步的研究表明其普遍性和鲁棒性。

长期以来，可以将可以应用于新数据库的文本到SQL解析器的重要性已得到认可，实现此目标的关键步骤是架构链接，即在生成SQL时正确地识别未见列或表的提及。在这项工作中，我们提出了一个新颖的框架，以通过基于PoinCar \'e距离指标的探测程序从大规模预训练的语言模型（PLM）中引起关系结构，并使用诱导的关系来增强基于图的解析器为了更好的模式链接。与常用的基于规则的架构链接方法相比，我们发现探测关系也可以稳健地捕获语义对应关系，即使提及和实体的表面形式不同。此外，我们的探测过程完全不受监督，不需要其他参数。广泛的实验表明，我们的框架在三个基准测试中设定了新的最新性能。我们从经验上验证我们的探测程序确实可以通过定性分析找到所需的关系结构。

文本到SQL解析是一项必不可少且具有挑战性的任务。文本到SQL解析的目的是根据关系数据库提供的证据将自然语言（NL）问题转换为其相应的结构性查询语言（SQL）。来自数据库社区的早期文本到SQL解析系统取得了显着的进展，重度人类工程和用户与系统的互动的成本。近年来，深层神经网络通过神经生成模型显着提出了这项任务，该模型会自动学习从输入NL问题到输出SQL查询的映射功能。随后，大型的预训练的语言模型将文本到SQL解析任务的最新作品带到了一个新级别。在这项调查中，我们对文本到SQL解析的深度学习方法进行了全面的评论。首先，我们介绍了文本到SQL解析语料库，可以归类为单转和多转。其次，我们提供了预先训练的语言模型和现有文本解析方法的系统概述。第三，我们向读者展示了文本到SQL解析所面临的挑战，并探索了该领域的一些潜在未来方向。

最近训练模型通过利用大规模文本语料库来改善神经网络的上下文表示能力，显着提高了各种NLP任务的性能。大型预培训语言模型也已应用于表语义解析的区域。然而，现有的预训练方法没有仔细探索问题与相应的数据库模式之间的明确互动关系，这是揭示其语义和结构对应的关键成分。此外，在架构接地背景下的问知表示学习在预训练目标中受到更少的关注。为了减轻这些问题，本文设计了两种新的预训练目标，将所需的归纳偏差将所需的归纳偏差施加到表前的学习表现-训练。我们进一步提出了一种模式感知课程学习方法来减轻噪声的影响，并以易于努力的方式从预训练数据中学习。我们通过在两个基准，蜘蛛和罢工中进行微调，评估我们预先接受训练的框架。结果表明，与各种基线相比，我们的预训练目标和课程的有效性。

随着未来以数据为中心的决策，对数据库的无缝访问至关重要。关于创建有效的文本到SQL（Text2SQL）模型以访问数据库的数据有广泛的研究。使用自然语言是可以通过有效访问数据库（尤其是对于非技术用户）来弥合数据和结果之间差距的最佳接口之一。它将打开门，并在精通技术技能或不太熟练的查询语言的用户中引起极大的兴趣。即使提出或研究了许多基于深度学习的算法，在现实工作场景中使用自然语言来解决数据查询问题仍然非常具有挑战性。原因是在不同的研究中使用不同的数据集，这带来了其局限性和假设。同时，我们确实缺乏对这些提议的模型及其对其训练的特定数据集的局限性的彻底理解。在本文中，我们试图介绍过去几年研究的24种神经网络模型的整体概述，包括其涉及卷积神经网络，经常性神经网络，指针网络，强化学习，生成模型等的架构。我们还概述11个数据集，这些数据集被广泛用于训练Text2SQL技术的模型。我们还讨论了无缝数据查询中文本2SQL技术的未来应用可能性。

本文旨在通过探索基于神经网络的方法（称为Sun）中的内在不确定性来提高文本到SQL解析的性能。从数据不确定性的角度来看，可以从多个语义等效的问题中学到单个SQL。从以前仅限于一对一映射的方法中不同，我们提出了一个数据不确定性限制来探索潜在的互补语义语义多个语义等效问题（多对一）中的信息，并以减少的虚假关联来学习稳健的特征表示。通过这种方式，我们可以降低学习表示的敏感性并改善解析器的鲁棒性。从模型的不确定性角度来看，神经网络的权重之间通常存在结构信息（依赖性）。为了提高神经文本到SQL解析器的普遍性和稳定性，我们提出了模型不确定性约束，以通过强制执行不同扰动编码网络的输出表示形式来完善查询表示形式，以使其彼此一致。在五个基准数据集上进行的广泛实验表明，我们的方法显着优于强大的竞争对手，并实现了新的最新结果。为了获得可重复性，我们在https://github.com/alibabaresearch/damo-convai/tree/main/main/sunsql上发布代码和数据。

基于语音的投入在我们日常生活中获得了智能手机和平板电脑的普及，因为声音是人类计算机交互的最简单而有效的方式。本文旨在设计更有效的基于语音的接口，以查询关系数据库中的结构化数据。我们首先识别名为Speep-to-SQL的新任务，旨在了解人类语音传达的信息，并直接将其转换为结构化查询语言（SQL）语句。对此问题的天真解决方案可以以级联方式工作，即，自动语音识别（ASR）组件，后跟文本到SQL组件。然而，它需要高质量的ASR系统，并且还遭受了两种组件之间的错误复合问题，从而产生有限的性能。为了处理这些挑战，我们进一步提出了一个名为SpeepSQLNET的新型端到端神经结构，直接将人类语音转化为没有外部ASR步骤的SQL查询。 SpeemSQLNET具有充分利用演讲中提供的丰富语言信息的优势。据我们所知，这是第一次尝试根据任意自然语言问题直接综合SQL，而不是基于自然语言的SQL版本或其具有有限的SQL语法的变体。为了验证所提出的问题和模型的有效性，我们还通过捎带广泛使用的文本到SQL数据集来进一步构建名为SpeemQL的数据集。对该数据集的广泛实验评估表明，SpeemSQLNET可以直接从人类语音中直接综合高质量的SQL查询，优于各种竞争对手，以及在精确匹配的准确性方面的级联方法。

文本到SQL引起了自然语言处理和数据库社区的关注，因为它能够将自然语言中的语义转换为SQL查询及其在构建自然语言接口到数据库系统中的实际应用。文本到SQL的主要挑战在于编码自然话语的含义，解码为SQL查询，并翻译这两种形式之间的语义。这些挑战已被最近的进步解决了不同的范围。但是，对于这项任务仍缺乏全面的调查。为此，我们回顾了有关数据集，方法和评估的文本到SQL的最新进展，并提供了这项系统的调查，解决了上述挑战并讨论潜在的未来方向。我们希望这项调查可以作为快速获取现有工作并激励未来的研究。

代码搜索目标是根据自然语言查询检索相关的代码片段，以提高软件生产力和质量。但是，由于源代码和查询之间的语义间隙，自动代码搜索是具有挑战性的。大多数现有方法主要考虑嵌入的顺序信息，其中文本背后的结构信息不完全考虑。在本文中，我们设计了一个名为GraphsearchNet的新型神经网络框架，通过共同学习源代码和查询的富集语义来启用有效和准确的源代码搜索。具体地，我们建议将源代码和查询编码为两个图，其中双向GGNN以捕获图表的本地结构信息。此外，我们通过利用有效的多主题来增强BigGNN，以补充BigGNN错过的全球依赖。关于Java和Python数据集的广泛实验说明了GraphSearchNet优于当前最先进的工作原位。

本文介绍了用于在线学习系统的新机器学习模型的设计和实施。我们旨在通过启用一个自动数学单词问题求解器来改善系统的智能水平，该单词可以支持广泛的功能，例如家庭作业校正，困难估计和优先建议。我们最初计划采用现有模型，但意识到他们将数学单词问题处理为序列或均匀图形图表。多种类型的令牌（例如实体，单位，费率和数字）之间的关系被忽略了。我们决定设计和实施一种新型模型，以使用此类关系数据来弥合人类可读语言和机器可读性的逻辑形式之间的信息差距。我们提出了一个异质线图变压器（HLGT）模型，该模型通过在数学单词问题上通过语义角色标记构建异质线图，然后执行节点表示学习，从而了解Edge类型。我们将数值比较作为一项辅助任务，以改善用于现实世界使用的模型培训。实验结果表明，所提出的模型比现有模型的性能更好，并表明它仍然远低于人类绩效。不断需要信息利用和知识发现来改善在线学习系统。

大多数图形之间的作品都是在具有交叉注意机制的编码器框架上构建的。最近的研究表明，对输入图结构进行明确建模可以显着改善性能。但是，香草结构编码器无法在所有解码步骤的单个正向通道中捕获所有专业信息，从而导致语义表示不准确。同时，输入图在交叉注意中作为无序序列被扁平，忽略了原始图形结构。结果，解码器中获得的输入图上下文向量可能存在缺陷。为了解决这些问题，我们提出了一种结构感知的交叉注意（SACA）机制，以在每个解码步骤中以结构意识的方式重新编码在新生成的上下文上的输入图表示条件。我们进一步调整SACA，并引入其变体动态图修剪（DGP）机制，以在解码过程中动态下降无关的节点。我们在两个图形数据集（LDC2020T02和ENT-DESC）上实现了新的最新结果，但计算成本仅略有增加。

知识基础问题回答（KBQA）旨在通过知识库（KB）回答问题。早期研究主要集中于回答有关KB的简单问题，并取得了巨大的成功。但是，他们在复杂问题上的表现远非令人满意。因此，近年来，研究人员提出了许多新颖的方法，研究了回答复杂问题的挑战。在这项调查中，我们回顾了KBQA的最新进展，重点是解决复杂问题，这些问题通常包含多个主题，表达复合关系或涉及数值操作。详细说明，我们从介绍复杂的KBQA任务和相关背景开始。然后，我们描述用于复杂KBQA任务的基准数据集，并介绍这些数据集的构建过程。接下来，我们提出两个复杂KBQA方法的主流类别，即基于语义解析的方法（基于SP）的方法和基于信息检索的方法（基于IR）。具体而言，我们通过流程设计说明了他们的程序，并讨论了它们的主要差异和相似性。之后，我们总结了这两类方法在回答复杂问题时会遇到的挑战，并解释了现有工作中使用的高级解决方案和技术。最后，我们结论并讨论了与复杂的KBQA有关的几个有希望的方向，以进行未来的研究。

查询图形构建旨在通过知识图构建正确的可执行SPARQL以应答自然语言问题。虽然最近的方法通过基于NN的查询图排名进行了良好，但更复杂的问题带来了三个新的挑战：复杂的SPARQL语法，排名的巨大搜索空间，以及当地歧义的嘈杂查询图。本文处理了这些挑战。最初，我们将常见的复杂sparql语法视为包括顶点和边缘的子图，并提出了一个新的统一查询图语法来调整它们。随后，我们提出了一种新的两阶段方法来构建查询图。在第一阶段，通过简单的策略作为候选实例收集了顶级的k $相关的实例（实体，关系等）。在第二阶段，图形生成模型执行分层生成。它首先概述了一个图形结构，其顶点和边缘是空插槽，然后将适当的实例填充到槽中，从而完成查询图。我们的方法将整个查询图的无法忍受的搜索空间分解为经济实惠的操作子空间，同时利用全局结构信息来消除局部歧义。实验结果表明，我们的方法大大提高了最坚定的kgqa基准，在复杂问题上具有出色的性能。

深度学习的最新进展极大地推动了语义解析的研究。此后，在许多下游任务中进行了改进，包括Web API的自然语言接口，文本到SQL的生成等。但是，尽管与这些任务有着密切的联系，但有关知识库的问题的研究（KBQA）的进展相对缓慢。我们将其确定并归因于KBQA的两个独特挑战，模式级的复杂性和事实级别的复杂性。在这项调查中，我们将KBQA放置在更广泛的语义解析文献中，并全面说明了现有的KBQA方法如何试图应对独特的挑战。无论面临什么独特的挑战，我们都认为我们仍然可以从语义解析的文献中汲取太大的灵感，这被现有的KBQA研究所忽略了。基于我们的讨论，我们可以更好地了解当前KBQA研究的瓶颈，并阐明KBQA的有希望的方向，以跟上语义解析的文献，尤其是在预训练的语言模型时代。

事实证明，信息提取方法可有效从结构化或非结构化数据中提取三重。以（头部实体，关系，尾部实体）形式组织这样的三元组的组织称为知识图（kgs）。当前的大多数知识图都是不完整的。为了在下游任务中使用kgs，希望预测kgs中缺少链接。最近，通过将实体和关系嵌入到低维的矢量空间中，旨在根据先前访问的三元组来预测三元组，从而对KGS表示不同的方法。根据如何独立或依赖对三元组进行处理，我们将知识图完成的任务分为传统和图形神经网络表示学习，并更详细地讨论它们。在传统的方法中，每个三重三倍将独立处理，并在基于GNN的方法中进行处理，三倍也考虑了他们的当地社区。查看全文

在现实世界中的问题回答场景中，将表格和文本内容均结合的混合形式吸引了越来越多的关注，其中数值推理问题是最典型和最具挑战性的问题之一。现有方法通常采用编码器框架来表示混合内容并生成答案。但是，它无法捕获编码器侧数值，表格架构和文本信息之间的丰富关系。解码器使用一个简单的预定义运算符分类器，该分类器的灵活性不足以处理具有不同表达式的数值推理过程。为了解决这些问题，本文提出了一个\ textbf {re} lational \ textbf {g} raph增强\ textbf {h} ybrid table-text \ textbf {n}带有\ textbf {t textbf {t text} ree decoder（\ textbff recoder（\ textbf） {reghnt}）。它模拟了对表 - 文本混合内容的回答的数值问题，作为表达树的生成任务。此外，我们提出了一种新颖的关系图建模方法，该方法模拟了问题，表和段落之间的对齐方式。我们验证了公开可用的Table-Text混合质量质量质量标准（TAT-QA）的模型。拟议的reghnt显着胜过基线模型，并实现最新结果\脚注{我们在〜\ url {https://github.com/lfy79001/reghnt}}}〜（20222）公开发布了源代码和数据-05-05）。

尽管不断努力提高代码搜索的有效性和效率，但仍未解决两个问题。首先，编程语言具有固有的牢固结构链接，并且代码的特征是文本表单将省略其中包含的结构信息。其次，代码和查询之间存在潜在的语义关系，跨序列对齐代码和文本是具有挑战性的，因此在相似性匹配期间，向量在空间上保持一致。为了解决这两个问题，在本文中，提出了一个名为CSSAM的代码搜索模型（代码语义和结构注意匹配）。通过引入语义和结构匹配机制，CSSAM有效提取并融合了多维代码功能。具体而言，开发了交叉和残留层，以促进代码和查询的高纬度空间比对。通过利用残差交互，匹配模块旨在保留更多的代码语义和描述性功能，从而增强了代码及其相应查询文本之间的附着力。此外，为了提高模型对代码固有结构的理解，提出了一个名为CSRG的代码表示结构（代码语义表示图），用于共同表示抽象语法树节点和代码的数据流。根据两个包含540K和330K代码段的公开可用数据集的实验结果，CSSAM在两个数据集中分别在获得最高的SR@1/5/10，MRR和NDCG@50方面大大优于基本线。此外，进行消融研究是为了定量衡量CSSAM每个关键组成部分对代码搜索效率和有效性的影响，这为改进高级代码搜索解决方案提供了见解。

Image-text retrieval (ITR) is a challenging task in the field of multimodal information processing due to the semantic gap between different modalities. In recent years, researchers have made great progress in exploring the accurate alignment between image and text. However, existing works mainly focus on the fine-grained alignment between image regions and sentence fragments, which ignores the guiding significance of context background information. Actually, integrating the local fine-grained information and global context background information can provide more semantic clues for retrieval. In this paper, we propose a novel Hierarchical Graph Alignment Network (HGAN) for image-text retrieval. First, to capture the comprehensive multimodal features, we construct the feature graphs for the image and text modality respectively. Then, a multi-granularity shared space is established with a designed Multi-granularity Feature Aggregation and Rearrangement (MFAR) module, which enhances the semantic corresponding relations between the local and global information, and obtains more accurate feature representations for the image and text modalities. Finally, the ultimate image and text features are further refined through three-level similarity functions to achieve the hierarchical alignment. To justify the proposed model, we perform extensive experiments on MS-COCO and Flickr30K datasets. Experimental results show that the proposed HGAN outperforms the state-of-the-art methods on both datasets, which demonstrates the effectiveness and superiority of our model.

AMR到文本是NLP社区中旨在从抽象含义表示（AMR）图生成句子的关键技术之一。自2013年提出AMR以来，有关AMR到文本的研究越来越普遍，因为AMR作为自然语言的高级语义描述，由于AMR具有独特的优势，因此作为结构化数据的重要分支变得越来越普遍。在本文中，我们简要介绍了AMR到文本。首先，我们介绍了此技术的当前情况，并指出了它的困难。其次，根据先前研究中使用的方法，我们根据它们各自的机制将它们大致分为五个类别和预先训练的语言模型（PLM）。特别是，我们详细介绍了基于神经网络的方法，并介绍了AMR到文本的最新进展，该方法指的是AMR重建，解码器优化等。此外，我们介绍了AMR-TOXT的基准和评估方法。最终，我们提供了当前技术和未来研究的前景的摘要。