从大脑活动中解码语言是医疗保健和神经科学中期待已久的目标。由于颅内设备，最近已经达到了主要里程碑：对基本语言任务的侵入性大脑反应训练的主题特定管道现在开始有效地解释可解释的功能（例如字母，单词，频谱图）。但是，将这种方法扩展到自然语音和非侵入性脑记录仍然是一个主要挑战。在这里，我们提出了一个端到端的架构，该体系结构在大量个体中进行了对比学习，以预测自然语音的自我监督的表现。我们在四个公共数据集上评估了我们的模型，其中包括169名用磁性或电脑图（M/EEG）记录的志愿者，同时他们听了自然的语音。结果表明，我们的模型可以从3s MEG信号中识别出相应的语音段，其中1,594个不同的段中最高72.5％的前10个精度（和44％的TOP-1准确性），最多可在19.1％中获得19.1％。脑电图记录的2,604个细分市场 - 因此允许训练集中不存在短语。模型比较和消融分析表明，这些性能直接从我们的原始设计选择中受益，即（i）对比目标，（ii）语音的预估计表示和（iii）在几个参与者中同时培训的常见卷积架构。这些结果共同描述了一个有希望的途径，可以从无创的大脑活动记录中实时解码自然语言处理。

语音神经调节物有可能为患有扰动或休闲症的人提供沟通。最近的进展已经证明了从放置在皮质表面上的电加电网的高质量文本解码和语音合成。在这里，我们研究了较少的侵入性测量模态，即立体定向脑电图（SEEG），其提供来自多个脑区的稀疏抽样，包括皮质区域。为了评估Seeg是否也可用于综合神经录音的高质量音频，我们采用了一种基于现代深度学习方法的经常性编码器 - 解码器框架。我们证明，尽管有限的训练数据，但是可以从这些微创录音来重建高质量的言论。最后，我们利用变分特征丢失来成功识别最具信息丰富的电极触点。

眼目光信息的收集为人类认知，健康和行为的许多关键方面提供了一个窗口。此外，许多神经科学研究补充了从眼睛跟踪中获得的行为信息，以及脑电图（EEG）提供的高时间分辨率和神经生理学标记。必不可少的眼睛跟踪软件处理步骤之一是将连续数据流的分割为与扫视，固定和眨眼等眼睛跟踪应用程序相关的事件。在这里，我们介绍了Detrtime，这是一个新颖的时间序列分割框架，该框架创建了不需要额外记录的眼睛跟踪模式并仅依靠脑电图数据的眼部事件检测器。我们的端到端基于深度学习的框架将计算机视觉的最新进展带到了脑电图数据的《时代》系列分割的最前沿。 Detr Time在各种眼睛追踪实验范式上实现眼部事件检测中的最新性能。除此之外，我们还提供了证据表明我们的模型在脑电图阶段分割的任务中很好地概括了。

苏黎世认知语言处理语料库（Zuco）提供了来自两种读取范例，正常读取和特定任务读数的眼跟踪和脑电图信号。我们分析了机器学习方法是否能够使用眼睛跟踪和EEG功能对这两个任务进行分类。我们使用聚合的句子级别功能以及细粒度的单词级别来实现模型。我们在主题内和交叉对象评估方案中测试模型。所有模型都在Zuco 1.0和Zuco 2.0数据子集上进行测试，其特征在于不同的记录程序，因此允许不同的概括水平。最后，我们提供了一系列的控制实验，以更详细地分析结果。

最先进的脑部到文本系统通过使用神经网络直接从脑信号直接取得了巨大的成功。然而，目前的方法仅限于小封闭词汇，远远超过自然通信。此外，大多数高性能方法都需要来自侵入性设备的数据（例如，ECOG）。在本文中，我们将问题扩展到打开词汇脑电图（EEG）-To文本序列到序列解码和自然读取任务的零击句情感分类。我们假设人类大脑用作特殊文本编码器，并提出了一种利用预先训练的语言模型（例如，BART）的新颖框架。我们的模型在EEG-to text解码中实现了40.1％的BLE-1分数，并获得了55.6％的基于eEG的Ternary情绪分类的F1分数，这显着优于受监管基线。此外，我们表明我们所提出的模型可以处理来自各种科目和源的数据，显示出高性能开放词汇脑到文本系统的巨大潜力，一旦提供足够的数据

目的：在本文中，我们旨在从大量未标记的脑电图（EEG）信号中学习强大的向量表示，以使学习的表示（1）表现得足以替代睡眠分期任务中的原始信号； （2）在较少的标签和嘈杂样本的情况下，提供了比监督模型更好的预测性能。材料和方法：我们提出了一个自我监督的模型，称为与世界表示形式（Contrawr）相比，用于EEG信号表示学习，该模型使用数据集中的全局统计信息来区分与不同睡眠阶段相关的信号。在包括在家中的三个现实世界EEG数据集上评估了Contrawr模型，这些模型既包括在家中录制设置。结果：Contrawr在三个数据集中的睡眠登台任务上，Moco，Simclr，Byol，Simsiam胜过最新的自我监督学习方法。当可用的培训标签较少时，Contrawr还会击败受监督的学习（例如，标记不到2％的数据时，精度提高了4％）。此外，该模型在2D投影中提供了信息表示。讨论：建议的模型可以推广到其他无监督的生理信号学习任务。未来的方向包括探索特定于任务的数据增强，并将自我监督与监督方法结合起来，这是基于本文自我监督学习的最初成功。结论：我们表明，Contrawr对噪声是强大的，并且可以为下游预测任务提供高质量的EEG表示。在低标签场景（例如，只有2％的数据具有标签），Contrawr的预测能力（例如，睡眠分期准确性提高了4％）比监督的基线要好得多。

在最近对基于听觉的诱发电位（AEP）的脑电器界面（BCI）的研究中，显示出具有编码器解码器框架，可以将人的神经活动转化为语音（T-CAS）。然而，基于当前的编码器 - 解码器的方法实现T-CAS通常具有两步方法，其中信息在编码器和解码器之间传递，利用共享尺寸还原向量，这可能导致信息丢失。解决这个问题的潜在方法是通过使用双生成的对抗性网络（Dualgan）来设计端到端的方法，而无需尺寸减少传递信息，但它无法实现一对一的信号到信号转换（参见图1（a）和（b））。在本文中，我们提出了一个端到端模型，将人类神经活动转化为直接语音，创建一个新的脑电图（EEG）数据集，为参与者设计了一个良好的关注，设计了一种检测参与者的注意力，并引入了双重 - 双生成对抗网络（Dual-Dualgan）（参见图1（c）和（d）），以通过组标记EEG信号和语音来解决人类神经活动的端到端平衡对语音（et-CAS）问题信号，插入过渡域以实现跨域映射。在过渡域中，转换信号由相应的EEG和语音信号级联，并且可以以一定比例构建脑电图和语音信号的桥梁而不相应的特征，并实现一对一跨域EEG-语音翻译。该方法可以将神经活动的单词长度和句子长度序列转换为语音。已经进行了实验评估，表明该方法显着优于听觉刺激的单词和句子的最先进方法。

The access to activity of subcortical structures offers unique opportunity for building intention dependent brain-computer interfaces, renders abundant options for exploring a broad range of cognitive phenomena in the realm of affective neuroscience including complex decision making processes and the eternal free-will dilemma and facilitates diagnostics of a range of neurological deceases. So far this was possible only using bulky, expensive and immobile fMRI equipment. Here we present an interpretable domain grounded solution to recover the activity of several subcortical regions from the multichannel EEG data and demonstrate up to 60% correlation between the actual subcortical blood oxygenation level dependent sBOLD signal and its EEG-derived twin. Then, using the novel and theoretically justified weight interpretation methodology we recover individual spatial and time-frequency patterns of scalp EEG predictive of the hemodynamic signal in the subcortical nuclei. The described results not only pave the road towards wearable subcortical activity scanners but also showcase an automatic knowledge discovery process facilitated by deep learning technology in combination with an interpretable domain constrained architecture and the appropriate downstream task.

与经典信号处理和基于机器学习的框架相比，基于深度学习的方法基于深度学习的方法显着提高了分类准确性。但大多数是由于脑电图数据中存在的受试者间可变性而无法概括对象无关的任务的主题依赖性研究。在这项工作中，提出了一种新的深度学习框架，其能够进行独立的情感识别，由两部分组成。首先，提出了具有通道关注自动泊车的无监督的长短期存储器（LSTM），用于获取主体不变的潜航向量子空间，即每个人的EEG数据中存在的内部变量。其次，提出了一种具有注意力框架的卷积神经网络（CNN），用于对从提出的LSTM获得的编码的较低的潜在空间表示对具有通道 - 注意自身形拓的编码的低潜空间表示的任务。通过注意机制，所提出的方法可以突出EEG信号的显着时间段，这有助于所考虑的情绪，由结果验证。已经使用公共数据集进行了验证的方法，用于EEG信号，例如Deap DataSet，SEED数据集和CHB-MIT数据集。所提出的端到端深度学习框架消除了不同手工工程特征的要求，并提供了一个单一的全面任务不可知性EEG分析工具，能够对主题独立数据进行各种EEG分析。

神经文本到语音研究的最新进展是利用低级中间语音表示（例如MEL-光谱图）的两阶段管道主导的。但是，这种预定的特征从根本上受到限制，因为它们不允许通过学习隐藏表示形式来利用数据驱动方法的全部潜力。因此，已经提出了几种端到端方法。但是，这样的模型更难训练，并且需要大量具有转录的高质量录音。在这里，我们提出了WavThruvec-一种两阶段的架构，通过使用高维WAV2VEC 2.0嵌入作为中间语音表示，可以解决瓶颈。由于这些隐藏的激活提供了高级语言特征，因此它们对噪音更强大。这使我们能够利用质量较低的注释语音数据集来训练第一阶段模块。同时，由于WAV2VEC 2.0的嵌入已经进行了时间对齐，因此可以在大规模未转录的音频语料库上对第二阶段组件进行培训。这导致了对量表词的概括能力的提高，以及对看不见的说话者的更好概括。我们表明，所提出的模型不仅与最新神经模型的质量相匹配，而且还介绍了有用的属性，可以实现语音转换或零弹性合成的任务。

脑电图（EEG）解码旨在识别基于非侵入性测量的脑活动的神经处理的感知，语义和认知含量。当应用于在静态，受控的实验室环境中获取的数据时，传统的EEG解码方法取得了适度的成功。然而，开放世界的环境是一个更现实的环境，在影响EEG录音的情况下，可以意外地出现，显着削弱了现有方法的鲁棒性。近年来，由于其在特征提取的卓越容量，深入学习（DL）被出现为潜在的解决方案。它克服了使用浅架构提取的“手工制作”功能或功能的限制，但通常需要大量的昂贵，专业标记的数据 - 并不总是可获得的。结合具有域特定知识的DL可能允许开发即使具有小样本数据，也可以开发用于解码大脑活动的鲁棒方法。虽然已经提出了各种DL方法来解决EEG解码中的一些挑战，但目前缺乏系统的教程概述，特别是对于开放世界应用程序。因此，本文为开放世界EEG解码提供了对DL方法的全面调查，并确定了有前途的研究方向，以激发现实世界应用中的脑电图解码的未来研究。

基于电动机图像（MI）的脑电脑界面（BCIS）允许通过解码神经生理现象来控制几种应用，这些现象通常通过使用非侵入性技术被脑电图（EEG）记录。尽管在基于MI的BCI的进展方面很大，但脑电图有特定于受试者和各种变化随时间。这些问题指出了提高分类绩效的重大挑战，特别是在独立的方式。为了克服这些挑战，我们提出了Min2Net，这是一个新的端到端多任务学习来解决这项任务。我们将深度度量学习集成到多任务AutoEncoder中，以从脑电图中学习紧凑且识别的潜在表示，并同时执行分类。这种方法降低了预处理的复杂性，导致EEG分类的显着性能改善。实验结果以本语独立的方式表明，MIN2Net优于最先进的技术，在SMR-BCI和OpenBMI数据集中分别实现了6.72％的F1分数提高，以及2.23％。我们证明MIN2NET在潜在代表中提高了歧视信息。本研究表明使用此模型的可能性和实用性为新用户开发基于MI的BCI应用，而无需校准。

从语音音频中删除背景噪音一直是大量研究和努力的主题，尤其是由于虚拟沟通和业余声音录制的兴起，近年来。然而，背景噪声并不是唯一可以防止可理解性的不愉快干扰：混响，剪裁，编解码器工件，有问题的均衡，有限的带宽或不一致的响度同样令人不安且无处不在。在这项工作中，我们建议将言语增强的任务视为一项整体努力，并提出了一种普遍的语音增强系统，同时解决了55种不同的扭曲。我们的方法由一种使用基于得分的扩散的生成模型以及一个多分辨率调节网络，该网络通过混合密度网络进行增强。我们表明，这种方法在专家听众执行的主观测试中大大优于艺术状态。我们还表明，尽管没有考虑任何特定的快速采样策略，但它仅通过4-8个扩散步骤就可以实现竞争性的目标得分。我们希望我们的方法论和技术贡献都鼓励研究人员和实践者采用普遍的语音增强方法，可能将其作为一项生成任务。

近年来，基于脑电图的情绪识别的进步已受到人机相互作用和认知科学领域的广泛关注。但是，如何用有限的标签识别情绪已成为一种新的研究和应用瓶颈。为了解决这个问题，本文提出了一个基于人类中刺激一致的脑电图信号的自我监督组减数分裂对比学习框架（SGMC）。在SGMC中，开发了一种新型遗传学启发的数据增强方法，称为减数分裂。它利用了组中脑电图样品之间的刺激对齐，通过配对，交换和分离来生成增强组。该模型采用组投影仪，从相同的情感视频刺激触发的脑电图样本中提取组级特征表示。然后，使用对比度学习来最大程度地提高具有相同刺激的增强群体的组级表示的相似性。 SGMC在公开可用的DEAP数据集上实现了最先进的情感识别结果，其价值为94.72％和95.68％的价和唤醒维度，并且在公共种子数据集上的竞争性能也具有94.04的竞争性能。 ％。值得注意的是，即使使用有限的标签，SGMC也会显示出明显的性能。此外，功能可视化的结果表明，该模型可能已经学习了与情感相关的特征表示，以改善情绪识别。在超级参数分析中进一步评估了组大小的影响。最后，进行了对照实验和消融研究以检查建筑的合理性。该代码是在线公开提供的。

在过去的几年中，深度学习用于脑电图（EEG）分类任务一直在迅速增长，但其应用程序受到EEG数据集相对较小的限制。数据扩展包括在培训过程中人为地增加数据集的大小，它一直是在计算机视觉或语音等应用程序中获得最新性能的关键要素。尽管文献中已经提出了一些脑电图数据的增强转换，但它们对跨任务的绩效的积极影响仍然难以捉摸。在这项工作中，我们提出了对主要现有脑电图增强的统一和详尽的分析，该分析在常见的实验环境中进行了比较。我们的结果强调了为睡眠阶段分类和大脑计算机界面界面的最佳数据增强，在某些情况下显示预测功率改善大于10％。

我们展示了一个新的数据集和基准，其目的是在大脑活动和眼球运动的交叉口中推进研究。我们的数据集EEGEYENET包括从三种不同实验范式中收集的356个不同受试者的同时脑电图（EEG）和眼睛跟踪（ET）录像。使用此数据集，我们还提出了一种评估EEG测量的凝视预测的基准。基准由三个任务组成，难度越来越高：左右，角度幅度和绝对位置。我们在该基准测试中运行大量实验，以便根据经典机器学习模型和大型神经网络提供实心基线。我们释放了我们的完整代码和数据，并提供了一种简单且易于使用的界面来评估新方法。

脑电图（EEG）是一种了解大脑如何处理语音的有力方法。为此目的，已通过深层神经网络替换了线性模型，并产生令人鼓舞的结果。在相关的脑电图分类字段中，表明明确建模主题不变特征可改善模型跨主题和福利分类精度的概括。在这项工作中，我们适应分解的分层变分自动编码器来利用同一刺激的平行脑电图记录。我们将脑电图模拟为两个分离的潜在空间。受试者的准确性分别在受试者和内容潜在空间上分别达到98.96％和1.60％，而二进制内容分类实验的精度分别达到了51.51％和62.91％的准确性，对受试者和内容潜在空间的准确性分别为51.51％和62.91％。

The key to electroencephalography (EEG)-based brain-computer interface (BCI) lies in neural decoding, and its accuracy can be improved by using hybrid BCI paradigms, that is, fusing multiple paradigms. However, hybrid BCIs usually require separate processing processes for EEG signals in each paradigm, which greatly reduces the efficiency of EEG feature extraction and the generalizability of the model. Here, we propose a two-stream convolutional neural network (TSCNN) based hybrid brain-computer interface. It combines steady-state visual evoked potential (SSVEP) and motor imagery (MI) paradigms. TSCNN automatically learns to extract EEG features in the two paradigms in the training process, and improves the decoding accuracy by 25.4% compared with the MI mode, and 2.6% compared with SSVEP mode in the test data. Moreover, the versatility of TSCNN is verified as it provides considerable performance in both single-mode (70.2% for MI, 93.0% for SSVEP) and hybrid-mode scenarios (95.6% for MI-SSVEP hybrid). Our work will facilitate the real-world applications of EEG-based BCI systems.

将动物行为与大脑活动相关是神经科学的基本目标，具有建立强大的脑机接口的实际应用。但是，个人之间的域间差距是一种重大问题，可以防止对未标记科目工作的一般模型的培训。由于现在可以从无手动干预的多视图视频序列可以可靠地提取3D构成数据，我们建议使用它来指导神经动作表示的编码以及利用显微镜成像的性质的一组神经和行为增强。为了减少域间差距，在培训期间，我们跨越似乎正在执行类似行动的动物交换神经和行为数据。为了证明这一点，我们在三个非常不同的多模式数据集上测试我们的方法;特征是苍蝇和神经活动的一种，其中一个包含人类神经电压（ECOG）数据，最后是来自不同观点的人类活动的RGB视频数据。

这项工作的目的是通过利用视频中的音频和视觉流的自然共同发生来研究语音重建（视频到音频）对语音重建（视频到音频）的影响。我们提出了Lipsound2，其包括编码器 - 解码器架构和位置感知注意机制，可直接将面部图像序列映射到熔化谱图，而无需任何人类注释。提出的Lipsound2模型首先在$ 2400H的$ 2400h多语言（例如英语和德语）视听数据（VoxceleB2）上进行预先培训。为了验证所提出的方法的概括性，我们将在与以前的方法相比，微调在域特定数据集（网格，TCD-Timit）上进行预先训练的模型，以实现对语音质量和可懂度的显着提高扬声器依赖和依赖的设置。除了英语外，我们还在CMLR数据集上进行中文语音重建，以验证对转移性的影响。最后，我们通过微调在预先训练的语音识别系统上产生生成的音频并在英语和中文基准数据集中实现最先进的性能来培训级联唇读（视频到文本）系统。