To facilitate research on text generation, this paper presents a comprehensive and unified library, TextBox 2.0, focusing on the use of pre-trained language models (PLMs). To be comprehensive, our library covers $13$ common text generation tasks and their corresponding $83$ datasets and further incorporates $45$ PLMs covering general, translation, Chinese, dialogue, controllable, distilled, prompting, and lightweight PLMs. We also implement $4$ efficient training strategies and provide $4$ generation objectives for pre-training new PLMs from scratch. To be unified, we design the interfaces to support the entire research pipeline (from data loading to training and evaluation), ensuring that each step can be fulfilled in a unified way. Despite the rich functionality, it is easy to use our library, either through the friendly Python API or command line. To validate the effectiveness of our library, we conduct extensive experiments and exemplify four types of research scenarios. The project is released at the link: https://github.com/RUCAIBox/TextBox.

Artificial Intelligence (AI) is having a tremendous impact across most areas of science. Applications of AI in healthcare have the potential to improve our ability to detect, diagnose, prognose, and intervene on human disease. For AI models to be used clinically, they need to be made safe, reproducible and robust, and the underlying software framework must be aware of the particularities (e.g. geometry, physiology, physics) of medical data being processed. This work introduces MONAI, a freely available, community-supported, and consortium-led PyTorch-based framework for deep learning in healthcare. MONAI extends PyTorch to support medical data, with a particular focus on imaging, and provide purpose-specific AI model architectures, transformations and utilities that streamline the development and deployment of medical AI models. MONAI follows best practices for software-development, providing an easy-to-use, robust, well-documented, and well-tested software framework. MONAI preserves the simple, additive, and compositional approach of its underlying PyTorch libraries. MONAI is being used by and receiving contributions from research, clinical and industrial teams from around the world, who are pursuing applications spanning nearly every aspect of healthcare.

在各种图像处理和计算机视觉任务中经常遇到颜色图像Denoising。一种传统的策略是将RGB图像转换为较小相关的颜色空间，并分别将新空间的每个通道定义。但是，这种策略无法完全利用渠道之间的相关信息，并且不足以获得令人满意的结果。为了解决这个问题，本文提出了一个新的多通道优化模型，用于在核定标准下减去Frobenius规范最小化框架下的颜色图像Deno。具体而言，基于块匹配，将颜色图像分解为重叠的RGB补丁。对于每个补丁，我们堆叠其相似的邻居以形成相应的补丁矩阵。提出的模型是在补丁矩阵上执行的，以恢复其无噪声版本。在恢复过程中，a）引入权重矩阵以充分利用通道之间的噪声差； b）单数值是自适应缩小的，而无需分配权重。有了他们，提议的模型可以在保持简单的同时取得有希望的结果。为了解决提出的模型，基于乘数框架的交替方向方法构建了准确有效的算法。每个更新步骤的解决方案可以在封闭式中分析表达。严格的理论分析证明了所提出的算法产生的解决方案序列会收敛到其各自的固定点。合成和真实噪声数据集的实验结果证明了所提出的模型优于最先进的模型。

在医学图像分析中需要进行几次学习的能力是对支持图像数据的有效利用，该数据被标记为对新类进行分类或细分新类，该任务否则需要更多的培训图像和专家注释。这项工作描述了一种完全3D原型的几种分段算法，因此，训练有素的网络可以有效地适应培训中缺乏的临床有趣结构，仅使用来自不同研究所的几个标记图像。首先，为了弥补机构在新型类别的情节适应中的广泛认识的空间变异性，新型的空间注册机制被整合到原型学习中，由分割头和空间对齐模块组成。其次，为了帮助训练观察到的不完美比对，提出了支持掩模调节模块，以进一步利用支持图像中可用的注释。使用589个骨盆T2加权MR图像的数据集分割了八个对介入计划的解剖结构的应用，该实验是针对介入八个机构的八个解剖结构的应用。结果证明了3D公式中的每种，空间登记和支持掩模条件的功效，所有这些条件都独立或集体地做出了积极的贡献。与先前提出的2D替代方案相比，不管支持数据来自相同还是不同的机构，都具有统计学意义的少量分割性能。

美国食品药品监督管理局（FDA）推荐的产品特定指南（PSG）对促进和指导通用药物产品开发有助于。为了评估PSG，FDA评估者需要花费大量时间和精力来手动从参考列出的药物标签中手动检索吸收，分布，代谢和排泄（ADME）的支持性药物信息。在这项工作中，我们利用最先进的预训练的语言模型自动将来自FDA批准的药物标签的药代动力学部分中的ADME段落标记，以促进PSG评估。我们通过微调从变形金刚（BERT）模型的预训练的双向编码器表示，采用了转移学习方法来开发新颖的ADME语义标签应用，可以自动从药物标签中自动检索ADME段落而不是手动工作。我们证明，对预训练的BERT模型进行微调可以胜过传统的机器学习技术，实现高达11.6％的绝对F1改进。据我们所知，我们是第一个成功应用BERT来解决ADME语义标签任务的人。我们进一步评估了使用一系列分析方法，例如注意力相似性和基于层的消融，进一步评估了预训练和微调对BERT模型整体性能的相对贡献。我们的分析表明，通过微调学到的信息集中在BERT的顶层中的特定于任务知识上，而预先训练的BERT模型的好处来自底层。

长尾分布式数据的分类是一个具有挑战性的问题，它遭受了严重的班级不平衡，因此只有几个样本的尾巴阶级表现不佳。由于样本的匮乏，在将预审计的模型转移到下游任务时，在尾部类中学习对于微调尤其具有挑战性。在这项工作中，我们简单地修改了标准微调，以应对这些挑战。具体而言，我们提出了一个两阶段的微调：我们首先用类平衡的重新释放损失微调了预审计模型的最后一层，然后我们执行标准的微调。我们的修改有几个好处：（1）仅通过微调模型参数的一小部分，同时保持其余部分未触及，从而利用了预告片； （2）它允许模型学习特定任务的初始表示；重要的是（3）它可以保护学习尾巴的学习免于模型更新期间处于不利地位。我们对文本分类的两类和多级任务的合成数据集进行了广泛的实验，以及用于ADME的现实世界应用（即吸收，分布，代谢和排泄）语义标记。实验结果表明，所提出的两阶段微调既优于传统损失，又超过了微调，并且在上述数据集上进行了重新调整损失。

在标签噪声下训练深神网络的能力很有吸引力，因为不完美的注释数据相对便宜。最先进的方法基于半监督学习（SSL），该学习选择小损失示例为清洁，然后应用SSL技术来提高性能。但是，选择步骤主要提供一个中等大小的清洁子集，该子集可俯瞰丰富的干净样品。在这项工作中，我们提出了一个新颖的嘈杂标签学习框架Promix，试图最大程度地提高清洁样品的实用性以提高性能。我们方法的关键是，我们提出了一种匹配的高信心选择技术，该技术选择了那些具有很高置信的示例，并与给定标签进行了匹配的预测。结合小损失选择，我们的方法能够达到99.27的精度，并在检测CIFAR-10N数据集上的干净样品时召回98.22。基于如此大的清洁数据，Promix将最佳基线方法提高了CIFAR-10N的 +2.67％，而CIFAR-100N数据集则提高了 +1.61％。代码和数据可从https://github.com/justherozen/promix获得

在这项工作中，我们提出了叙述，这是一种新颖的管道，可以以逼真的方式同时编辑肖像照明和观点。作为一种混合神经形态的面部模型，叙述了几何学感知生成方法和正常辅助物理面部模型的互补益处。简而言之，叙述首先将输入肖像转变为粗糙的几何形状，并采用神经渲染来产生类似于输入的图像，并产生令人信服的姿势变化。但是，反演步骤引入了不匹配，带来了较少面部细节的低质量图像。因此，我们进一步估计了师范的肖像，以增强粗糙的几何形状，从而创建高保真的物理面部模型。特别是，我们融合了神经和身体渲染，以补偿不完善的反转，从而产生了现实和视图一致的新颖透视图像。在重新阶段，以前的作品着重于单一视图肖像重新审议，但也忽略了不同观点之间的一致性，引导不稳定和不一致的照明效果以进行视图变化。我们通过将其多视图输入正常地图与物理面部模型统一，以解决此问题。叙事通过一致的正常地图进行重新进行重新，施加了跨视图的约束并表现出稳定且连贯的照明效果。我们在实验上证明，叙述在先前的工作中取得了更现实的，可靠的结果。我们进一步使用动画和样式转移工具进行介绍，从而分别或组合姿势变化，灯光变化，面部动画和样式转移，所有这些都以摄影质量为单位。我们展示了生动的自由视图面部动画以及3D感知可靠的风格化，可帮助促进各种AR/VR应用程序，例如虚拟摄影，3D视频会议和后期制作。

数据增强是自然语言处理（NLP）模型的鲁棒性评估的重要组成部分，以及增强他们培训的数据的多样性。在本文中，我们呈现NL-Cogmenter，这是一种新的参与式Python的自然语言增强框架，它支持创建两个转换（对数据的修改）和过滤器（根据特定功能的数据拆分）。我们描述了框架和初始的117个变换和23个过滤器，用于各种自然语言任务。我们通过使用其几个转换来分析流行自然语言模型的鲁棒性来证明NL-Upmenter的功效。基础架构，Datacards和稳健性分析结果在NL-Augmenter存储库上公开可用（\ url {https://github.com/gem-benchmark/nl-augmenter}）。

机器学习模型，尤其是深层模型，可能无意地记住有关其培训数据的信息。因此，恶意攻击者可以通过Membership推论攻击或模型反转攻击攻击模型来窃取一些关于培训数据的财产。一些法规，如欧盟的GDPR，颁布了“遗忘的权利”，以保护用户的数据隐私，加强个人对数据的主权。因此，从培训的模型中删除培训数据信息已成为一个关键问题。在本文中，我们提出了一种基于GAN的算法来删除深层模型中的数据，与从头开始的再培训相比，显着提高了删除速度，特别是在复杂的场景中。我们已经尝试过五个常用的数据集，实验结果表明了我们的方法的效率。