We present SODA: the first publicly available, million-scale high-quality social dialogue dataset. Using SODA, we train COSMO: a generalizable conversation agent outperforming previous best-performing agents on both in- and out-of-domain datasets. In contrast to most existing crowdsourced, small-scale dialogue corpora, we distill 1.5M socially-grounded dialogues from a pre-trained language model (InstructGPT; Ouyang et al., 2022). Dialogues are distilled by contextualizing social commonsense knowledge from a knowledge graph (Atomic10x; West et al., 2022). Human evaluation shows that dialogues in SODA are more consistent, specific, and (surprisingly) natural than prior human-authored datasets - e.g., DailyDialog (Li et al., 2017), BlendedSkillTalk (Smith et al., 2020). In addition, extensive evaluations show that COSMO is significantly more natural and consistent on unseen datasets than best-performing dialogue models - e.g., GODEL (Peng et al., 2022), BlenderBot (Roller et al., 2021), DialoGPT (Zhang et al., 2020). Furthermore, it is sometimes even preferred to the original human-written gold responses. We make our data, models, and code public.
translated by 谷歌翻译
使用样式转移模型来降低社交媒体评论的侵犯性可以帮助促进更具包容性的环境。但是，没有大量的数据集包含令人反感的文本及其不利的同行，并且具有有限标记数据的微调预审计模型可以导致样式传递文本中原始含义的丧失。为了解决这个问题，我们提供了两个主要贡献。首先，我们发布了第一个公开可用的，平行的反击红色评论及其风格转让的评论，由专家社会语言学家注释。然后，我们介绍了第一个话语感知的样式转移模型，这些模型可以有效地降低Reddit文本中的进攻性，同时保留原始文本的含义。这些模型是第一个检查评论与文本之间回复的推论链接的模型，以转移进攻性reddit文本的样式。我们提出了两种不同的方法，将话语关系与预验证的变压器模型集成在一起，并在我们的Reddit及其无罪分子同行的进攻评论的数据集中对其进行评估。相对于自动指标和人类评估的基线的改进表明，与最先进的话语 - 不可思议的模型相比，我们的话语感知模型在保持样式转移文本的含义方面更好。
translated by 谷歌翻译
拟人化是一种语音人物，它赋予无生命实体具有属性和行动，通常被视为需要动画。在本文中，我们探讨了人格化生成的任务。为此，我们提出了菠萝：通过获取平行的人格化数据来学习增强的产生，来拟人化无生命的实体。我们策划了一个名为PersonifCorp的拟人化语料库，并自动生成了这些拟人化的文字化。我们通过训练SEQ2SEQ模型来拟人化给定的文字输入，从而证明了该平行语料库的有用性。自动评估和人类评估都表明，通过人格科目进行微调会带来与人格化相关的素质（例如动画和兴趣）的显着提高。详细的定性分析还强调了菠萝在基准上的关键优势和瑕疵，表明具有强大的能力产生多样化和创造性的拟人化，从而增强了句子的整体吸引力。
translated by 谷歌翻译
当个人指出或谈论其他人的话语时，语言永久不平等的能力最为明显。尽管当前对NLP中偏见的研究主要依赖于对特定群体的仇恨言论或偏见，但我们认为我们可以通过建模说话者，文本和目标来对偏见与语言使用之间的相互作用的相互作用更加微妙和细微的理解在文字中。在本文中，我们介绍了一个由美国国会议员注释的3033个英语推文的数据集，并介绍了人际情绪的注释，并对人际关系成员标签进行了“找到监督”。我们发现，诸如愤怒和厌恶之类的负面情绪主要用于群体外部情况，主要针对对方领导人。虽然人类可以表现出色，而不是鉴定人际群体成员资格的机会，但神经模型的表现要好得多。此外，人际关系成员资格和人际关系情感之间的共同编码使后者有一些表现的提高。这项工作旨在将NLP中偏见的研究从特定的偏见中重新调整为封装说话者，文本，目标和社会动态之间关系的偏见。本文的数据和代码可从https://github.com/venkatasg/interpersonal-dynamics获得
translated by 谷歌翻译
舌头是有意义的句子，难以发音。自动产生舌头扭曲的过程具有挑战性，因为产生的话语必须立即满足两个条件：语音难度和语义含义。此外，语音难度本身很难表征，并且通过异质的现象（例如垂涎和谐音）的异质组合以自然的扭曲词来表达。在本文中，我们提出了Pancetta：音素意识到的神经完成，以自动引起舌头扭曲。我们利用音素表示来捕获语音难度的概念，并训练语言模型以在两个提出的任务设置上生成原始的舌头扭曲。为此，我们策划了一个名为Pancetta的数据集，该数据集由现有的英语舌头组成。通过自动和人类评估以及定性分析，我们表明pancetta产生了新颖，语音上的困难，流利和语义上有意义的舌头扭曲。
translated by 谷歌翻译
调查对话者的合作性是研究对话的语用学的核心。仅假设合作社的对话模型无法解释战略对话的动态。因此，我们研究了代理在完成并发视觉底盘任务时识别非合作对话者的能力。在这种新颖的环境中，我们研究了实现这一多任务目标的沟通策略的最佳性。我们使用学习理论的工具来开发一种理论模型来识别非合作对话者，并将该理论应用于分析不同的交流策略。我们还介绍了关于猜测中有关图像的非合作对话的语料库？De Vries等人提出的数据集。（2017）。我们使用强化学习在这种情况下实施多种交流策略，并发现经验结果证明了我们的理论。
translated by 谷歌翻译
多类神经网络是现代无监督的领域适应性中的常见工具，但是在适应性文献中缺乏针对其非均匀样品复杂性的适当理论描述。为了填补这一空白，我们为多类学习者提出了第一个Pac-Bayesian适应范围。我们还提出了我们考虑的多类分布差异的第一个近似技术，从而促进了界限的实际使用。对于依赖Gibbs预测因子的分歧，我们提出了其他PAC-湾适应界限，以消除对蒙特卡洛效率低下的需求。从经验上讲，我们测试了我们提出的近似技术的功效以及一些新型的设计概念，我们在范围中包括。最后，我们应用界限来分析使用神经网络的常见适应算法。
translated by 谷歌翻译
类型多样的语言提供了词汇和语法方面的系统，使演讲者可以以与他们所面临的特定交流环境和话语约束的方式专注于事件结构的方面。在本文中，我们专门研究了阿拉伯语，中文，德语，德语，俄语和土耳其语的图像标题，并描述了预测词汇方面的计算模型。尽管这些语言具有异质性，以及在其标题语料库中对独特语言资源的显着调用，但这些语言的说话者在框架图像内容的方式方面表现出令人惊讶的相似之处。我们利用这种观察到零拍的跨语性学习，并表明，尽管没有观察到这种语言的任何带注释的数据，但可以预测给定语言的词汇方面。
translated by 谷歌翻译
许多教育技术使用人工智能（AI）向学习者提供生成或产生的语言。我们争辩说，所有语言，包括所有AI通信，编码有关为制备语言制作的人类或人类的身份的信息。然而，通过AI通信，用户可以索引与源不匹配的标识信息。如果与一个文化群体相关的语言被呈现为“标准”或“中性”，如果语言优势一个群体，或者语言强化负刻板印象，这会导致代表性危害。在这项工作中，我们讨论使用涉及从有针对性的人口组收集众包数据的视觉问题生成（VQG）任务的案例研究。生成的问题将呈现给人类评估人员，了解他们如何指定语言背后的身份，以及如何感知任何代表性危害，以及如何理想地解决AI通信造成的任何此类危害。我们反映了这项工作的教育应用，以及对平等，多样性和包容性的影响（EDI）。
translated by 谷歌翻译
我们调查使用图像中包含的多模式信息作为增强文本生成的变压器模型的勤义的有效方法。我们在概念到文本生成中使用BART和T5进行实验，特别是生成致辞推理或蒙的任务。我们称之为Visctg：视觉地基础的概念到文本生成。VisctG涉及代表适当日常方案的标题图像，并使用这些标题来丰富和转向生成过程。综合评估和分析表明，VisctG显着提高了模型性能，同时成功地解决了基线几代的几个问题，包括差的致辞，流畅性和特异性。
translated by 谷歌翻译