修剪技术已成功地用于神经网络中，以交易稀疏性。但是，网络修剪的影响并不统一：先前的工作表明，数据集中代表性不足类的召回可能会受到更大的负面影响。在这项工作中，我们通过假设模型固有的强化效应来研究回忆中的这种相对扭曲。也就是说，修剪的召回率对于以下召回精度的课程相对较差，相反，它使召回率相对较好，对于上述准确性的课程相对较好。此外，我们提出了一种旨在减弱这种效果的新修剪算法。通过统计分析，我们观察到，我们的算法的强度不那么严重，但是随着相对较困难的任务，较不复杂的模型和更高的修剪比率更为明显。更令人惊讶的是，我们相反观察到具有较低的修剪比的脱敏作用。
translated by 谷歌翻译
如果神经网络更大，即使所产生的模型过度参数化，神经网络也倾向于通过训练获得更好的准确性。然而，在训练之前，期间或之后，仔细删除此类多余参数也可能会产生具有相似精度甚至提高的模型。在许多情况下，可以通过启发式方法奇怪地实现，就像去除具有最小绝对价值的权重一样 - 即使幅度并不是重量相关性的完美代理。以这样的前提是，从修剪中获得更好的性能取决于删除多个权重的综合效果的考虑，我们重新审视了基于影响的基于撞击的经典方法之一：最佳脑外科医生（obs）。我们提出了一种可拖动的启发式方法，用于求解OBS的组合扩展，其中我们选择了同时删除的权重，以及剩余权重的系统更新。我们的选择方法在高稀疏性下的其他方法优于其他方法，即使与其他方法结合使用，重量更新也是有利的。
translated by 谷歌翻译
Deep Reinforcement Learning (RL) agents are susceptible to adversarial noise in their observations that can mislead their policies and decrease their performance. However, an adversary may be interested not only in decreasing the reward, but also in modifying specific temporal logic properties of the policy. This paper presents a metric that measures the exact impact of adversarial attacks against such properties. We use this metric to craft optimal adversarial attacks. Furthermore, we introduce a model checking method that allows us to verify the robustness of RL policies against adversarial attacks. Our empirical analysis confirms (1) the quality of our metric to craft adversarial attacks against temporal logic properties, and (2) that we are able to concisely assess a system's robustness against attacks.
translated by 谷歌翻译
Fighting online hate speech is a challenge that is usually addressed using Natural Language Processing via automatic detection and removal of hate content. Besides this approach, counter narratives have emerged as an effective tool employed by NGOs to respond to online hate on social media platforms. For this reason, Natural Language Generation is currently being studied as a way to automatize counter narrative writing. However, the existing resources necessary to train NLG models are limited to 2-turn interactions (a hate speech and a counter narrative as response), while in real life, interactions can consist of multiple turns. In this paper, we present a hybrid approach for dialogical data collection, which combines the intervention of human expert annotators over machine generated dialogues obtained using 19 different configurations. The result of this work is DIALOCONAN, the first dataset comprising over 3000 fictitious multi-turn dialogues between a hater and an NGO operator, covering 6 targets of hate.
translated by 谷歌翻译
图神经网络（GNN）是一类流行的机器学习模型。受到学习解释（L2X）范式的启发，我们提出了L2XGNN，这是一个可解释的GNN的框架，该框架通过设计提供了忠实的解释。L2XGNN学习了一种选择解释性子图（主题）的机制，该机制仅在GNNS消息通话操作中使用。L2XGNN能够为每个输入图选择具有特定属性的子图，例如稀疏和连接。对主题施加这种限制通常会导致更容易解释和有效的解释。几个数据集的实验表明，L2XGNN使用整个输入图实现了与基线方法相同的分类精度，同时确保仅使用提供的解释来进行预测。此外，我们表明L2XGNN能够识别负责预测图形属性的主题。
translated by 谷歌翻译
本文介绍了AILAB-UDINE团队为SMM4H 22共享任务开发的模型。我们探索了基于变压器的模型在文本分类，实体提取和实体归一化，解决任务1、2、5、6和10的极限。使用集合学习时的不同体系结构，以及生成模型的巨大潜力，以实现术语归一化。
translated by 谷歌翻译
在过去的十年中，越来越多的用户开始在社交媒体平台，博客和健康论坛上报告不良药物事件（ADE）。鉴于大量报告，药物宣传的重点是使用自然语言处理（NLP）技术快速检查这些大量文本收集的方法，从而提到了与药物相关的不良反应对触发医学调查的提及。但是，尽管对任务和NLP的进步越来越兴趣，但面对语言现象（例如否定和猜测），这些模型的鲁棒性是一个公开的研究问题。否定和猜测是自然语言中普遍存在的现象，可以严重阻碍自动化系统区分文本中事实和非事实陈述的能力。在本文中，我们考虑了在社交媒体文本上进行ADE检测的四个最新系统。我们介绍了Snax，这是一种基准测试，以测试其性能，以对包含被否定和推测的ADE的样品进行样本，显示它们针对这些现象的脆弱性。然后，我们引入了两种可能提高这些模型的鲁棒性的可能策略，表明它们俩都带来了大幅提高性能，从而将模型预测的伪造实体数量降低了60％以否定为否定，而猜测为80％。
translated by 谷歌翻译
本文介绍了基于2022年国际生物识别技术联合会议（IJCB 2022）举行的基于隐私感知合成训练数据（SYN-MAD）的面部变形攻击检测的摘要。该竞赛吸引了来自学术界和行业的12个参与团队，并在11个不同的国家 /地区举行。最后，参与团队提交了七个有效的意见书，并由组织者进行评估。竞争是为了介绍和吸引解决方案的解决方案，这些解决方案涉及检测面部变形攻击的同时，同时出于道德和法律原因保护人们的隐私。为了确保这一点，培训数据仅限于组织者提供的合成数据。提交的解决方案提出了创新，导致在许多实验环境中表现优于所考虑的基线。评估基准现在可在以下网址获得：https：//github.com/marcohuber/syn-mad-2022。
translated by 谷歌翻译
每小时，大量的视觉内容都会发布在社交媒体和用户生成的内容平台上。为了通过自然语言查询找到相关的视频，在过去几年中，文本视频检索方法受到了越来越多的关注。引入了数据增强技术，以通过应用语义保护技术（例如色彩空间或图像上的几何变换）创建新的训练样本，以提高看不见的测试示例的性能。但是，这些技术通常应用于原始数据，从而导致更多资源要求解决方案，并且还需要具有原始数据的共享性，这可能并不总是如此，例如电影或电视连续剧的剪辑中的版权问题。为了解决这个缺点，我们提出了一种多模式数据增强技术，该技术在功能空间中起作用，并通过混合语义上相似的样本来创建新的视频和字幕。我们在大型公共数据集（Epic-Kitchens-100）上实验解决方案，并对基线方法，改进的最新性能取得了可观的改进，同时进行了多次消融研究。我们在https://github.com/aranciokov/fsmmda_videoretrieval上在github上发布代码和预估计的模型。
translated by 谷歌翻译
在过去的几年中，无监督的域适应性（UDA）技术在计算机视觉中具有显着的重要性和流行。但是，与可用于图像的广泛文献相比，视频领域仍然相对尚未探索。另一方面，动作识别模型的性能受到域转移的严重影响。在本文中，我们提出了一种简单新颖的UDA方法，以供视频动作识别。我们的方法利用了时空变压器的最新进展来构建一个强大的源模型，从而更好地概括了目标域。此外，由于引入了来自信息瓶颈原则的新颖对齐损失术语，我们的架构将学习域不变功能。我们报告了UDA的两个视频动作识别基准的结果，显示了HMDB $ \ leftrightArrow $ ucf的最新性能，以及动力学$ \ rightarrow $ nec-Drone，这更具挑战性。这证明了我们方法在处理不同级别的域转移方面的有效性。源代码可在https://github.com/vturrisi/udavt上获得。
translated by 谷歌翻译