本文介绍了我们的SEMEVAL2022任务的系统,该任务将字典光泽与单词嵌入匹配。我们专注于竞争的反向字典曲目,该字典将多语言光泽映射到重建矢量表示。更具体地说,模型将句子的输入转换为三种类型的嵌入:sgns,char和electra。我们提出了一些用于应用神经网络细胞,一般多语言和多任务结构以及对任务的语言敏捷技巧的实验。我们还提供了不同类型的单词嵌入和消融研究的比较,以提出有用的策略。我们最初的基于变压器的模型可实现相对较低的性能。但是,对不同递归方法的试验表明性能提高。我们提出的基于Elmob的单语言模型可实现最高的结果,其多任务和多语言品种也显示出竞争性的结果。
translated by 谷歌翻译