在基于Transformer的AMR解析中融入图信息

摘要意义表示（AMR）是一种语义解析形式主义，旨在为给定文本提供一个语义图抽象。目前的方法主要基于自回归语言模型，如BART或T5，通过教师强制（Teacher Forcing）微调以从句子中获得AMR图的线性化版本。在本文中，我们介绍了LeakDistill，这是一种探索对Transformer架构进行修改的模型和方法，通过使用结构适配器将图信息显式地融入学习表示中，从而提高AMR解析性能。我们的实验表明，通过在训练时利用词到节点的对齐将图结构信息嵌入编码器，即使不使用额外数据，也可以通过自知识蒸馏获得最先进的AMR解析效果。我们已将代码发布在 \url{http://www.github.com/sapienzanlp/LeakDistill}。