Integration von Transformer und Paraphrase-Regeln für die Satzvereinfachung

Satzvereinfachung zielt darauf ab, die Komplexität eines Satzes zu reduzieren, während dessen ursprüngliche Bedeutung beibehalten wird. Aktuelle Modelle für die Satzvereinfachung haben Ideen aus maschinellen Übersetzungsforschungen übernommen und lernen Vereinfachungsabbildungsregeln implizit aus Normal-Vereinfachte-Satzpaaren. In dieser Arbeit untersuchen wir ein neues Modell, das auf einer mehrschichtigen und mehrkopfigen Aufmerksamkeitsarchitektur basiert, und schlagen zwei innovative Ansätze vor, um das Simple PPDB (A Paraphrase Database for Simplification) zu integrieren. Das Simple PPDB ist eine externe Paraphrasen-Wissensbasis, die eine breite Palette von realweltlichen Vereinfachungsregeln abdeckt. Die Experimente zeigen, dass die Integration zwei wesentliche Vorteile bietet: (1) Das integrierte Modell übertreffen mehrere Stand-of-the-Art-Basismodelle für Satzvereinfachung in der Literatur. (2) Durch die Analyse der Regelverwendung strebt das Modell an, genauere Vereinfachungsregeln auszuwählen. Der Code und die Modelle, die in dieser Arbeit verwendet wurden, sind unter https://github.com/Sanqiang/text_simplification verfügbar.