Induction de schémas hiérarchiques pour la génération de paraphrases

Nous proposons un modèle génératif de génération de paraphrases, qui favorise la diversité syntaxique en s’appuyant sur un croquis syntaxique explicite. Nous introduisons les Auto-encodeurs Variationnels Quantifiés à Raffinement Hiérarchique (HRQ-VAE), une méthode permettant d’apprendre des décompositions de représentations denses sous la forme d’une séquence de variables latentes discrètes effectuant des raffinements itératifs de granularité croissante. Cette hiérarchie de codes est apprise par apprentissage end-to-end et représente une information fine à grossière concernant l’entrée. Nous utilisons le HRQ-VAE pour encoder la forme syntaxique d’une phrase d’entrée sous la forme d’un parcours à travers cette hiérarchie, ce qui facilite la prédiction des croquis syntaxiques au moment du test. Des expériences étendues, incluant une évaluation humaine, confirment que le HRQ-VAE apprend une représentation hiérarchique de l’espace d’entrée et génère des paraphrases de meilleure qualité que les systèmes précédents.