Génération de texte par apprentissage antagoniste utilisant des vecteurs skip-thought

Les GANs (Generative Adversarial Networks) ont démontré des performances exceptionnelles dans les tâches liées à la génération d'images et au transfert de style. Dans le domaine du modélisation de la langue, les plongements de mots (word embeddings) tels que GLoVe et word2vec sont des méthodes de pointe pour l'application de modèles de réseaux neuronaux sur des données textuelles. Des tentatives ont été faites pour utiliser les GANs avec des plongements de mots pour la génération de texte. Cette étude présente une approche de génération de texte utilisant des plongements de phrases Skip-Thought avec des GANs basés sur des fonctions de pénalités de gradient et des mesures f. L'architecture proposée vise à reproduire le style d'écriture dans le texte généré en modélisant la manière d'exprimer au niveau phrastique tout au long des œuvres d'un auteur. De nombreux expériences ont été menées dans différents paramètres d'embedding sur une variété de tâches, y compris la génération conditionnelle de texte et la génération linguistique. Le modèle surpassent les réseaux basiques de génération de texte selon plusieurs métriques d'évaluation automatisées telles que BLEU-n, METEOR et ROUGE. De plus, l'applicabilité large et l'efficacité dans les tâches pratiques sont démontrées par les scores obtenus lors d'évaluations humaines.